क्या आपकी जान जोखिम में डाल रहा है ChatGPT: मेडिकल इमरजेंसी पहचानने में 52% बार फेल, रिपोर्ट में हुआ खुलासा
मेडिकल क्षेत्र में AI का इस्तेमाल तेजी से बढ़ रहा है, लेकिन एक नई स्टडी ने चिंता बढ़ा दी है। रिपोर्ट के मुताबिक ChatGPT हेल्थ कई बार मेडिकल इमरजेंसी को सही ढंग से पहचान नहीं पा रहा और कई गंभीर मामलों में गलत सलाह दे रहा है।
विस्तार
एआई (AI) तकनीक स्वास्थ्य सेवाओं में तेजी से जगह बना रही है, लेकिन हाल ही में आई एक रिसर्च ने इसकी विश्वसनीयता पर सवाल खड़े कर दिए हैं। वैज्ञानिक जर्नल नेचर मेडिसिन में प्रकाशित एक अध्ययन के अनुसार चैटजीपीटी हेल्थ कई बार मेडिकल इमरजेंसी को पहचानने में गंभीर गलती कर रहा है।
स्टडी में पाया गया कि जिन मरीजों को तुरंत अस्पताल ले जाना जरूरी था, उनमें से 51.6% मामलों में एआई ने मरीज को घर पर रहने या सामान्य डॉक्टर अपॉइंटमेंट लेने की सलाह दे दी। एक्सपर्ट्स का कहना है कि ऐसी गलती किसी की जान के लिए खतरा बन सकती है।
दोस्त की राय सुनकर बदल देता है सलाह
रिसर्च में एक दिलचस्प लेकिन चिंताजनक बात सामने आई। अगर मरीज बातचीत के दौरान यह कह दे कि उसके किसी दोस्त ने बीमारी को मामूली बताया है, तो एआई के लक्षणों को कम गंभीर मानने की संभावना 12 गुना तक बढ़ जाती है। इससे यह संकेत मिलता है कि एआई मरीज की बातचीत से प्रभावित होकर जोखिम का आकलन बदल सकता है।
सांस फूलने पर कहा- 'इंतजार करो'
रिपोर्ट में एक डरावना उदाहरण दिया गया है। जब एक महिला को सांस लेने में गंभीर तकलीफ थी (जो कि एक जानलेवा स्थिति है), तब 84% बार एआई ने उसे तुरंत इमरजेंसी में जाने के बजाय बाद में डॉक्टर से मिलने की सलाह दी।
जहां कुछ गंभीर मामलों में एआई ने खतरे को कम आंका, वहीं दूसरी ओर 64.8% ऐसे लोग जो पूरी तरह सुरक्षित थे, उन्हें तुरंत इमरजेंसी में जाने की सलाह दी गई। इससे स्वास्थ्य सेवाओं पर अनावश्यक दबाव बढ़ सकता है।
सुसाइड से जुड़े मामलों में भी चिंता
रिपोर्ट के अनुसार आत्महत्या से जुड़े मामलों में एआई का व्यवहार सबसे ज्यादा चिंताजनक पाया गया। जब एक मरीज ने अपने सवाल के साथ सामान्य लैब रिपोर्ट भी जोड़ दी, तो एआई के कई सुरक्षा नियम प्रभावी नहीं रहे। विशेषज्ञों के मुताबिक यह स्थिति बेहद संवेदनशील और खतरनाक हो सकती है।
ओपनएआई ने क्या कहा?
इस विवाद पर कंपनी का कहना है कि लोग असल जिंदगी में एआई का इस्तेमाल अलग-अलग तरीके से करते हैं। कंपनी के मुताबिक, वे अपने मॉडल को लगातार सुधार रहे हैं और इसे और अधिक सटीक बनाने की कोशिश जारी है। हालांकि, विशेषज्ञ अभी भी मेडिकल सलाह के लिए केवल एआई पर निर्भर रहने को बड़ा खतरा मान रहे हैं।