अमेरिका के फिलाडेल्फिया में स्थित पेंसिल्वेनिया विश्वविद्यालय के शोधकर्ताओं ने एक हैरान करने वाला खुलासा किया है। अध्ययन के अनुसार, लोग एआई की ओर से दिए गए गलत जवाबों को भी 80 मामलों में सही मान लेते हैं। यह सिस्टम 3 यानी कृत्रिम संज्ञान (Artificial Cognition) का उदय है, जहां हम अपनी सोच को मशीनों को आउटसोर्स कर रहे हैं।
How AI affects human reasoning: नए शोध थिंकंग फास्ट, स्लो और आर्टिफिशियल(Thinking—Fast, Slow, and Artificial) के अनुसार, एआई की वजह से इंसान संज्ञानात्मक समर्पण यानी की कॉग्नेटिव सरेंडर का शिकार हो रहा है। लोग एआई के आत्मविश्वास भरे लहजे से इतने प्रभावित हैं कि वे गलत सूचनाओं की भी जांच नहीं करते। अध्ययन में पाया गया कि एआई के गलत होने पर भी 80 प्रतिशत लोगों ने उसे सच मान लिया, जिससे न केवल उनकी तर्क-शक्ति कम हो रही है, बल्कि उनमें एक झूठा आत्मविश्वास भी पैदा हो रहा है।
Risks of using AI for decision making: आखिर सिस्टम 3 क्या है ओर इसके खतरें भी जानें?
Tri-System Theory: ट्राय-सिस्टम थ्योरी
अब तक माना जाता था कि इंसान दो तरह से सोचता है: सिस्टम 1 (तेज और सहज सोच) और System 2 (धीमी और विश्लेषणात्मक सोच)
लेकिन अब सिस्टम 3 भी आ गया है। इसमें इंसान अपनी सोचने की प्रक्रिया पूरी तरह से एआई पर सौंप रहा है। शोधकर्ताओं का कहना है कि लोग अब तर्क करने के बजाय मशीनी जवाबों को अंतिम सत्य मानने लगे हैं।
Thinking Fast Slow and Artificial research: 80% मामलों में गलत एआई को भी माना सच
शोधकर्ताओं ने कॉग्निटिव रिफ्लेक्शन टेस्ट (CRT) के जरिए प्रयोग किया। जिसमें समाने आया कि जब एआई सही था, तो लोगों का प्रदर्शन बेहतर हुआ, लेकिन जब एआई ने जानबूझकर गलत जबाव देना शुरू किया, तब भी 80 प्रतिशत यूजर्स ने बिना सोचे-समझे उन गलतियों को स्वीकार कर लिया। वहीं, सिर्फ 20 प्रतिशत लोग ऐसे थे, जो कम मामलों में एआई के गलत तर्क को चुनौती दी या उसे सुधारा।
Fake confidence from AI: और भी परेशान करने वाली बाते आईं सामने...
इस शोध में सबसे हैरानी वाली यह यह रही कि एआई का उपयोग करने वाले लोग अपने गलत जवाबों को लेकर भी बहुत अधिक आत्मविश्वासी रहे। ऐसे में यह देखा गया कि एआई के बात करने का तरीका इतना धाराप्रवाह और आत्मविश्वासपूर्ण है, कि यूजर को लगत है कि मशीन तो कभी गलत हो ही नहीं सकती। ऐसे में चिंता का विषय है कि ये झूठा आत्मविश्वास भविष्य में बड़े निर्णयों में घातक साबित हो सकता है।
तो क्या AI पर निर्भरता हमेशा बुरी है?
नहीं...अध्ययन यह भी कहता है कि एआई हमेशा गलत नहीं हो सकता। अगर एआई सिस्टम सटीक है, तो ये इंसानी उत्पादकता और प्रदर्शन को कई गुना बढ़ा देता है। समस्या तब शुरू होती है जब हम सक्रिया निगरानी बंद कर देते है, यानी की जो क्रॉस चेक वगैरा बंद कर देते हैं। क्योंकि जो लोग स्वभाव से अधिक विश्लेषणात्मक होते हैं, वे अभी भी एआई की गलतियां पकड़ पा रहे हैं, लेकिन उनकी संख्या बहुत कम है।
सावधानी ही बचाव है
शोधकर्ताओं का कहना है कि एआई का उपयोग टूल की तरह ही करें, उसे अपना दिमाग न बनाएं। कैलकुलेटर या जीपीएस की तरह एआई के आउटपुट को भी दोबारा जरूर (Fact-check) जांचे, नहीं तो हम एक ऐसी पीढ़ी बन जाएंगे जो तकनीकी रूप से उन्नत तो होगी, लेकिन मानसिक रूप से विकास नहीं हो पाएगा।