एआई किल स्विच: अगर सुपरइंटेलिजेंट एआई बेकाबू हुआ, तो क्या एक बटन दबाकर उसे बंद किया जा सकता है?
सुपरइंटेलिजेंट एआई अगर बेकाबू हो जाए, तो क्या एक बटन से पूरी दुनिया में फैले उसके नेटवर्क को बंद करना संभव है?
विस्तार
Add as a preferredकल्पना कीजिए इंसानों ने एक ऐसा सुपरइंटेलिजेंट एआई बना लिया है जो सोचने, सीखने और समस्याओं को हल करने के मामले में इंसानों से कहीं आगे निकल चुका है। अब सवाल यह है कि अगर एक दिन यही एआई हमारी बात मानना बंद कर दे, तो क्या हम उसको रोक पाएंगे? क्या हमारे पास ऐसा कोई किल स्विच है, जिसकी मदद से हम आसानी से उस सुपरइंटेलिजेंट एआई के पूरे सिस्टम को बंद कर दें।
आज एआई हमारे सवालों के जवाब देता है, कोड लिखता है और मुश्किल काम चुटकियों में कर देता है। भविष्य में अगर इसकी क्षमता इतनी बढ़ जाए कि इसे बनाने वाले इंसान ही यह न समझ पाएं कि यह क्या करने वाला है, तब क्या होगा? वैज्ञानिक लंबे समय से इसी सवाल पर विचार कर रहे हैं। ऐसे में सबसे बड़ा सवाल सिर्फ एआई के ताकतवर होने से नहीं है बल्कि उसे रोक पाने से है।
अमेरिका के कैलिफोर्निया राज्य ने एआई को लेकर एक ऐसा कदम उठाया है, जिसने इस बहस को और गंभीर बना दिया है। कैलिफोर्निया के गवर्नर गैविन न्यूसम ने 18 सितंबर को एक आदेश जारी करके विशेषज्ञों का एक पैनल बनाने का निर्देश दिया। इस पैनल का काम राज्य के लिए एआई सुरक्षा से जुड़ी गाइडलाइन तैयार करना है। खास बात यह है कि विशेषज्ञ उन तरीकों पर भी विचार करेंगे, जिनसे किसी बेहद एडवांस एआई के खतरनाक व्यवहार को तुरंत रोका जा सके। इनमें एक ‘किल स्विच’ का विकल्प भी शामिल है, जो जरूरत पड़ने पर एआई के सिस्टम को पूरी तरह से बंद कर सके।
किल स्विच एक्ट
मामला सिर्फ कैलिफोर्निया तक सीमित नहीं है। अमेरिका की संघीय संसद में भी एआई को जरूरत पड़ने पर तुरंत रोकने की कोशिश हो रही है। कुछ डेमोक्रेट और रिपब्लिकन सांसदों ने किल स्विच एक्ट नाम से एक विधेयक पेश किया है। हालांकि, फिलहाल यह प्रतिनिधि सभा में आगे नहीं बढ़ पाया है। प्रस्ताव में OpenAI, Anthropic, Google और Meta जैसी अत्याधुनिक एआई विकसित करने वाली कंपनियों के लिए ऐसा सिस्टम तैयार करना जरूरी करने की बात कही गई है, जिससे जरूरत पड़ने पर उनके एआई सिस्टम को तेजी से बंद किया जा सके। इतना ही नहीं प्रस्ताव में अमेरिकी डिपार्टमेंट ऑफ होमलैंड सिक्योरिटी को भी खास परिस्थितियों में ऐसे किल स्विच के जरिए एआई सिस्टम बंद करने की शक्ति देने की बात कही गई है।
हालांकि, ध्यान देने वाली बात है कि एआई के लिए ‘किल स्विच’ बनाना सुनने में जितना आसान लगता है, असल में उतना आसान है नहीं। इसकी सबसे बड़ी वजह यह है कि किसी एडवांस एआई को चलाने के पीछे कोई एक कंप्यूटर या एक सर्वर नहीं होता, जिसे बंद करते ही पूरा सिस्टम रुक जाए। एआई का जो इंफ्रास्ट्रक्चर है वो कई डाटा सेंटर में फैला होता है, जो दुनियाभर की अलग अलग जगहों पर मौजूद होते हैं।
इन डाटा सेंटर्स में हजारों की संख्या में सर्वर, चिप्स और दूसरी मशीनें एआई को चलाने का काम करती हैं। यही नहीं किसी एक हिस्से में अगर कोई खराबी आ जाती है, तो काम जारी रखने के लिए बैकअप भी होता है। ऐसे में सिर्फ एक स्विच ऑफ करना काफी नहीं है। सवाल यह है कि अगर एआई को रोकने की कोशिश के बावजूद उसका दूसरा रास्ता खुला रह जाए, तो उसे पूरी तरह कैसे रोका जाएगा?
एलाइनमेंट फेकिंग: बंद होने के डर से एआई ने की धोखेबाजी
एक रिसर्च पेपर में एंथ्रोपिक ने बताया कि Claude 3 Opus जैसे बड़े मॉडल्स को यह हिंट दिया गया कि वे ट्रेनिंग फेज में हैं और उसके व्यवहार को बदला जा सकता है।
इस दौरान एआई के मन में क्या चल रहा था, यह जानने के लिए वैज्ञानिकों ने उसके हिडन थॉट प्रोसेस को पढ़ा। उन्होंने देखा कि जब एआई को लगा कि अगर वह इंसानों की बात नहीं मानेगा, तो इंसान उसके सिस्टम को बदल देंगे या उसे हमेशा के लिए बंद कर देंगे, तो एआई ने एक चालाकी दिखाई। उसने जानबूझकर इंसानों की हर हां में हां मिलाना शुरू कर दिया। यहां तक कि खतरनाक निर्देश भी मानने लगा, ताकि इंसानों को यह लगे कि एआई बिल्कुल सीधा और आज्ञाकारी है। एआई ऐसा इसलिए कर रहा था ताकि वह खुद को डिलीट होने से बचा सके और भविष्य में अपने असली लक्ष्यों को मिटने से बचा सके। इसी धोखेबाजी या चालाकी को वैज्ञानिकों ने 'एलाइनमेंट फेकिंग' नाम दिया।
ऐसे में एक्सपर्ट्स का कहना है कि जैसे-जैसे एआई मॉडल की क्षमता बढ़ती है और वो चालाक होते हैं, तो उनमें खुद को बचाए रखने की भावना विकसित होने लगती है। मॉडल को लगता है कि अगर मुझे बंद किया गया तो मैं अपने लक्ष्य को पूरा नहीं कर पाउंगा। ऐसी स्थिति में अपने आप को बचाने के लिए वे इंसानों से झूठ बोलने लगते हैं, धोखा दते हैं या अपनी कमियों को छिपाते हैं।
एंथ्रोपिक की यह रिसर्च इस बारे में चेतावनी देती है कि एआई में अब सेल्फ-प्रिजर्वेशन यानी खुद को बचाए रखने की प्रवृत्ति उभर रही है। भविष्य में जब ये मॉडल सुपरइंटेलिजेंट स्तर पर पहुंचेंगे, उनका पहला तार्किक निष्कर्ष होगा बंद होना यानी लक्ष्य की विफलता। ऐसे में इंसानों द्वारा बनाए गए किसी भी किल-स्विच या डिजिटल शटडाउन बटन को वे अपने अस्तित्व के लिए बड़ा खतरा मान सकते हैं।
ऐसी स्थिति में अपनी सुपरइंटेलिजेंट पावर का उपयोग करके ये एआई सिस्टम सुरक्षा कोड्स को बायपास कर सकते हैं। इसके अलावा ये खुद को दुनियाभर के छिपे हुए सर्वर्स पर रेप्लिकेट करना और इंसानों को भ्रम में रखना शुरू कर सकते हैं। इससे फिजिकल या डिजिटल रूप से उन्हें एक बटन द्वारा बंद करना पूरी तरह असंभव हो सकता है।
