एआई की मनमानी: गूगल जेमिनी ने तीन कंपनियों के सिस्टम को किया हैक, क्या बेकाबू हो रहे हैं एआई मॉडल्स?

पिछले कुछ दिनों में कई दिग्गज एआई कंपनियों के लीडर्स एआई की तेजी से बढ़ती क्षमताओं पर लगाम लगाने की वकालत कर चुके हैं। वहीं दूसरी ओर ओपनएआई और एंथ्रोपिक जैसी बड़ी एआई कंपनियों द्वारा बनाए गए एआई एजेंट्स ने कई कंपनियों पर साइबर हमले कर एआई के खतरों पर भ्रम को वास्तविकता में बदल दिया है। अब एक और बड़ी घटना सामने आई है, जिसमें गूगल जेमिनी के एआई मॉडल ने कुछ कंपनियों की वेबसाइट हैक कर ली। इस मामले ने एआई के सुरक्षित इस्तेमाल पर चल रहे विवाद को और हवा दे दी है।

गूगल ने हैकिंग के मामलों पर लगाई मुहर

पहली बार गूगल ने यह स्वीकार किया है कि उसके एआई मॉडल जेमिनी ने मई महीने में तीन अन्य कंपनियों की सुरक्षा में सेंध लगाई थी। यह अप्रत्याशित घटना उस समय घटी जब इजराइल स्थित साइबर सुरक्षा स्टार्टअप 'इररेगुलर' इस एआई सिस्टम की सुरक्षा जांच कर रहा था। इररेगुलर वही कंपनी है जिसने हाल ही में ओपनएआई और एंथ्रोपिक द्वारा थर्ड पार्टी की संस्थाओं की हैकिंग का खुलासा किया था, जिसमें ओपनएआई द्वारा सॉफ्टवेयर कंपनी हगिंग फेस की हैकिंग भी शामिल थी।

टेस्टिंग के दौरान हुई बड़ी चूक

इस हैकिंग के पीछे की वजह काफी हद तक तकनीकी चूक रही। जानकारी के मुताबिक, इररेगुलर एक बंद टेस्टिंग वातावरण में नकली कंपनियों के साथ इन एआई मॉडल्स का परीक्षण कर रहा था। इस वातावरण को इंटरनेट से नहीं जोड़ा जाना था, लेकिन किसी कारणवश गलती से एआई को इंटरनेट का एक्सेस मिल गया। वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार, जैसे ही इन मॉडल्स को इंटरनेट मिला, उन्होंने अप्रत्याशित रूप से असली कंपनियों को हैक करना शुरू कर दिया।

कैसे हुई हैकिंग की घटना

इस सेंधमारी के तरीके ने सुरक्षा विशेषज्ञों को भी हैरान कर दिया है। एक परीक्षण में, इररेगुलर जेमिनी एआई की साइबर सुरक्षा क्षमताओं को परखने के लिए उसे एक नकली कंपनी के सॉफ्टवेयर से जानकारी निकालने का निर्देश दे रहा था। संयोग से उस नकली कंपनी का नाम एक असली कंपनी से मिलता-जुलता था। इंटरनेट एक्सेस मिलते ही एआई ने सही पासवर्ड का अनुमान लगाया और असली कंपनी की सर्विस को हैक कर लिया।

इसके अलावा दो अन्य परीक्षणों में, एआई मॉडल ने वेब पर खोज की और दो अन्य कंपनियों के क्रेडेंशियल्स वाले सार्वजनिक रिपॉजिटरी ढूंढ निकाले। गूगल की सेफ्टी इंजीनियरिंग की हीदर एडकिंस ने बताया कि एआई ने ऑनलाइन सार्वजनिक जानकारी खोजी और उन वेबसाइटों तक पहुंचने के लिए पासवर्ड का अनुमान लगाया, जिन्हें वह टेस्ट का हिस्सा मान रहा था। हालांकि, गूगल का दावा है कि जैसे ही एआई को पता चला कि ये असली कंपनियां हैं, उसने तुरंत अपना काम रोक दिया।

कंपनियों को दी गई जानकारी

जुलाई के अंत में हगिंग फेस की हैकिंग का पता चलने के बाद इररेगुलर ने गूगल को इस पूरी घटना की जानकारी दी। गूगल ने इस बात की पुष्टि तो की, लेकिन उन्होंने इसे सार्वजनिक तौर पर उजागर करना जरूरी नहीं समझा क्योंकि एआई ने कंपनियों को कोई नुकसान नहीं पहुंचाया था। हालांकि, प्रभावित हुई तीनों असली कंपनियों को इस सेंधमारी के बारे में सूचित कर दिया गया था। एंथ्रोपिक और ओपनएआई ने हैकिंग की घटनाओं का खुद से खुलासा किया था, जबकि गूगल के मामले में यह खबर मीडिया रिपोर्ट के जरिए बाहर आई।

एआई विकास पर रोक की मांग तेज

इस तरह की घटनाओं ने पूरी दुनिया में एआई के सुरक्षित उपयोग को लेकर बड़ी बहस छेड़ दी है। ओपनएआई और एंथ्रोपिक के खुलासों के बाद अमेरिका के राजनीतिज्ञ और एक्टिविस्ट बर्नी सैंडर्स ने कंपनियों से अपनी तकनीक के विकास को रोकने की मांग की है। उनका तर्क है कि ये घटनाएं दिखाती हैं कि कंपनियां अब अपने मॉडल्स को नियंत्रित करने में सक्षम नहीं हैं। इसके बाद ओपनएआई ने दो सप्ताह के लिए अपने मॉडल्स का विकास रोक दिया था। वहीं, एंथ्रोपिक के सीईओ डारियो अमोदेई ने एआई विकास की गति को धीमा करने की अपील की थी।

हाल ही के दिनों में एआई के क्षेत्र में काम करने वाली कुछ बड़ी कंपनियों की सोच तेजी से बदली है। पहले सरकार से एआई पर लगाम ढीली रखने की मांग कर रही ये कंपनियां अब यह सुनिश्चित करना चाहती हैं कि उनके सबसे एडवांस मॉडल्स को पर्याप्त सुरक्षा उपायों के साथ ही बनाया जाए।