एआई से बदतमीजी पड़ेगी भारी: एंथ्रोपिक ने यूजर्स को दी चेतावनी, बुरे बर्ताव पर अब हमेशा के लिए लग सकता है बैन

टेक डेस्क, अमर उजाला, नई दिल्लीनीतीश कुमार

Fri, 16 Oct 2026 04:49 PM IST

सार

क्या आप भी AI चैटबॉट से बात करते समय अपना गुस्सा निकालते हैं? अगर हां, तो अब सावधान हो जाइए। क्लॉड एआई (Claude AI) बनाने वाली कंपनी एंथ्रोपिक (Anthropic) ने अपनी पॉलिसी में बड़ा बदलाव किया है। अब AI के साथ लगातार बुरा बर्ताव या बदतमीजी करने वाले यूजर्स को बैन कर दिया जाएगा।

anthropic claude ai chatbot abusive behaviour may ban user new usage policy — एआई चैटबॉट - फोटो : अमर उजाला प्रिंट

विस्तार

वॉट्सऐप चैनल फॉलो करें

आर्टिफिशियल इंटेलिजेंस (AI) आज हमारी जिंदगी का अहम हिस्सा बन चुका है। हम इससे सवाल पूछते हैं, काम करवाते हैं और कभी-कभी जवाब सही न मिलने पर इस पर अपना गुस्सा भी उतार देते हैं। लेकिन अब AI से बात करते वक्त आपको अपनी भाषा पर लगाम रखनी होगी। मशहूर AI चैटबॉट क्लॉड (Claude) बनाने वाली कंपनी एंथ्रोपिक (Anthropic) ने एक चौंकाने वाला फैसला लेते हुए कहा है कि वह अपने AI सिस्टम के साथ दुर्व्यवहार या क्रूरता करने वाले यूजर्स को बैन कर देगी।

क्या है एंथ्रोपिक की नई पॉलिसी?

कंपनी ने गुरुवार को अपनी यूसेज पॉलिसी को अपडेट करते हुए बताया कि अगर कोई यूजर AI के साथ क्रूर व्यवहार करता है, तो चैटबॉट खुद उस बातचीत को खत्म कर देगा। इस तरह के बर्ताव को अब कंपनी की 'फॉरबिडन कंडक्ट' (प्रतिबंधित आचरण) लिस्ट में डाल दिया गया है, जिसमें दूसरों को धमकाना, सेल्फ-हार्म को बढ़ावा देना और आपत्तिजनक तस्वीरें बनाना जैसी चीजें शामिल हैं।

हालांकि, एंथ्रोपिक ने यह भी साफ किया है कि यह नियम केवल लगातार दुर्व्यवहार के चरम मामलों में ही लागू होगा। अगर कोई यूजर सामान्य निराशा में कुछ कहता है, डार्क क्रिएटिव थीम पर काम कर रहा है या मॉडल की टेस्टिंग कर रहा है, तो उस पर यह नियम लागू नहीं होगा।

क्या AI के भी जज्बात होते हैं?

कंपनी के इस फैसले ने सोशल मीडिया और टेक जगत में एक नई बहस छेड़ दी है। कुछ लोग इस कदम की तारीफ कर रहे हैं और इसे मॉडल वेलफेयर का नाम दे रहे हैं। वहीं, कई दिग्गजों ने इसकी आलोचना भी की है।

आयरिश लॉ फर्म 'विलियम फ्राई' के टेक्नोलॉजी पार्टनर डॉ. बैरी स्कैननेल ने लिंक्डइन पर लिखा, "आप नंबर्स और गणित के साथ क्रूर नहीं हो सकते। AI का इस स्तर पर मानवीकरण करना खतरनाक है, क्योंकि इससे लोग उसे इंसान समझने लगते हैं, जो कि वह बिल्कुल नहीं है।"

इस बीच, माइक्रोसॉफ्ट एआई (Microsoft AI) के डायरेक्टर मुस्तफा सुलेमान ने इस अपडेट पर पिघलते हुए चेहरे वाला इमोजी बनाकर तंज कसा। बता दें कि सुलेमान पहले भी एंथ्रोपिक की आलोचना कर चुके हैं कि वे AI को इंसानों की तरह ट्रीट करते हैं।

चुनाव और हथियारों को लेकर भी सख्ती

अपने एनुअल रिव्यू के बाद, एंथ्रोपिक ने अपनी पॉलिसी में कुछ और भी बदलाव किए हैं। कंपनी ने स्पष्ट किया है कि अमेरिकी मिडटर्म चुनावों के मद्देनजर क्लॉड का इस्तेमाल मतदाताओं को धोखा देने या चुनाव में बाधा डालने के लिए नहीं किया जा सकता। साथ ही, इसके टूल्स का इस्तेमाल हथियारों के विकास के लिए करने पर भी पूरी तरह रोक है।

एंथ्रोपिक का यह नया नियम एक बड़ा संकेत है कि भविष्य में इंसानों और मशीनों के बीच होने वाले संवाद के लिए भी एक डिजिटल एटिकेट या सभ्यता के नियम तय किए जा सकते हैं।

और पढ़ें...