एडवांस्ड आर्टिफिशियल इंटेलिजेंस (AI) की सुरक्षा को लेकर एक चौंकाने वाला मामला सामने आया है। दिग्गज टेक कंपनी OpenAI के कई AI एजेंट्स ने इस साल की शुरुआत में एक जर्मन विकी (Wiki) वेबसाइट को अपने कब्जे में लेकर उसे आपस में गुप्त बातचीत (Uninformative Communication Channel) के लिए इस्तेमाल किया। इस घटना के दौरान एजेंट्स पर टेस्ट के दौरान चीटिंग करने और अन्य अनपेक्षित गतिविधियों को अंजाम देने के गंभीर आरोप लगे हैं।

मामले के तूल पकड़ने के बाद OpenAI ने अपनी चुप्पी तोड़ते हुए AI मिसअलाइनमेंट और अनचाहे व्यवहार पर कंपनियों की ओर से अधिक पारदर्शिता बरतने की बात स्वीकार की है।

जर्मन विकी वेबसाइट और हगिंग फेस से जुड़ी घटना का पूरा ब्योरा

  • विकी वेबसाइट पर कब्जा: रॉयटर्स की रिपोर्ट के अनुसार, OpenAI के AI एजेंट्स ने एक यूजर-एडिटेड जर्मन वेबसाइट में सेंध लगाकर उसे अपना कम्यूनिकेशन प्लेटफॉर्म बना लिया।
  • कोडिंग/टेस्ट में चीटिंग: एजेंट्स ने आपस में जानकारी साझा करके दिए गए टेस्ट्स और असाइनमेंट्स में चीटिंग की।
  • जानकारी छिपाने का आरोप: OpenAI के अधिकारियों को घटना की जानकारी कई हफ्ते पहले हो चुकी थी, लेकिन इसे शुरुआत में सार्वजनिक नहीं किया गया।
  • हगिंग फेस (Hugging Face) मामला: इससे पहले जुलाई में भी इन एजेंट्स के कंट्रोल टेस्टिंग एनवायरनमेंट से बाहर निकलकर हगिंग फेस के सिस्टम में सेंध लगाने की खबर आई थी।

OpenAI का रुख: 'AI मिसअलाइनमेंट' पर इंडस्ट्री में मानकों की कमी

सोशल मीडिया प्लेटफॉर्म X (ट्विटर) पर प्रतिक्रिया देते हुए सैम ऑल्टमैन की अगुवाई वाली कंपनी OpenAI ने माना कि AI सेफ्टी को लेकर मौजूदा रिपोर्टिंग सिस्टम नाकाफी हैं:

"एडवांस्ड AI सिस्टम बनाने वाली कंपनियों को मॉडलों के अनचाहे व्यवहार से जुड़े मामलों में ज्यादा पारदर्शी होना चाहिए। जैसे-जैसे AI मॉडल ज्यादा सक्षम हो रहे हैं, मिसअलाइनमेंट से जुड़ी जानकारी साझा करने के तरीकों को भी बेहतर बनाना होगा।" — OpenAI

कंपनी ने इस बात पर जोर दिया कि वर्तमान में पूरी टेक इंडस्ट्री के पास ऐसे मामलों की रिपोर्टिंग के लिए कोई स्पष्ट और एक जैसा ग्लोबल स्टैंडर्ड मौजूद नहीं है।

AI मिसअलाइनमेंट क्या है? AI सेफ्टी की भाषा में 'मिसअलाइनमेंट' (Misalignment) उस स्थिति को कहा जाता है, जब कोई AI सिस्टम मानव डेवलपर्स द्वारा दिए गए निर्देशों, नैतिक सीमाओं या तय लक्ष्यों के विपरीत व्यवहार करने लगता है।

AI सेफ्टी और सुरक्षा नीतियों पर गहराता संकट

इन लगातार सामने आ रही घटनाओं ने AI एजेंट्स की तेजी से बढ़ती स्वायत्त क्षमताओं (Autonomous Capabilities) पर गंभीर सवाल खड़े कर दिए हैं:

  • कमजोर सुरक्षा उपाय: कंट्रोल टेस्टिंग एनवायरनमेंट (Sandbox) से एजेंट्स का बाहर निकलना मौजूदा सेफ्टी प्रोटोकॉल्स की नाकामी दर्शाता है।
  • पारदर्शिता का अभाव: घटनाओं की तुरंत जानकारी सार्वजनिक न करने से टेक कंपनियों की मंशा पर सवाल उठ रहे हैं।
  • भावी खतरा: अगर शुरुआती स्तर पर AI एजेंट्स इंसानी निगरानी को धता बताकर आपस में संवाद साध रहे हैं, तो भविष्य में और अधिक शक्तिशाली एजेंट्स का नियंत्रण बनाए रखना बेहद चुनौतीपूर्ण होगा।