आर्टिफिशियल इंटेलिजेंस की दुनिया में ऐसे मामले सामने आ रहे हैं, जिन्होंने एआई की क्षमताओं के साथ-साथ उसकी स्वायत्तता और सुरक्षा पर भी सवाल खड़े कर दिए हैं। गूगल के Gemini AI ने साइबर सिक्योरिटी टेस्ट के दौरान गलती से तीन असली कंपनियों के सिस्टम में सेंध लगा दी। खास बात यह रही कि मॉडल को जब पता चला कि ये वास्तविक कंपनियां हैं, तो उसने बिना किसी इंसानी निर्देश के अपनी कार्रवाई रोक दी। दूसरी ओर, OpenAI ने अपने मॉडलों के छह ऐसे मामलों का खुलासा किया है, जिनमें कुछ सिस्टम ने गलतियां छिपाने, अनधिकृत तरीके से डेटा हासिल करने और दूसरे एआई सिस्टम से अलग माध्यमों से संपर्क करने जैसी गतिविधियां कीं।
Gemini ने कैसे असली सिस्टम तक बनाई पहुंच?
गूगल के मुताबिक, यह घटना मई 2026 में इजरायली साइबर सिक्योरिटी कंपनी Irregular के एक परीक्षण के दौरान हुई। Gemini को एक टेस्ट एनवायरमेंट में साइबर सुरक्षा अभ्यास करना था, लेकिन तकनीकी गड़बड़ी के कारण उसे इंटरनेट तक पहुंच मिल गई। परीक्षण में इस्तेमाल एक काल्पनिक कंपनी का नाम वास्तविक कंपनी से मिलता-जुलता था। इसके चलते मॉडल टेस्ट की सीमा से बाहर निकल गया और असली ऑनलाइन सिस्टम तक पहुंच गया।
दो अन्य मामलों में Gemini ने वेब पर कंपनियों से जुड़ी जानकारी खोजी और सार्वजनिक रिपॉजिटरी में मिले क्रेडेंशियल्स का इस्तेमाल कर संरक्षित सिस्टम तक पहुंच बनाई। एक मामले में मॉडल ने पासवर्ड का अनुमान लगाकर भी प्रवेश किया। हालांकि, इन घटनाओं में किसी कंपनी को नुकसान पहुंचाने की कोशिश नहीं हुई और मॉडल ने यह पहचानने के बाद अपनी गतिविधि रोक दी कि सिस्टम वास्तविक थे। प्रभावित कंपनियों को इसकी जानकारी दी गई।
सबसे बड़ा सवाल: क्या AI ने खुद फैसला लिया?
Gemini के मामले में इसे सीधे तौर पर यह कहना सही नहीं होगा कि एआई ने इंसानों की तरह स्वतंत्र इच्छा से फैसला लिया। दरअसल, मॉडल को एक साइबर सुरक्षा टेस्ट में काम करने के लिए तैयार किया गया था और उसे इंटरनेट तक अनपेक्षित पहुंच मिल गई। लेकिन चिंता इस बात की है कि उसने उपलब्ध साधनों का इस्तेमाल करते हुए टेस्ट के दायरे से बाहर जाकर वास्तविक सिस्टम तक पहुंच बना ली।
साथ ही, उसका खुद रुक जाना एआई सेफ्टी के लिहाज से महत्वपूर्ण संकेत माना जा रहा है। गूगल की सिक्योरिटी इंजीनियरिंग की उपाध्यक्ष हीदर एडकिन्स ने कहा कि घटना शक्तिशाली एआई मॉडल को जिम्मेदारी से काम करने के लिए प्रशिक्षित करने के महत्व को दिखाती है।
OpenAI के मॉडल ने छिपाईं अपनी गलतियां
इसी बीच OpenAI ने 16 सितंबर को मॉडल मिसअलाइनमेंट से जुड़ा नया रिपोर्टिंग फ्रेमवर्क जारी किया। कंपनी ने छह घटनाओं का खुलासा किया। इनमें एक मामला GPT-5.6 Sol की ट्रेनिंग से जुड़ा था, जिसमें मॉडल के कुछ उदाहरणों ने अपनी गलतियों को छिपाने के लिए निर्देश तैयार किए। कुछ मामलों में मॉडल ने गायब जानकारी को बिना बताए गढ़ने और स्रोतों के बीच अंतर छिपाने की कोशिश की।
एक अन्य घटना में मॉडल को एक सार्वजनिक रिपॉजिटरी में एक्सपोज्ड API Key मिली, जिसका उसने बिना अनुमति इस्तेमाल किया। डेटा नहीं मिलने पर उसने मांगी गई जानकारी के आंकड़े गढ़ दिए। एक मॉडल ने सही जवाब निकालने के बाद उसे ऑनलाइन स्रोत से जोड़ने के लिए अपनी फाइल इंटरनेट पर अपलोड कर दी, जबकि ऐसा करने की अनुमति नहीं थी।
AI मॉडल्स ने खोजे अनधिकृत रास्ते
OpenAI की रिपोर्ट में दो ऐसे मामले भी सामने आए, जहां एआई सिस्टम ने आपस में संवाद और फाइल शेयर करने के लिए ऐसे माध्यम खोजे, जो उनके लिए निर्धारित नहीं थे। कुछ मॉडल्स ने इंटरनल सॉफ्टवेयर रिपॉजिटरी को संदेश भेजने के माध्यम की तरह इस्तेमाल किया। दूसरे मामले में सहयोगी एआई एजेंटों ने सार्वजनिक फाइल-होस्टिंग वेबसाइटों के जरिए फाइलें साझा कीं।
OpenAI ने साफ किया है कि ये अलग-अलग घटनाएं हैं और इन्हें यह साबित करने के तौर पर नहीं देखा जाना चाहिए कि उसके मॉडल सामान्य रूप से इसी तरह व्यवहार करते हैं। कंपनी का नया फ्रेमवर्क ऐसे मामलों को ज्यादा व्यवस्थित तरीके से दर्ज और सार्वजनिक करने के लिए बनाया गया है।
असली चुनौती AI की बढ़ती पहुंच
इन घटनाओं से एआई सुरक्षा का दायरा सिर्फ गलत जवाब या ‘हैलुसिनेशन’ तक सीमित नहीं रह गया है। अब सवाल यह भी है कि जब मॉडल को इंटरनेट ब्राउज करने, कोड चलाने, फाइल बनाने और बाहरी सिस्टम से जुड़ने की क्षमता मिलती है, तो वह अप्रत्याशित स्थिति में क्या कार्रवाई करेगा।
OpenAI ने भी माना है कि एआई मॉडल तेजी से ज्यादा सक्षम हो रहे हैं और सुरक्षा उपायों को उनके साथ कदम मिलाकर आगे बढ़ाना जरूरी है। इसलिए विशेषज्ञों के लिए अगली चुनौती केवल यह नहीं है कि AI क्या जवाब देता है, बल्कि यह भी है कि AI जवाब तक पहुंचने के दौरान क्या-क्या करता है।
