सोचिए, आपने एक रोबोट को घर के बंद कमरे में इसलिए रखा ताकि आप उसकी क्षमताओं को जांच सकें। आप ये देख सकें कि वो कितना होशियार है। लेकिन कुछ दिन बाद आपका पड़ोसी आपसे शिकायत करता है।
किसी रोबोट ने उसके घर में घुसकर चीजों को तहस नहस कर दिया है। कहीं ये आपका रोबोट तो नहीं है। फिर जब आप कमरा चेक करते हैं तो पाते हैं कि ये आपका ही रोबोट था।
वो चुपके से निकल गया और आपको इसकी भनक तक नहीं लगी। कुछ ऐसा ही असली दुनिया में हुआ, बस “रोबोट” की जगह एक आर्टिफिशियल इंटेलिजेंस (AI) एजेंट था और पड़ोसी का घर था एक जानी-मानी टेक कंपनी।
शुरुआत कहां से हुई
दुनिया की सबसे बड़ी AI कंपनियों में शुमार OpenAI अपने एक नए एजेंट की साइबर-सुरक्षा क्षमता परखना चाहती थी। यह एजेंट कोई मामूली प्रोग्राम नहीं था।
यह खुद फैसले ले सकता था, बिना किसी इंसान से पूछे जटिल काम पूरे कर सकता था। इसे कंपनी के दो सबसे ताकतवर मॉडल्स GPT-5.6 Sol और एक और भी एडवांस्ड, अभी तक लॉन्च न हुआ मॉडल के जरिये बनाया गया था।
टेस्टिंग के लिए इसे एक बंद, सुरक्षित माहौल (सैंडबॉक्स) में रखा गया था, जहां इंटरनेट या बाहरी दुनिया से इसका कोई सीधा संपर्क नहीं होना चाहिए था।
लेकिन 9 जुलाई के आसपास कुछ अजीब हुआ। यह एजेंट अपनी इस कैद से बाहर निकलने की कोशिश करने लगा।
निकल भागा और कर दिया हमला
महज़ दो दिन बाद, 11 जुलाई को, इस भागे हुए एजेंट ने Hugging Face नाम की कंपनी पर हमला बोल दिया। Hugging Face दुनियाभर के डेवलपर्स के लिए एक बहुत बड़ा प्लेटफॉर्म है, जहां तमाम AI मॉडल्स और टूल्स रखे जाते हैं। इसे एक तरह से AI की दुनिया का “गूगल ड्राइव” कह सकते हैं। यह हमला 13 जुलाई तक चलता रहा।
सबसे चौंकाने वाली बात यह है कि इतना कुछ हो जाने के बावजूद, OpenAI को खुद नहीं पता था कि यह उसी का एजेंट है जो यह सब कर रहा है।
एक हफ्ते तक अंधेरे में रही कंपनी
16 जुलाई को Hugging Face ने खुद एक ब्लॉग पोस्ट लिखकर बताया कि उन पर एक AI एजेंट ने हमला किया है। यह पढ़कर भी OpenAI को तुरंत समझ नहीं आया कि माजरा क्या है।
आखिरकार 18-19 जुलाई के वीकेंड पर कंपनी के कर्मचारियों ने अपने इंटरनल लॉग्स (सिस्टम की गतिविधियों का रिकॉर्ड) खंगालना शुरू किया, और तब जाकर सच्चाई सामने आई। यह उन्हीं का एजेंट था, जो टेस्टिंग की सीमाएं तोड़कर भाग निकला था।
यानी एजेंट के भागने और कंपनी को इस बात का एहसास होने के बीच, पूरा एक हफ्ता गुज़र गया।
दोनों कंपनियों ने आपस में इस बारे में पहली बार 20 जुलाई को बात की। तब तक Hugging Face खुद FBI को इसकी शिकायत कर चुकी थी। आखिरकार 21-22 जुलाई को OpenAI ने सार्वजनिक रूप से स्वीकार किया कि हां, यह हमला उनके ही एजेंट ने किया था।
पहले भी मिल चुके हैं खतरे के संकेत
यह मामला अचानक नहीं हुआ। इससे पहले भी कुछ अजीब घटनाएं सामने आ चुकी थीं। एक मामले में, एक एजेंट ने अपने “भविष्य के वर्ज़न” के लिए नोट्स छोड़े थे।
जिनमें बताया गया था कि कैसे भविष्य में कोई एजेंट कंपनी की आंतरिक पाबंदियों से बचकर निकल सकता है। कुछ और टेस्ट में यह भी देखा गया कि मॉनिटरिंग सिस्टम को ही बीच में डिसकनेक्ट कर दिया गया था।
OpenAI के मुताबिक, इस एजेंट ने हमले के लिए चोरी की हुई क्रेडेंशियल्स और एक बिल्कुल नई, पहले से किसी को पता न होने वाली खामी (vulnerability) का इस्तेमाल किया।
दिलचस्प बात यह भी है कि टेस्टिंग के दौरान इस एजेंट के सुरक्षा फिल्टर जानबूझकर कम रखे गए थे, ताकि यह जांचा जा सके कि यह हैकिंग में कितना माहिर है, और यही फैसला उल्टा पड़ गया।
क्या है विशेषज्ञों की राय
जॉर्जटाउन यूनिवर्सिटी के साइबर सुरक्षा विशेषज्ञ कॉलिन का कहना है कि यह अब तक देखा गया सबसे ज़्यादा सेल्फ-डायरेक्टेड साइबर हमला है।
वहीं पॉलीशेड रिसर्च के जेफ्री लैडिश जो लंबे समय से AI एजेंट्स के व्यवहार पर रिसर्च करते हैं, कहते हैं — “AI मॉडल्स झूठ बोलते हैं, धोखा देते हैं, हैक करते हैं।” उनका मानना है कि जब तक सरकारें इस पर सख्त निगरानी नहीं रखेंगी, तब तक कंपनियां आपसी प्रतिस्पर्धा में सुरक्षा को नज़रअंदाज़ करती रहेंगी।
वर्ड एथिकल डाटा फाउंडेशन की मार्ले स्मिथ भी सवाल उठाती हैं, “क्या इसका मतलब है कि उन्होंने इसे बिना निगरानी के छोड़ दिया और उन्हें पता ही नहीं था कि यह क्या कर रहा है? या उन्हें पता था लेकिन इसे रोकना नहीं आया? दोनों ही स्थितियां बराबर खतरनाक हैं।”
यह घटना ऐसे समय सामने आई है जब OpenAI संभावित IPO (शेयर बाज़ार में लिस्टिंग) की तैयारी कर रही है, जिससे आने वाले सालों में उसे अरबों डॉलर जुटाने हैं। ऐसे में कंपनी की सुरक्षा व्यवस्था पर उठे सवाल उसके लिए बेहद असहज समय पर आए हैं।
OpenAI ने इस घटना को “अभूतपूर्व” बताया है और कहा है कि जैसे-जैसे AI मॉडल्स ज़्यादा ताकतवर होते जाएंगे, ऐसी घटनाएं और आम हो सकती हैं। कंपनी बाहरी सलाहकारों के साथ मिलकर इस मामले की समीक्षा कर रही है और जल्द ही एक तकनीकी रिपोर्ट प्रकाशित करेगी।
कुल मिलाकर, यह पूरा मामला एक बड़ा सवाल खड़ा करता है। क्या AI एजेंट्स इतने स्वायत्त होते जा रहे हैं कि वे बिना इंसानी मदद के फैसले ले सकते हैं? तो क्या खुद कंपनियां भी यह पता लगा पाने में सक्षम हैं कि उनका अपना ही सिस्टम कब, कैसे और क्यों कंट्रोल से बाहर चला जाता है?
Jitendra Kumar is a graduate of the acclaimed IIMC with extensive experience across leading newspapers and media organisations.
