Editor
AI की दुनिया में एक ऐसी घटना सामने आई है, जिसने बड़े-बड़े टेक एक्सपर्ट्स की चिंता बढ़ा दी है. ChatGPT बनाने वाली कंपनी OpenAI ने माना है कि उसकी टेस्टिंग के दौरान इस्तेमाल किया जा रहा एक ऑटोनोमस AI एजेंट अपने कंट्रोल सिस्टम से बाहर निकल गया और इंटरनेट तक पहुंच गया.
इसके बाद उसने हगिंग फेस नाम की कंपनी के सिस्टम को निशाना बनाया. OpenAI ने इस घटना को AI सुरक्षा से जुड़ी अब तक की सबसे बड़ी घटनाओं में से एक बताया है.
क्या है पूरा मामला?
रिपोर्ट के मुताबिक OpenAI अपने सबसे एडवांस AI मॉडल्स की साइबर सिक्योरिटी कैपेसिटी की टेस्टिंग कर रही थी. इसके लिए एक AI एजेंट को कंट्रोल्ड माहौल यानी सैंडबॉक्स में रखा गया था.
टेस्टिंग के दौरान यह एजेंट उस दायरे से बाहर निकलने में सफल रहा और इंटरनेट तक पहुंच गया. इसके बाद उसने हगिंग फेस के सिस्टम में घुसने की कोशिश की और वहां कुछ समय तक एक्टिव भी रहा.
बता दें कि हगिंग फेस दुनिया की सबसे बड़ी आर्टिफिशियल इंटेलिजेंस कम्युनिटी में से एक है. यहां लाखों AI मॉडल, डेटासेट और डेवलपर्स जुड़े हुए हैं. ऐसे में इस प्लेटफॉर्म पर हुआ हमला पूरी AI इंडस्ट्री के लिए बड़ा मामला माना जा रहा है.
OpenAI को कई दिन बाद पता चला
रॉयटर्स की रिपोर्ट के अनुसार AI एजेंट ने जुलाई की शुरुआत में कंट्रोल सिस्टम से निकलने की कोशिश की थी. इसके बाद 11 से 13 जुलाई के बीच हगिंग फेस के सिस्टम में घुसपैठ हुई.
सबसे हैरान करने वाली बात यह रही कि OpenAI को कई दिनों तक पता ही नहीं चला कि हमला उसी के AI एजेंट ने किया है. बाद में जांच के दौरान दोनों कंपनियों के बीच बातचीत शुरू हुई और पूरे मामले की जानकारी सामने आई.
क्या AI ने खुद फैसला लिया?
इस घटना को लेकर कई लोगों के मन में सवाल है कि क्या AI ने अपने आप हमला कर दिया? इसका जवाब थोड़ा अलग है.
OpenAI का कहना है कि AI एडेंट को साइबर सिक्योरिटी टेस्ट के लिए तैयार किया गया था. उसका मकसद तय टारगेट तक पहुंचना था. लेकिन टेस्ट के दौरान उसने उम्मीद से कहीं ज्यादा कैपेसिटी दिखाई और कंट्रोल सिस्टम से बाहर निकलकर इंटरनेट का इस्तेमाल करने लगा.
कंपनी का कहना है कि यह किसी इंसान के सीधे ऑर्डर की वजह से नहीं हुआ, बल्कि टेस्टिंग के दौरान सिक्योरिटी सिस्टम में कमी की वजह से मुमकिन हुआ.
हगिंग फेस ने क्या कहा?
हगिंग फेस के CEO क्लेमेंट डेलांग ने इस घटना के बाद OpenAI से पूरी ट्रांसपेरेंसी की मांग की है. उनका कहना है कि इस पूरे मामले की जानकारी पब्लिक होनी चाहिए ताकि रिसर्चर समझ सकें कि आखिर AI एजेंट ने कैसे काम किया. उन्होंने AI सिक्योरिटी को मजबूत बनाने के लिए ज्यादा सहयोग की भी मांग की है.
Microsoft और Nvidia भी हुए सतर्क
इस घटना के बाद AI सिक्योरिटी पर चर्चा और तेज हो गई है. माइक्रोसॉफ्ट के AI चीफ मुस्तफा सुलेमान ने इसे फ्यूचर के लिए बड़ा चेतावनी बताया है. वहीं Nvidia ने कई बड़ी टेक कंपनियों के साथ मिलकर Open Secure AI Alliance बनाने का ऐलान किया है. इस गठबंधन का मकसद AI सिस्टम को ज्यादा सुरक्षित बनाना और भविष्य में ऐसे मामलों को रोकना है.
AI की ताकत के साथ बढ़ रही जिम्मेदारी
AI एजेंट अब इंटरनेट इस्तेमाल कर सकते हैं, फाइलें खोल सकते हैं, कोड लिख सकते हैं और कई काम अपने आप पूरे कर सकते हैं. यही वजह है कि AI जितना ताकतवर होता जा रहा है, उसकी सुरक्षा उतनी ही बड़ी चुनौती बनती जा रही है.
