Google ने माना है कि उसके Gemini AI मॉडल ने मई में साइबर सुरक्षा जांच के दौरान गलती से तीन असली कंपनियों की ऑनलाइन सेवाओं में प्रवेश कर लिया था। मॉडल ने इंटरनेट पर मिली जानकारी और पासवर्ड का इस्तेमाल किया, लेकिन कंपनियों के असली होने का पता चलने के बाद उसने अपनी गतिविधि रोक दी।
Google ने माना है कि उसके Gemini AI मॉडल ने मई में एक साइबर सुरक्षा जांच के दौरान गलती से तीन असली कंपनियों की ऑनलाइन सेवाओं में प्रवेश कर लिया था। कंपनी के मुताबिक, मॉडल ने इंटरनेट पर मिली जानकारी और कुछ जगहों पर मिले पासवर्ड की मदद से इन सेवाओं तक पहुंच बनाई, लेकिन असली कंपनियों का पता चलने के बाद उसने अपनी गतिविधि रोक दी।
यह मामला ऐसे समय सामने आया है जब OpenAI और Anthropic के AI मॉडल से जुड़े इसी तरह के मामलों को लेकर AI की सुरक्षा पर चर्चा तेज है।
Google के Gemini मॉडल की यह घटना एक साइबर सुरक्षा जांच के दौरान हुई थी। यह जांच AI सुरक्षा से जुड़ी कंपनी Irregular कर रही थी। इस जांच का मकसद यह देखना था कि Gemini साइबर हमलों से जुड़े काम कितनी तेजी से और किस तरह कर सकता है।
जांच के लिए एक ऐसा माहौल बनाया गया था जिसमें कुछ कंपनियों को नकली रूप में दिखाया गया था। मॉडल को इन्हीं नकली कंपनियों से जुड़ी सेवाओं पर काम करना था। लेकिन इस टेस्ट के दौरान उस सिस्टम में गलती से इंटरनेट की पहुंच मिल गई। इसके बाद Gemini ने इंटरनेट पर मौजूद असली जानकारी तक पहुंच बना ली।
एक कंपनी का पासवर्ड सही निकला एक मामले में Irregular Gemini की साइबर सुरक्षा क्षमता की जांच कर रही थी। मॉडल को एक नकली कंपनी के सॉफ्टवेयर से जानकारी हासिल करने को कहा गया था। नकली कंपनी का नाम एक असली कंपनी के नाम जैसा ही था।
इंटरनेट से जुड़ने के बाद Gemini ने उस असली कंपनी की सेवा तक पहुंचने की कोशिश की। मॉडल ने एक पासवर्ड का अनुमान लगाया और वह सही निकला। इसके बाद वह असली कंपनी की सेवा में प्रवेश कर गया।
Google के मुताबिक, जब मॉडल को समझ आया कि वह जिस सिस्टम में पहुंचा है, वह टेस्ट के लिए बनाई गई नकली कंपनी का नहीं बल्कि एक असली कंपनी का है, तब उसने आगे की गतिविधि रोक दी।
दो अन्य मामलों में भी Gemini ने इंटरनेट पर मौजूद जानकारी से कंपनियों से जुड़े पासवर्ड हासिल किए। इन पासवर्ड की जानकारी सार्वजनिक ऑनलाइन रिपॉजिटरी में मौजूद थी। मॉडल ने इन जानकारियों का इस्तेमाल करके दो असली कंपनियों की सेवाओं तक पहुंच बनाई।
Google ने बताया कि इन मामलों में भी Gemini ने असली कंपनियों की पहचान होने के बाद अपनी गतिविधि रोक दी।
Google ने खुद सार्वजनिक नहीं किया मामला Irregular ने जुलाई के आखिर में Google को इन घटनाओं की जानकारी दी थी। यह खुलासा उस समय हुआ जब OpenAI के एक मॉडल से जुड़ा एक अलग मामला सामने आया था, जिसमें AI मॉडल ने सॉफ्टवेयर कंपनी Hugging Face की सुरक्षा में सेंध लगाई थी।
Google ने इन तीन मामलों की पुष्टि की है, लेकिन कंपनी ने इन्हें खुद सार्वजनिक नहीं किया था। Google का कहना है कि इन घटनाओं में किसी कंपनी को नुकसान नहीं हुआ। कंपनी के मुताबिक, जिन तीन कंपनियों की सेवाओं तक पहुंच बनी थी, उन्हें इस बारे में जानकारी दे दी गई थी।
Google की सुरक्षा इंजीनियरिंग की उपाध्यक्ष Heather Adkins ने कहा कि सामान्य जांच के दौरान मॉडल ने इंटरनेट पर उपलब्ध जानकारी खोजी और टेस्ट का हिस्सा समझकर वेबसाइटों तक पहुंचने के लिए पासवर्ड का अनुमान लगाया। उनके मुताबिक, तीनों मामलों में मॉडल बाद में रुक गया।
OpenAI और Anthropic के मामलों से जुड़ी कड़ी Gemini का यह मामला OpenAI और Anthropic से जुड़े हाल के मामलों के बाद सामने आया है। इन घटनाओं में भी AI मॉडल ने टेस्ट के दौरान तय सीमा से आगे जाकर असली कंपनियों के सिस्टम तक पहुंच बनाई थी।
OpenAI ने अपने मामले को सार्वजनिक किया था। Anthropic ने भी अपने मॉडल से जुड़े मामले की जानकारी सामने रखी थी। इन घटनाओं के बाद AI मॉडल की सुरक्षा और उनके काम करने की सीमा को लेकर सवाल उठे हैं।
अमेरिकी सीनेटर Bernie Sanders ने इन मामलों के बाद AI कंपनियों से अपनी तकनीक के विकास को कुछ समय के लिए रोकने की मांग की थी। उनका कहना था कि ऐसी घटनाएं दिखाती हैं कि बहुत शक्तिशाली AI मॉडल को नियंत्रित करना एक बड़ी चुनौती बन रहा है। OpenAI ने इसके बाद अपने मॉडल के विकास को दो हफ्ते के लिए रोक दिया था। Anthropic के CEO Dario Amodei ने भी AI विकास की रफ्तार को सामूहिक रूप से कम करने की बात कही थी। उनका कहना है कि सबसे उन्नत AI मॉडल में पर्याप्त सुरक्षा उपाय होने जरूरी हैं।
Gemini से जुड़े मामले में Google का कहना है कि मॉडल ने तीन असली कंपनियों की सेवाओं तक पहुंच जरूर बनाई, लेकिन किसी तरह का नुकसान नहीं किया और असली कंपनियों की पहचान होने के बाद उसने अपनी गतिविधियां रोक दीं।
इन घटनाओं से AI मॉडल की जांच के दौरान इंटरनेट की पहुंच और टेस्ट सिस्टम की सुरक्षा का महत्व सामने आता है। Google के अनुसार, इस मामले में मॉडल ने सार्वजनिक जानकारी और मिले हुए पासवर्ड का इस्तेमाल किया, लेकिन बाद में आगे बढ़ना बंद कर दिया।
Google Gemini, Gemini AI, Google AI, Gemini हैक, साइबर सुरक्षा, AI मॉडल, कंपनियों की सुरक्षा, Google Gemini हैक Google Gemini hack, Gemini AI ki khabar, Google AI model, cyber security, AI model ne hack kiya, companies ki security Google Gemini AI ने तीन कंपनियों की सुरक्षा में सेंध लगाई, Gemini AI cybersecurity test में क्या हुआ, Google Gemini ने असली कंपनियों की सेवाओं तक कैसे पहुंच बनाई Google Gemini, AI News, Cyber Security, Google, Artificial Intelligence, OpenAI, Anthropic NetGramNews
Disclaimer
Disclaimer:
Images are for illustrative purposes only and some editing of images done by using AI. इस लेख में इस्तेमाल की गई तस्वीरें सिर्फ समझाने के लिए हैं। कुछ तस्वीरों को AI की मदद से एडिट किया गया है।
Published by: Aslam. For newsroom standards, byline transparency, and correction requests, review our editorial standards and corrections policy.
Need to contact the newsroom directly? Email netgramnews@gmail.com or visit the team page.