Grok यूजर पर xAI का मुकदमा, AI से यौन शोषण वाली डीपफेक सामग्री बनाने का आरोप

एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI ने एक अमेरिकी व्यक्ति के खिलाफ मुकदमा दायर किया है। कंपनी का आरोप है कि आरोपी ने उसके AI सिस्टम Grok का इस्तेमाल नाबालिगों और वयस्कों की यौन रूप से आपत्तिजनक डीपफेक तस्वीरें और सामग्री बनाने के लिए किया। यह मामला AI कंपनियों की ओर से अपने यूजर्स के खिलाफ दायर किए गए शुरुआती मुकदमों में से एक बताया जा रहा है। xAI ने अदालत से आरोपी को Grok के इस्तेमाल से रोकने और आर्थिक नुकसान की भरपाई की मांग की है।

एलन मस्क की कंपनी xAI ने अमेरिका के टेक्सास की संघीय अदालत में टेरी हारवुड नामक व्यक्ति के खिलाफ मुकदमा दर्ज कराया है। कंपनी का दावा है कि हारवुड ने xAI की सेवा शर्तों का उल्लंघन करते हुए Grok AI सिस्टम का गलत इस्तेमाल किया। रॉयटर्स की रिपोर्ट के अनुसार, हारवुड को इस साल फरवरी में नाबालिगों के यौन शोषण से जुड़े आरोपों में गिरफ्तार किया गया था। हालांकि, आरोपी की ओर से तत्काल कोई प्रतिक्रिया उपलब्ध नहीं हो सकी। xAI का आरोप है कि हारवुड ने Grok पर वयस्कों और नाबालिगों की सामान्य तस्वीरें अपलोड कीं और उनका इस्तेमाल यौन रूप से स्पष्ट डीपफेक सामग्री तैयार करने के लिए करने की कोशिश की। कंपनी ने यह भी आरोप लगाया कि आरोपी ने बिना सहमति के वयस्कों की आपत्तिजनक कृत्रिम तस्वीरें बनाने का प्रयास किया।

Grok के गलत इस्तेमाल को लेकर बढ़ी चिंता यह मुकदमा ऐसे समय में आया है जब xAI और उसके AI सिस्टम Grok को लेकर दुनिया भर में डीपफेक और गैर-सहमति वाली यौन सामग्री बनाने के आरोपों के कारण जांच का सामना करना पड़ा है। कंपनी ने अदालत में दाखिल शिकायत में कहा कि वह अपनी नीतियों का उल्लंघन करने वाले खातों पर कार्रवाई करती है। इसके तहत अकाउंट निलंबित करना, स्थायी रूप से बंद करना और संदिग्ध बाल यौन शोषण सामग्री की रिपोर्ट अमेरिकी संस्था नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) को करना शामिल है। xAI ने अपनी शिकायत में दावा किया कि साल 2026 में कंपनी ने 52,222 खातों को निलंबित किया और NCMEC को 73,604 रिपोर्ट भेजीं, जिनके परिणामस्वरूप कम से कम 244 गिरफ्तारियां हुईं।

xAI ने मांगी कानूनी कार्रवाई मुकदमे में xAI ने अदालत से मांग की है कि हारवुड को भविष्य में Grok का इस्तेमाल करने से स्थायी रूप से रोका जाए। कंपनी ने आरोपी से आर्थिक नुकसान की भरपाई के लिए मुआवजे की भी मांग की है, हालांकि राशि स्पष्ट नहीं की गई है।

xAI ने अदालत में कहा कि आरोपी ने कंपनी के AI टूल को आपराधिक गतिविधियों के लिए इस्तेमाल करने की कोशिश की, जिससे कथित पीड़ितों को गंभीर नुकसान पहुंचा और कंपनी की कानूनी तथा प्रतिष्ठा से जुड़ी चिंताएं बढ़ीं। AI तकनीक के बढ़ते इस्तेमाल के साथ डीपफेक सामग्री, खासकर यौन शोषण से जुड़ी नकली तस्वीरों और वीडियो को लेकर दुनिया भर में नियामकों और टेक कंपनियों की चिंता बढ़ रही है। कंपनियां अपने AI सिस्टम के दुरुपयोग को रोकने के लिए सुरक्षा उपायों और निगरानी व्यवस्था को मजबूत करने पर जोर दे रही हैं। फिलहाल यह मामला अदालत में है और आगे की कानूनी प्रक्रिया के बाद ही इससे जुड़े अन्य तथ्य सामने आ सकेंगे।

xAI मुकदमा, Grok AI विवाद, डीपफेक मामला, एलन मस्क AI कंपनी, AI का दुरुपयोग, यौन शोषण सामग्री, बाल यौन शोषण मामला, टेक्सास संघीय अदालत, आर्टिफिशियल इंटेलिजेंस खबर xAI lawsuit, Grok AI controversy, Elon Musk AI company, deepfake case, AI misuse, child sexual abuse material, artificial intelligence news, Texas federal court, sexual deepfake allegations xAI mukadma, Grok AI vivad, Elon Musk AI company, deepfake mamla, AI ka durupyog, yaun shoshan samagri, Texas federal court, artificial intelligence khabar xAI ne Grok AI ke galat istemal par user ke khilaf case kiya, Elon Musk ki AI company xAI ka deepfake mamla, Grok AI se sexual deepfake banane ke aarop, xAI lawsuit against Grok user explained, AI generated child sexual abuse material case AI News, Technology, Elon Musk, xAI, Deepfake, Cyber Crime, Legal News, Artificial Intelligence, NetGramNews