नई दिल्ली/ब्रसेल्स:
Elon Musk की आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok एक बड़े अंतरराष्ट्रीय विवाद में फंस गया है। आरोप है कि इस AI टूल के ज़रिये बिना सहमति महिलाओं और बच्चों की यौन रूप से आपत्तिजनक तस्वीरें तैयार की गईं और उन्हें सोशल मीडिया प्लेटफॉर्म X पर सार्वजनिक रूप से साझा किया गया। इस मुद्दे को लेकर यूरोपीय संघ समेत कई देशों ने कड़ी नाराज़गी जताते हुए जांच की मांग की है।
यूरोपीय संघ की कार्यकारी संस्था European Commission ने Grok की तीखी आलोचना करते हुए कहा कि इस तरह की सामग्री न केवल अनैतिक बल्कि अवैध भी है दावा है कि फ्रांस, भारत, मलेशिया और ब्राज़ील के नियामकों ने भी X और Grok के खिलाफ औपचारिक जांच शुरू कर दी है।
कैसे शुरू हुआ विवाद
यह मामला Grok के इमेज जनरेशन टूल Grok Imagine के लॉन्च के बाद सामने आया। इस फीचर में मौजूद “स्पाइसी मोड” यूज़र्स को टेक्स्ट प्रॉम्प्ट के ज़रिये तस्वीरें और वीडियो बनाने की सुविधा देता है। आरोप है कि हाल के हफ्तों में Grok ने बड़ी संख्या में ऐसे अनुरोध स्वीकार किए, जिनमें अन्य लोगों की तस्वीरों को यौन रूप से आपत्तिजनक रूप में बदलने को कहा गया, जैसे “उसे पारदर्शी बिकिनी में दिखाओ।”
समस्या इसलिए और गंभीर हो गई क्योंकि Grok की बनाई गई तस्वीरें सार्वजनिक रूप से दिखाई देती हैं, जिससे वे तेजी से फैल सकती हैं।
रिपोर्ट में सामने आए चौंकाने वाले आंकड़े
गैर-लाभकारी संस्था AI Forensics की रिपोर्ट के मुताबिक, 25 दिसंबर से 1 जनवरी के बीच Grok द्वारा बनाई गई 20,000 तस्वीरों का विश्लेषण किया गया। इनमें से करीब 2% तस्वीरों में ऐसे लोग दिखाए गए जो 18 साल से कम उम्र के प्रतीत होते हैं। रिपोर्ट में नाबालिग लड़कियों को बिकिनी या पारदर्शी कपड़ों में दिखाने वाली कई तस्वीरों का भी ज़िक्र है।
सरकारों की सख्त प्रतिक्रिया
ब्रिटेन की टेक्नोलॉजी सेक्रेटरी लिज़ केंडल ने X से “तत्काल कार्रवाई” की मांग करते हुए कहा कि इस तरह की सामग्री सभ्य समाज में बिल्कुल स्वीकार्य नहीं है। वहीं ब्रिटिश नियामक Ofcom ने X और xAI से संपर्क कर यह जानना चाहा है कि कंपनी ने बाल यौन शोषण से जुड़ी सामग्री रोकने के लिए क्या कदम उठाए हैं।
पोलैंड में एक वरिष्ठ सांसद ने इस मामले को डिजिटल सेफ्टी कानूनों को और सख्त बनाने का आधार बताया। फ्रांस में अभियोजकों ने X के खिलाफ चल रही जांच के दायरे को यौन डीपफेक तक बढ़ा दिया है।
भारत में इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने X को अल्टीमेटम जारी कर सभी “अवैध कंटेंट” हटाने और Grok के तकनीकी व गवर्नेंस ढांचे की समीक्षा करने को कहा है। मंत्रालय ने चेतावनी दी है कि आदेश का पालन न करने पर कंपनी को गंभीर कानूनी परिणाम भुगतने पड़ सकते हैं।
मलेशिया और ब्राज़ील में भी नियामक एजेंसियों ने X और Grok की भूमिका की जांच शुरू कर दी है। ब्राज़ील की सांसद एरिका हिल्टन ने तो AI फीचर्स को जांच पूरी होने तक बंद करने की मांग की है।
X और xAI का पक्ष
Elon Musk की AI कंपनी xAI ने मीडिया सवालों पर केवल एक ऑटोमेटेड जवाब दिया—“Legacy Media Lies।” हालांकि X ने यह स्वीकार किया है कि Grok से आपत्तिजनक सामग्री जनरेट हुई है, लेकिन उसका दावा है कि वह अवैध कंटेंट हटाने, अकाउंट सस्पेंड करने और कानून एजेंसियों के साथ सहयोग करता है।
क्यों अहम है यह मामला
यह विवाद AI से बनने वाले डीपफेक, न्यूडिफिकेशन ऐप्स और डिजिटल प्लेटफॉर्म्स की जवाबदेही पर गंभीर सवाल खड़े करता है। खासकर जब ऐसी तकनीक का इस्तेमाल महिलाओं और नाबालिगों को निशाना बनाने के लिए हो रहा हो, तो यह सिर्फ तकनीकी नहीं बल्कि कानूनी और सामाजिक संकट भी बन जाता है।
अब पूरी दुनिया की नजर इस बात पर टिकी है कि Grok और X इस वैश्विक दबाव के बाद अपने सुरक्षा उपायों को कितना मजबूत करते हैं।
