AI टूल ग्रोक से अश्लील और अभद्र तस्वीरें बनाने के मामले में भारत और UK के दबाव के बाद X ने बड़ा फैसला लिया है। अब यह फीचर सिर्फ पेड और वेरिफाइड यूजर्स के लिए सीमित कर दिया गया है।
Grok
सिर्फ एक कमांड और किसी की इज्जत तार-तार। सोशल मीडिया पर AI के नाम पर जो खेल चल रहा था, उसने दुनियाभर में हड़कंप मचा दिया। महिलाओं की तस्वीरों से कपड़े हटाने, अश्लील डीपफेक इमेज बनाने और उन्हें वायरल करने का ट्रेंड जब बेकाबू हुआ, तब सरकारों को सख्त चेतावनी देनी पड़ी। अब आखिरकार एलन मस्क की कंपनी X ने अपने AI टूल ग्रोक पर लगाम कस दी है।
ग्रोक के गलत इस्तेमाल पर बड़ा फैसला
सोशल मीडिया प्लेटफॉर्म X ने अपने AI फीचर ग्रोक के दुरुपयोग को रोकने के लिए कई सख्त कदम उठाए हैं। अब ग्रोक को छोटा सा कमांड देकर भद्दी, अश्लील या अभद्र तस्वीरें नहीं बनाई जा सकेंगी। भारत, ब्रिटेन समेत कई देशों ने ग्रोक के इस फीचर की शिकायत X से की थी और साफ तौर पर चेतावनी दी थी कि अगर रोक नहीं लगी तो प्लेटफॉर्म पर बैन लगाया जा सकता है।
AI बिकिनी ट्रेंड से मचा था बवाल
विवाद तब शुरू हुआ जब ग्रोक एक सिंपल प्रॉम्प्ट पर किसी भी तस्वीर से कपड़े ‘रिमूव’ करने लगा। देखते ही देखते प्लेटफॉर्म पर खासतौर से महिलाओं की सेक्सुअली एक्सप्लिसिट डीपफेक इमेज की बाढ़ आ गई। यह ट्रेंड इतना वायरल हुआ कि इसे AI बिकिनी ट्रेंड कहा जाने लगा, जिसने निजता और सुरक्षा पर गंभीर सवाल खड़े कर दिए।
अब पेड यूजर्स को ही मिलेगा एक्सेस
UK सरकार की कड़ी चेतावनी के बाद X और उसकी AI यूनिट xAI को मजबूरी में इमेज जनरेशन और एडिटिंग फीचर को लॉक करना पड़ा। अब इस विवादित टूल का इस्तेमाल केवल पेड सब्सक्राइबर्स ही कर पाएंगे। यानी X प्रीमियम या X प्रीमियम प्लस लेने के बाद ही ग्रोक के इमेज फीचर का एक्सेस मिलेगा।
वेरिफिकेशन और पेमेंट अनिवार्य
बीबीसी की रिपोर्ट के मुताबिक, यूके में जो यूजर्स पेमेंट नहीं कर रहे हैं, उन्हें ग्रोक के इमेज फीचर इस्तेमाल करने पर एरर मैसेज दिख रहा है। नए नियमों के तहत यूजर्स को पहचान और पेमेंट डिटेल्स देनी होंगी और अब सिर्फ ब्लू-टिक वेरिफाइड अकाउंट होल्डर ही इमेज एडिट कर सकेंगे।
भारत में भी उठा था मामला
भारत में भी ग्रोक को लेकर भारी बवाल हुआ था। कई लोगों ने युवतियों की तस्वीरें डालकर ‘Grok remove this’ और ‘Grok put a bikini’ जैसे ट्रेंड शुरू किए थे। राज्यसभा सांसद प्रियंका चतुर्वेदी ने इसे महिलाओं की निजता का खुला उल्लंघन बताते हुए केंद्र सरकार को चिट्ठी लिखी थी। इसके बाद केंद्र ने X से इस पूरे मामले पर रिपोर्ट मांगी थी। अब X का यह फैसला AI के नाम पर हो रहे डिजिटल अपराध पर एक बड़ा ब्रेक माना जा रहा है।
