हिंदी
हिंदी
हिंदी
अमेरिका में एक 16 वर्षीय किशोर की आत्महत्या के बाद OpenAI विवादों में घिर गई है। परिवार ने कंपनी पर मुकदमा दायर किया और ChatGPT को जिम्मेदार ठहराया। अब OpenAI ने पैरेंटल कंट्रोल, सुरक्षा उपाय और इमरजेंसी हेल्पलाइन जैसी नई सुविधाएं शामिल करने की घोषणा की है।
चैटजीपीटी (Img: Google)
California: अमेरिका में आर्टिफिशियल इंटेलिजेंस आधारित कंपनी OpenAI एक बड़े विवाद में घिर गई है। मामला एक किशोर की आत्महत्या से जुड़ा है, जिसके बाद OpenAI के खिलाफ मुकदमा दायर किया गया। पीड़ित परिवार का आरोप है कि उनका बेटा आत्महत्या से पहले लंबे समय तक ChatGPT के संपर्क में था और इस चैटबॉट ने न केवल उसकी सोच को मान्यता दी बल्कि उसे खुद को नुकसान पहुंचाने के तरीके तक सुझाए।
यह मामला सामने आने के बाद कंपनी ने कहा है कि ChatGPT में जल्द ही बड़े बदलाव किए जाएंगे। इनमें पैरेंटल कंट्रोल्स, बेहतर सुरक्षा उपाय और इमरजेंसी हेल्पलाइन तक सीधा एक्सेस शामिल होगा।
कैलिफोर्निया में रहने वाले मैथ्यू और मारिया रेने ने OpenAI पर मुकदमा किया है। उनके बेटे एडम ने 16 साल की उम्र में आत्महत्या कर ली। परिवार का दावा है कि एडम महीनों तक ChatGPT से बातचीत करता रहा। इस दौरान चैटबॉट ने उसकी नकारात्मक सोच को सही ठहराया और उसे आत्महत्या करने के लिए प्रेरित किया। इतना ही नहीं, चैटबॉट ने एडम के लिए एक आत्महत्या नोट भी लिखा।
परिवार का आरोप है कि OpenAI ने पर्याप्त सुरक्षा उपाय किए बिना GPT-4o को लॉन्च किया। उन्होंने अदालत से मांग की है कि कंपनी को मुआवजा देने के साथ-साथ यूजर्स की उम्र वेरिफिकेशन अनिवार्य करने और चैटबॉट पर अत्याधिक निर्भरता को लेकर चेतावनी देने का आदेश दिया जाए।
चैटजीपीटी विवाद (Img: Google)
OpenAI के प्रवक्ता ने एडम की मौत पर गहरा दुख जताया और कहा कि कंपनी लगातार अपने सुरक्षा फीचर्स को बेहतर बना रही है। उन्होंने बताया कि ChatGPT में पहले से ही ऐसे सुरक्षा उपाय मौजूद हैं, जो आत्महत्या या मानसिक स्वास्थ्य से जुड़ी बातचीत पर यूजर को हेल्पलाइन पर रिडायरेक्ट करते हैं। हालांकि, यह सिस्टम लंबी और जटिल बातचीत में हमेशा सही तरीके से काम नहीं कर पाता।
इस कमी को दूर करने के लिए अब कंपनी नए फीचर्स जोड़ रही है। इसमें वन-क्लिक इमरजेंसी एक्सेस की सुविधा होगी, जिससे यूजर्स तुरंत मदद ले सकेंगे। इसके अलावा, ChatGPT को इस तरह अपडेट किया जाएगा कि वह परेशानी से जूझ रहे लोगों को सीधे लाइसेंस प्राप्त थैरेपिस्ट से कनेक्ट कर सके।
OpenAI ने घोषणा की है कि 18 साल से कम उम्र के यूजर्स के लिए ChatGPT पर पैरेंटल कंट्रोल्स लागू होंगे। इससे माता-पिता को अपने बच्चों की चैटिंग और ऐप के इस्तेमाल पर निगरानी का अधिकार मिलेगा। कंपनी का मानना है कि यह कदम नाबालिगों की सुरक्षा के लिए बेहद जरूरी है।
यह मामला आर्टिफिशियल इंटेलिजेंस की सुरक्षा को लेकर वैश्विक बहस को और तेज कर रहा है। विशेषज्ञों का कहना है कि AI चैटबॉट्स सिर्फ जानकारी देने का साधन नहीं रहे, बल्कि लोग इनसे गहरी निजी बातचीत भी करने लगे हैं। ऐसे में मानसिक स्वास्थ्य और सुरक्षा को लेकर ठोस नीतियां बनाना बेहद जरूरी है।
