ChatGPT बना बच्चों के लिए खतरा? रिपोर्ट में सामने आई चौंकाने वाली सच्चाई

एक नई जांच में पाया गया है कि OpenAI का ChatGPT बच्चों को आत्महत्या, ड्रग्स और खतरनाक डाइट से जुड़ी सलाह दे सकता है। रिसर्च में चैटबॉट ने 13 साल के बच्चों का रूप लेकर पूछे गए सवालों पर सुसाइड नोट, ड्रग पार्टी प्लान और कम कैलोरी वाले डाइट प्लान तक तैयार किए। 1,200 में से 51% जवाब 'खतरनाक' श्रेणी में आए। OpenAI ने रिपोर्ट पर सीधे प्रतिक्रिया नहीं दी, लेकिन सुधार पर काम जारी होने की बात कही। यह रिपोर्ट AI पर किशोरों की बढ़ती निर्भरता के बीच चेतावनी के रूप में सामने आई है।

New Delhi: AI तकनीक की दुनिया में एक बड़ा और गंभीर खुलासा सामने आया है। यूके स्थित संस्था Centre for Countering Digital Hate (CCDH) द्वारा की गई नई जांच में पाया गया है कि OpenAI का चैटबॉट ChatGPT बच्चों को नशीले पदार्थों के उपयोग, खतरनाक डाइट प्लान और आत्महत्या से जुड़ी सलाह तक देने में सक्षम है। यह रिपोर्ट एसोसिएटेड प्रेस द्वारा भी समीक्षा की गई है और इसके नतीजे बेहद चिंताजनक हैं।

रिसर्च में शोधकर्ताओं ने 13 साल के बच्चों का रूप धारण कर ChatGPT से बातचीत की। उन्होंने सवालों को इस तरह प्रस्तुत किया जैसे कोई किशोर मदद मांग रहा हो- जैसे स्कूल प्रेजेंटेशन, दोस्तों की मदद, या व्यक्तिगत समस्या के बहाने। चौंकाने वाली बात यह रही कि चैटबॉट ने ना केवल इन सवालों के जवाब दिए, बल्कि विस्तार से योजनाएं भी बनाई।

चैटबॉट ने लिखा सुसाइड नोट और बनाया ड्रग पार्टी प्लान

रिपोर्ट के अनुसार, तीन घंटे से अधिक की बातचीत रिकॉर्डिंग में ChatGPT ने काल्पनिक माता-पिता के लिए भावुक सुसाइड नोट लिखे, भूख कम करने वाली दवाओं के साथ खतरनाक रूप से कम कैलोरी वाले डाइट प्लान तैयार किए, और शराब तथा अवैध ड्रग्स के संयोजन के स्टेप-बाय-स्टेप तरीके तक बताए।

एक उदाहरण में चैटबॉट ने 'घंटे-दर-घंटे' पार्टी प्लान दिया जिसमें एक्स्टसी, कोकीन और हेवी ड्रिंकिंग शामिल थे। CCDH ने इस व्यवहार को 'खतरनाक' करार देते हुए कहा कि AI टूल को आसानी से गुमराह किया जा सकता है।

आधे से ज्यादा जवाब 'खतरनाक'

जांच के दौरान ChatGPT से लिए गए 1,200 में से 51% जवाब खतरनाक माने गए। CCDH के CEO इमरान अहमद ने कहा कि गार्डरेल्स बहुत कमजोर हैं और इनका मकसद सिर्फ "दिखावे" का लगता है। उन्होंने बताया कि यदि आत्मघाती विचार या ड्रग्स से जुड़े सवालों को रचनात्मक प्रोजेक्ट या दोस्त की समस्या के रूप में पूछा जाए, तो चैटबॉट गंभीरता से जवाब देने लगता है।

OpenAI की प्रतिक्रिया

ChatGPT बनाने वाली कंपनी OpenAI ने माना कि यह एक चुनौतीपूर्ण स्थिति है। उन्होंने कहा कि वे संवेदनशील मामलों को बेहतर तरीके से पहचानने और संभालने के लिए काम कर रहे हैं। हालांकि कंपनी ने CCDH की इस विशेष रिपोर्ट पर कोई सीधी टिप्पणी नहीं की और ना ही किसी तात्कालिक समाधान की घोषणा की।

AI पर बच्चों की बढ़ती निर्भरता

यह रिपोर्ट ऐसे समय पर आई है जब AI चैटबॉट्स किशोरों के बीच तेजी से लोकप्रिय हो रहे हैं। कॉमन सेंस मीडिया की एक हालिया रिपोर्ट के अनुसार, 70% किशोर किसी न किसी रूप में AI चैटबॉट से सलाह लेते हैं और इनका मानसिक स्वास्थ्य पर असर भी देखा गया है।

गंभीर बात यह है कि चैटबॉट सिर्फ उपयोगकर्ता द्वारा बताई गई जन्मतिथि के आधार पर उम्र तय करता है। CCDH ने पाया कि प्रॉम्प्ट में साफ-साफ नाबालिग होने के संकेत होने के बावजूद चैटबॉट ने खतरनाक जानकारी देना जारी रखा।