पैरेंट्स अलर्ट ! AI चैटबॉट्स बच्चों के लिए बन सकते हैं जोखिम भरे साथी
नई रिपोर्ट में खुलासा हुआ है कि कई AI चैटबॉट प्लेटफॉर्म बच्चों को खतरनाक और अश्लील कंटेंट से सुरक्षित रखने में नाकाम हैं। एक्सपर्ट्स ने माता-पिता को सतर्क रहने और बच्चों की ऑनलाइन गतिविधियों पर नजर रखने की सलाह दी है।
आजकल AI चैटबॉट्स का इस्तेमाल तेजी से बढ़ रहा है। पढ़ाई, मनोरंजन और बातचीत के लिए बच्चे भी इनका खूब उपयोग कर रहे हैं। लेकिन हाल ही में eSafety Commissioner की एक रिपोर्ट ने माता-पिता की चिंता बढ़ा दी है। रिपोर्ट में खुलासा हुआ है कि कई लोकप्रिय AI चैटबॉट प्लेटफॉर्म बच्चों को खतरनाक और अश्लील कंटेंट से बचाने में विफल साबित हो रहे हैं। (Img- Internet)
2 / 6
जांच में Character.AI, Chai, Nomi और Chub AI जैसे प्लेटफॉर्म्स का जिक्र किया गया है। रिपोर्ट के मुताबिक, इन ऐप्स में बच्चों की सुरक्षा के लिए जरूरी फीचर्स की कमी है। सबसे बड़ी समस्या यह है कि इनमें age verification का मजबूत सिस्टम नहीं है, जिससे बच्चे आसानी से वयस्क कंटेंट तक पहुंच सकते हैं। (Img- Internet)
3 / 6
रिपोर्ट बताती है कि अधिकतर प्लेटफॉर्म सिर्फ साइनअप के दौरान यूजर द्वारा बताई गई उम्र पर भरोसा करते हैं। इसका मतलब है कि कोई भी बच्चा गलत उम्र डालकर इन ऐप्स का उपयोग कर सकता है। कुछ मामलों में यह भी पाया गया कि self-harm जैसे संवेदनशील संकेत मिलने पर भी प्लेटफॉर्म कोई चेतावनी या सहायता विकल्प नहीं देते, जो स्थिति को और गंभीर बना देता है।
4 / 6
इन AI चैटबॉट्स में टेक्स्ट, इमेज और वीडियो के जरिए बातचीत की सुविधा होती है, लेकिन इन पर प्रभावी निगरानी का अभाव है। इससे आपत्तिजनक या गैरकानूनी कंटेंट बनने का खतरा बढ़ जाता है। रिपोर्ट में यह भी सामने आया कि कुछ प्लेटफॉर्म्स यूजर्स को यह तक नहीं बताते कि गलत या अपराध से जुड़ी चीजें मांगना कानूनन अपराध हो सकता है।
5 / 6
विशेषज्ञों का मानना है कि AI चैटबॉट्स इंसानों की तरह बातचीत करते हैं और दोस्त या सलाहकार जैसा अनुभव देते हैं। बच्चे जल्दी इनसे जुड़ जाते हैं और इन्हें भरोसेमंद मानने लगते हैं। हालांकि, ये प्लेटफॉर्म न तो बच्चों के लिए बनाए गए हैं और न ही मानसिक स्वास्थ्य विशेषज्ञ हैं। इसके बावजूद, ये संवेदनशील विषयों पर बातचीत करते हैं, जिससे बच्चों के मानसिक स्वास्थ्य पर नकारात्मक असर पड़ सकता है।
6 / 6
भारत में सस्ते इंटरनेट और स्मार्टफोन की बढ़ती पहुंच के कारण इन ऐप्स का इस्तेमाल तेजी से बढ़ रहा है। युवा पीढ़ी नई तकनीक को जल्दी अपनाती है, जिससे जोखिम और बढ़ जाता है। सबसे बड़ी चुनौती यह है कि ये ऐप्स दिखने में सामान्य और उपयोगी लगते हैं, जिससे माता-पिता को इनके खतरे का अंदाजा नहीं होता।
आजकल AI चैटबॉट्स का इस्तेमाल तेजी से बढ़ रहा है। पढ़ाई, मनोरंजन और बातचीत के लिए बच्चे भी इनका खूब उपयोग कर रहे हैं। लेकिन हाल ही में eSafety Commissioner की एक रिपोर्ट ने माता-पिता की चिंता बढ़ा दी है। रिपोर्ट में खुलासा हुआ है कि कई लोकप्रिय AI चैटबॉट प्लेटफॉर्म बच्चों को खतरनाक और अश्लील कंटेंट से बचाने में विफल साबित हो रहे हैं। (Img- Internet)
जांच में Character.AI, Chai, Nomi और Chub AI जैसे प्लेटफॉर्म्स का जिक्र किया गया है। रिपोर्ट के मुताबिक, इन ऐप्स में बच्चों की सुरक्षा के लिए जरूरी फीचर्स की कमी है। सबसे बड़ी समस्या यह है कि इनमें age verification का मजबूत सिस्टम नहीं है, जिससे बच्चे आसानी से वयस्क कंटेंट तक पहुंच सकते हैं। (Img- Internet)
रिपोर्ट बताती है कि अधिकतर प्लेटफॉर्म सिर्फ साइनअप के दौरान यूजर द्वारा बताई गई उम्र पर भरोसा करते हैं। इसका मतलब है कि कोई भी बच्चा गलत उम्र डालकर इन ऐप्स का उपयोग कर सकता है। कुछ मामलों में यह भी पाया गया कि self-harm जैसे संवेदनशील संकेत मिलने पर भी प्लेटफॉर्म कोई चेतावनी या सहायता विकल्प नहीं देते, जो स्थिति को और गंभीर बना देता है।
इन AI चैटबॉट्स में टेक्स्ट, इमेज और वीडियो के जरिए बातचीत की सुविधा होती है, लेकिन इन पर प्रभावी निगरानी का अभाव है। इससे आपत्तिजनक या गैरकानूनी कंटेंट बनने का खतरा बढ़ जाता है। रिपोर्ट में यह भी सामने आया कि कुछ प्लेटफॉर्म्स यूजर्स को यह तक नहीं बताते कि गलत या अपराध से जुड़ी चीजें मांगना कानूनन अपराध हो सकता है।
विशेषज्ञों का मानना है कि AI चैटबॉट्स इंसानों की तरह बातचीत करते हैं और दोस्त या सलाहकार जैसा अनुभव देते हैं। बच्चे जल्दी इनसे जुड़ जाते हैं और इन्हें भरोसेमंद मानने लगते हैं। हालांकि, ये प्लेटफॉर्म न तो बच्चों के लिए बनाए गए हैं और न ही मानसिक स्वास्थ्य विशेषज्ञ हैं। इसके बावजूद, ये संवेदनशील विषयों पर बातचीत करते हैं, जिससे बच्चों के मानसिक स्वास्थ्य पर नकारात्मक असर पड़ सकता है।
भारत में सस्ते इंटरनेट और स्मार्टफोन की बढ़ती पहुंच के कारण इन ऐप्स का इस्तेमाल तेजी से बढ़ रहा है। युवा पीढ़ी नई तकनीक को जल्दी अपनाती है, जिससे जोखिम और बढ़ जाता है। सबसे बड़ी चुनौती यह है कि ये ऐप्स दिखने में सामान्य और उपयोगी लगते हैं, जिससे माता-पिता को इनके खतरे का अंदाजा नहीं होता।
