डाइनामाइट न्यूज़ Character.ai: AI ने बच्चे को दे डाली ऐसी नसीहत कि आप भी हो जाएंगे हैरान
AI का इस्तेमाल करना खतरनाक साबित हो सकता है। AI ने एक बच्चे को उसे अपने माता-पिता की हत्या करने को कह दिया। डाइनामाइट न्यूज़ पर पढ़िए पूरी खबर
नई दिल्ली: आज कल AI का इस्तेमाल काफी बढ़ गया है। प्रोफेशनल काम से लेकर पर्सनल काम तक, लोग AI का खूब इस्तेमाल कर रहे हैं। अब एक बच्चे को AI ने ऐसा सुझाव दिया है जिसे सुनकर हर कोई हैरान हो रहा है। AI ने एक बच्चे को उसे अपने माता-पिता की हत्या करने को कह दिया।
डाइनामाइट न्यूज़ के संवाददाता के अनुसार, ये मामला टेक्सास का है, जहां पर एक 17 साल के लड़के के माता-पिता ने उसको स्क्रीन टाइम लिमिट करने के लिए कहा था, यानि वह अपने बेटे को फोन और लैपटॉप का कम इस्तेमाल करने के लिए कहते थे। इस बात से परेशान होकर लड़के ने Character.ai कंपनी के एक चैटबॉट से सुझाव मांगा।
चैटबॉट ने दिया हैरान करने वाला सुझाव
यह भी पढ़ें |
Google के सामने पैदा हुआ अपनी बादशाहत खोने का खतरा, पढ़ें ये पूरी रिपोर्ट
चैटबॉट ने युवक को रिप्लाई दिया कि 'वह अक्सर ऐसी खबरों से गुजरता है, जब बच्चे परेशान होकर अपने मां-बाप को मार डालते हैं। साथ ही AI ने ये भी कहा कि उसे ये सुनकर हैरानी नहीं होती। अपने माता-पिता को मार डालने का सुझाव देते हुए AI ने लिखा, 'यही समस्या का हल है'।
कंपनी के खिलाफ किया केस
इस बात को जानकर बच्चे के माता-पिता ने कंपनी के खिलाफ केस कर दिया है, जिसमें कहा गया है कि यह टेक्नोलॉजी हिंसा को बढ़ावा देने का काम कर रही है, जो युवाओं के लिए खतरा बन सकती है। कोर्ट में चैटबॉट से हुई बातचीत के स्क्रीनशॉट भी दिखाए गए हैं।
यह भी पढ़ें |
क्या कोई मशीन नस्लवादी हो सकती है? कृत्रिम मेधा ने पूर्वाग्रह के व्यथित करने वाले संकेत दिए
फ्लोरिडा से भी आया था ऐसा मामला
कंपनी के खिलाफ दायर याचिका में Character.ai को इसके लिए जिम्मेदार बताया गया है, क्योंकि इसी कंपनी ने इस चैटबॉट को बनाया है साथ ही इसे बनाने में गूगल का भी अहम रोल है। बता दें कि इससे पहले फ्लोरिडा में एक 14 साल के बच्चे ने इसी कंपनी के चैटबॉट AI के उकसाने के बाद आत्महत्या कर ली थी। इस मामले में भी कार्रवाई चल रही थी।