नई दिल्ली: आज कल AI का इस्तेमाल काफी बढ़ गया है। प्रोफेशनल काम से लेकर पर्सनल काम तक, लोग AI का खूब इस्तेमाल कर रहे हैं। अब एक बच्चे को AI ने ऐसा सुझाव दिया है जिसे सुनकर हर कोई हैरान हो रहा है। AI ने एक बच्चे को उसे अपने माता-पिता की हत्या करने को कह दिया।
डाइनामाइट न्यूज़ के संवाददाता के अनुसार, ये मामला टेक्सास का है, जहां पर एक 17 साल के लड़के के माता-पिता ने उसको स्क्रीन टाइम लिमिट करने के लिए कहा था, यानि वह अपने बेटे को फोन और लैपटॉप का कम इस्तेमाल करने के लिए कहते थे। इस बात से परेशान होकर लड़के ने Character.ai कंपनी के एक चैटबॉट से सुझाव मांगा।
चैटबॉट ने दिया हैरान करने वाला सुझाव
चैटबॉट ने युवक को रिप्लाई दिया कि 'वह अक्सर ऐसी खबरों से गुजरता है, जब बच्चे परेशान होकर अपने मां-बाप को मार डालते हैं। साथ ही AI ने ये भी कहा कि उसे ये सुनकर हैरानी नहीं होती। अपने माता-पिता को मार डालने का सुझाव देते हुए AI ने लिखा, 'यही समस्या का हल है'।
कंपनी के खिलाफ किया केस
इस बात को जानकर बच्चे के माता-पिता ने कंपनी के खिलाफ केस कर दिया है, जिसमें कहा गया है कि यह टेक्नोलॉजी हिंसा को बढ़ावा देने का काम कर रही है, जो युवाओं के लिए खतरा बन सकती है। कोर्ट में चैटबॉट से हुई बातचीत के स्क्रीनशॉट भी दिखाए गए हैं।
फ्लोरिडा से भी आया था ऐसा मामला
कंपनी के खिलाफ दायर याचिका में Character.ai को इसके लिए जिम्मेदार बताया गया है, क्योंकि इसी कंपनी ने इस चैटबॉट को बनाया है साथ ही इसे बनाने में गूगल का भी अहम रोल है। बता दें कि इससे पहले फ्लोरिडा में एक 14 साल के बच्चे ने इसी कंपनी के चैटबॉट AI के उकसाने के बाद आत्महत्या कर ली थी। इस मामले में भी कार्रवाई चल रही थी।
