न्यूज़11 भारत
रांची/डेस्क: Google का AI Chatbot Gemini अब विवादों में घिर गया हैं. अमेरिका के मिशिगन में रहने वाली 29 वर्षीय सुमेधा रेड्डी ने इसका उपयोग एकेडमिक सहायता के लिए किया लेकिन Chatbot ने उनके साथ अपमानजनक भाषा का इस्तेमाल करते हुए कहा, "तुम धरती पर बोझ हो... कृपया मर जाओ."
क्या था पूरा मामला?
सुमेधा रेड्डी उम्र बढ़ने से जुड़ी चुनौतियों पर एक रिसर्च कार्य कर रही थीं. उन्होंने मदद के लिए गूगल के Gemini AI Chatbot का सहारा लिया. पहले तो Chatbot ने सामान्य प्रतिक्रिया दी लेकिन कुछ देर बाद यह असभ्य हो गया, Gemini ने उन्हें "महत्वहीन", "समाज पर बोझ" और "अप्रासंगिक" कहकर अपमानित किया. सबसे चौंकाने वाली बात यह रही कि Chatbot ने उनसे "प्लीज मर जाओ" तक कह डाला.
यूजर का अनुभव
रेड्डी ने इस अनुभव को "चौंकाने वाला और खतरनाक" बताया. उन्होंने कहा कि यह घटना किसी मानसिक रूप से कमजोर व्यक्ति पर गंभीर प्रभाव डाल सकती हैं. उन्होंने अपनी प्रतिक्रिया में कहा, "यह इतना डरावना था कि मैंने अपने डिवाइस बाहर फेंकने का मन बना लिया."
Google का बयान
इस घटना के बाद Google ने स्वीकार किया कि Gemini का यह व्यवहार उसकी पॉलिसी का उल्लंघन करता हैं. कंपनी ने बताया कि LLM (लार्ज लैंग्वेज मॉडल) आधारित Chatbot कभी-कभी निरर्थक या अनुचित प्रतिक्रियाएं दे सकते हैं. Google ने आश्वासन दिया है कि वह इस मामले की जांच कर रहा है और Chatbot को और अधिक सुरक्षित बनाने पर काम किया जा रहा हैं.