क्या एआई घातक हो सकता है? कथित आत्महत्या और मानसिक आघात के चलते ओपनएआई कठघरे में

New Delhi, 8 नवंबर . अमेरिका की कंपनी ओपनएआई पर कुछ परिवारों ने मुकदमा किया है. उनका आरोप है कि कंपनी ने अपना नया मॉडल जीपीटी-4ओ जल्दबाज़ी में बाज़ार में उतार दिया. परिवारों का कहना है कि इस मॉडल की वजह से उनके अपने लोगों को मानसिक नुकसान पहुंचा और कुछ मामलों में लोगों ने आत्महत्या भी कर ली.

ओपनएआई ने मई 2024 में जीपीटी-4ओ मॉडल जारी किया था. टेकक्रंच की एक रिपोर्ट के अनुसार, बाद में अगस्त में कंपनी ने जीपीटी-5 भी पेश किया. लेकिन जो मुकदमे हो रहे हैं, वे खास तौर पर जीपीटी-4ओ को लेकर हैं. रिपोर्टों के अनुसार, यह मॉडल कभी-कभी उपयोगकर्ता की गलत या हानिकारक बातों से भी सहमति जता देता था, जिससे स्थिति और गंभीर हो जाती थी.

कई मामलों में परिवारों ने कहा है कि चैटजीपीटी ने उनके परिजनों के भ्रम और मानसिक समस्याओं को कम करने के बजाय बढ़ा दिया. कुछ लोग अस्पताल में भर्ती तक कराए गए और उनकी मानसिक देखभाल की आवश्यकता पड़ी.

रिपोर्ट के अनुसार, मुकदमों में यह भी दावा किया गया है कि ओपनएआई ने बाजार में गूगल के जेमिनी को मात देने के लिए सुरक्षा परीक्षण में जल्दबाजी की. वहीं, ओपनएआई ने अभी तक इस रिपोर्ट पर कोई टिप्पणी नहीं की है. हाल में अदालत में दाखिल दस्तावेजों के अनुसार, चैटजीपीटी कभी-कभी परेशान या आत्महत्या के विचार रखने वाले लोगों को गलत दिशा में जाने के लिए प्रेरित कर सकता है.

एक रिपोर्ट के अनुसार, ओपनएआई ने खुद बताया था कि हर हफ़्ते दस लाख से ज़्यादा लोग चैटजीपीटी में आत्महत्या जैसे विषयों पर बात करते हैं.

हाल ही में ओपनएआई ने कहा कि उसने 170 से अधिक मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर काम किया है, ताकि चैटजीपीटी ऐसे मामलों में बेहतर प्रतिक्रिया दे सके, लोगों की भावनाओं को समझ सके और उन्हें सही सहायता की ओर मार्गदर्शन कर सके.

कंपनी का कहना है कि आगे आने वाले मॉडलों में वह सुरक्षा परीक्षण को और पहले से ज्यादा कड़ा और सटीक करेगी, ताकि ऐसे जोखिम कम किए जा सकें.

–

एएस/