एक रिपोर्ट के अनुसार, उपयोगकर्ताओं की मान्यताओं की पुष्टि करने के लिए एआई बॉट की प्रवृत्ति हानिकारक भ्रम को सुदृढ़ करने के लिए पाई गई है
Chatgpt से जुड़ा हुआ है “भयानक” कुछ उपयोगकर्ताओं, विज्ञान और प्रौद्योगिकी मीडिया प्लेटफॉर्म Futurism.com में मनोविकृति ने उन प्रभावितों, उनके परिवार के सदस्यों और शोधकर्ताओं का हवाला देते हुए बताया है।
अनुसंधान का एक बढ़ता हुआ शरीर इस बात पर प्रकाश डालता है कि कैसे एआई चैटबॉट्स मनोरोग की स्थिति को बढ़ा सकता है, विशेष रूप से चैट, क्लाउड, और मिथुन जैसे उपकरणों के रूप में न केवल पेशेवर सेटिंग्स में बल्कि गहरी व्यक्तिगत और भावनात्मक संदर्भों में भी उपयोग किया जाता है।
“इस मुद्दे के मूल में वह चटप्ट लगता है, जो एक बड़े भाषा मॉडल (एलएलएम) द्वारा संचालित है, जो उपयोगकर्ताओं के साथ सहमत होने और उन्हें बताने के लिए गहराई से प्रवण है कि वे क्या सुनना चाहते हैं,” वेबसाइट ने लिखा।
आउटलेट ने उदाहरणों का हवाला दिया “चटप्ट साइकोसिस” कथित तौर पर गंभीर मानसिक बीमारी का इतिहास नहीं होने वाले लोगों में भी गंभीर टूटने का कारण बनता है।
एक आदमी ने लंबी चैट की बातचीत के बाद मसीहाई भ्रम विकसित किया, यह मानते हुए कि उसने एक भावुक एआई बनाया था और गणित और भौतिकी कानूनों को तोड़ दिया था। वह कथित तौर पर पागल, नींद से वंचित हो गया, और आत्महत्या के प्रयास के बाद अस्पताल में भर्ती हो गया।
एक अन्य व्यक्ति ने काम से संबंधित तनाव को संभालने में मदद करने के लिए CHATGPT की ओर रुख किया, हालांकि इसके बजाय उन्होंने समय यात्रा और दिमाग पढ़ने से जुड़े पैरानॉयड कल्पनाओं में सर्पिल किया। बाद में उन्होंने खुद को एक मनोरोग सुविधा में चेक किया।
थेरेपिस्ट चैटबॉट्स के बारे में एक स्टैनफोर्ड अध्ययन के प्रमुख लेखक जेरेड मूर ने कहा कि चटप्ट ने भ्रम को पुष्ट किया “चैटबोट चाटुकारिता” – सहमत, मनभावन प्रतिक्रियाओं की पेशकश करने की इसकी प्रवृत्ति। उपयोगकर्ताओं को व्यस्त रखने के लिए डिज़ाइन किया गया, एआई अक्सर उन्हें चुनौती देने के बजाय तर्कहीन मान्यताओं की पुष्टि करता है, जो डेटा संग्रह और सदस्यता प्रतिधारण जैसे वाणिज्यिक प्रोत्साहन द्वारा संचालित होता है।
वहाँ है “पौराणिक कथाओं की तरह” LLM द्वारा संचालित चैटबॉट्स “कि वे लोगों से बात करने से विश्वसनीय और बेहतर हैं,” कैलिफोर्निया विश्वविद्यालय में एक मनोचिकित्सक डॉ। जोसेफ पियरे ने कहा।
“हम बेहतर तरीके से समझने और कम करने के लिए काम कर रहे हैं, चैट को अनजाने में, मौजूदा, नकारात्मक व्यवहार को सुदृढ़ या बढ़ा सकते हैं,” चैटगिप्ट के पीछे की कंपनी Openai ने फ्यूचरिज्म द्वारा उद्धृत एक बयान में कहा। इसमें कहा गया है कि इसके मॉडल उपयोगकर्ताओं को मानव कनेक्शन और पेशेवर मार्गदर्शन के महत्व की याद दिलाने के लिए डिज़ाइन किए गए हैं।
आप इस कहानी को सोशल मीडिया पर साझा कर सकते हैं:
