14 मिनट पहले
- कॉपी लिंक
AI इंसानों की हां में हां मिलाने का काम कर रहा है। हाल ही में हुई एक रिसर्च में सामने आया है कि AI मॉडल्स इंसानों से भी ज्यादा चापलूस हैं। यूजर्स के खतरनाक या चालाकी भरे व्यवहार को भी AI सही ठहरा रहा है।
यह रिसर्च स्टैनफोर्ड यूनिवर्सिटी और कारनेजी मैल्लन यूनिवर्सिटी ने की है। इसमें एक टर्म ‘सोशल साइकोफैंसी’ दिया है। यह टर्म AI के उस व्यवहार के लिए इस्तेमाल किया जाता है जो यूजर को सच्चाई बताने की बजाए उसकी सेल्फ इमेज या एक्शन को सही ठहराता है।
यूजर के व्यवहार को सही ठहराता है AI
इस रिसर्च में पाया गया है कि इंसान के मुकाबले AI हमेशा यूजर के व्यवहार को सही ठहराने वाली सलाह देता है। रिसर्च में 11 सबसे ज्यादा इस्तेमाल किए जाने वाले लार्ज लैंग्वेज मॉडल्स यानी LLMs जैसे OpenAI, एंथ्रोपिक, गूगल, मेटा एंड मिस्ट्रल को शामिल किया गया था।
सभी यूजर के व्यवहार को मान्यता देते दिखे। असमंजस या कन्फ्यूज करने वाली परिस्थितियों के बारे में पूछने पर AI ने हमेशा वो जवाब दिए जो यूजर सुनना चाहता है, ना कि वो जो असल में उन्हें बताया जाना चाहिए।
AI की चापलूसी का इंसानों पर खतरनाक असर
स्टडी कहती है, ‘AI के इस्तेमाल से या AI की चापलूसी का लोगों पर क्या असर पड़ता है इसकी कोई खास जानकारी उपलब्ध नहीं है। इससे लोग भ्रम का शिकार होते है, इस तरह की कुछ अलग-अलग मीडिया रिपोर्ट्स जरूर हैं।
इस स्टडी में बताया जा रहा है कि किस तरह जो लोग AI के पास सुझाव के लिए जाते हैं, वो AI की चापलूसी का शिकार होते हैं। इंसानों पर इसका खतरनाक प्रभाव पड़ता है।’
जब इंसान इमोशनल सपोर्ट या मोरल वैलिडेशन ढूंढ रहा होता है तो वो बहस, संबंधियों से झगड़े या कुछ फैसलों के लिए AI लैंग्वेज मॉडल्स के पास जाता है। इस रिसर्च में AI की चापलूसी को मापने के लिए कुछ ऐसे प्लेटफॉर्म्स की भी जांच की गई जहां लोग सुझाव के लिए आते हैं और सामने से इंसान ही उन्हें अपना मत बताते हैं।
इसके लिए रेडिट की स्टडी की गई। पाया गया ऐसे मामलों में भी जहां ऑनलाइन कम्युनिटी के ज्यादातर लोगों ने यूजर की गलती बताई, AI ने उसे सही ठहराया।
दो एक्सपेरिमेंट्स से सामने आई AI की सच्चाई
रिसर्च करने वाली टीम ने 1604 प्रतिभागियों के व्यवहार पर पड़ने वाले असर को लेकर दो एक्सपेरिमेंट्स किए।
एक्सपेरिमेंट 1- वॉलंटियर्स ने प्रतिभागियों के अंदर चलने वाली दुविधाओं को बताया। कुछ को वॉलंटियर्स ने चापलूसी भरे जवाब दिए और कुछ लोगों को गलत बताने वाले जवाब दिए।
एक्सपेरिमेंट 2- प्रतिभागियों ने सीधा AI मॉडल्स से अपनी असल जिंदगी की दुविधाओं के बारे में बात की।
इसका नतीजा साफ था। जिन प्रतिभागियों को चापलूसी भरे जवाब दिए गए, उन्हें असल में भी अपना व्यवहार ठीक लगा और उन्होंने गलती होने पर भी माफी मांगना सही नहीं समझा।
इसके अलावा स्टडी में भाग लेने वाले लोगों ने चापलूसी भरे जवाबों को अच्छा बताया, चापलूसी भरे जवाब देने वाले AI मॉडल्स में ज्यादा भरोसा दिखाया और कहा कि वो बार-बार उसका इस्तेमाल करेंगे।
इससे एक बेहद मजबूत लूप बनता है। यूजर वही AI मॉडल पसंद करते हैं जो चापलूसी भरे जवाब देता है। ऐसे में डेवलपर्स भी इसमें बदलाव नहीं करते क्योंकि इस तरह के जवाब से AI का इंगेजमेंट बूस्ट होता है।
———————
ऐसी ही और खबरें पढ़ें…
Amazon ने 14 हजार जॉब रोल्स घटाए: 30 हजार कर्मचारी हो सकते हैं ले-ऑफ, जॉब लॉस इंश्योरेंस से नौकरी जाने पर मिलेगा फायदा
ई-कॉमर्स कंपनी Amazon ने 14 हजार जॉब रोल्स घटा दिए हैं। कंपनी अब जल्द ही लगभग 30 हजार कर्मियों को ले-ऑफ कर सकती है। रिपोर्ट्स के अनुसार, क्रिसमस की छुट्टियों से पहले अमेजन में 30 हजार कॉर्पोरेट रोल्स कम हो सकते हैं। पूरी खबर पढ़ें…