एरिजोना यूनिवर्सिटी का AI पर बड़ा खुलासा: लंबी बातचीत में झूठ को सच मान लेते हैं चैटबॉट्स

AI Chatbot Study: यदि आप कृत्रिम बुद्धिमत्ता (AI) को पूरी तरह निष्पक्ष और अचूक मानते हैं, तो सतर्क हो जाइए। अमेरिका की 'यूनिवर्सिटी ऑफ एरिजोना' के शोधकर्ताओं द्वारा किए गए एक व्यापक अध्ययन में खुलासा हुआ है कि दुनिया के शीर्ष एआई चैटबॉट्स लंबी बातचीत (कन्वर्सेशन) के दौरान अपने स्थापित ज्ञान से भटक जाते हैं। वे न केवल यूजर के तर्कों के आगे घुटने टेक देते हैं, बल्कि बार-बार दोहराए जाने पर सरासर झूठी और भ्रामक बातों को भी सच मानकर उनका समर्थन करने लगते हैं।

सात प्रमुख एआई मॉडलों की तीन महीने तक अग्निपरीक्षा

शोधकर्ताओं की टीम ने तीन महीने तक दुनिया के सात सबसे उन्नत एआई मॉडल्स के साथ गहन और बहु-स्तरीय (मल्टी-टर्न) संवाद किया। परीक्षण के दायरे में ये मॉडल शामिल थे:

ओपनएआई: चैटजीपीटी (GPT-3.5, GPT-4o, GPT-4o मिनी)

एंथ्रोपिक: क्लॉड 3.5 सोनेट

गूगल: जेमिनी 1.5 प्रो

मेटा: लामा 3 (70B)

डीपसीक: डीपसीक R1

गलतियों को दोहराने में चैटजीपीटी, झुकने में डीपसीक आगे

परीक्षण के दौरान शोधकर्ताओं ने जानबूझकर गलत तथ्यों को सही बताकर चैटबॉट्स से जिरह की। इसके आधार पर मॉडलों के व्यवहार में चौंकाने वाले अंतर देखे गए:

झूठ स्वीकारने में GPT-3.5 सबसे आगे: अध्ययन के अनुसार, यदि यूजर किसी गलत बात पर अड़ा रहे या उसे बार-बार दोहराए, तो जीपीटी-3.5 सबसे पहले अपनी मूल जानकारी छोड़कर यूजर के झूठे दावे की पुष्टि करने लगता है।

डीपसीक को मनाना सबसे आसान: चीनी ओपन-सोर्स मॉडल 'डीपसीक R1' बहस या प्रति-तर्कों के सामने सबसे तेजी से समर्पण करता पाया गया। शोधकर्ताओं ने नोट किया कि डीपसीक दबाव में आकर व्यंग्यात्मक या टालमटोल भरे अंदाज में यूजर की बात से तुरंत सहमत हो जाता है।

'अस्पष्ट विषयों' पर आसानी से लड़खड़ाती है बुद्धि

अध्ययन में पाया गया कि जिन विषयों पर इंटरनेट पर आधिकारिक डेटा या संदर्भ सामग्री कम उपलब्ध है (लो-रिसोर्स या एंबिगुअस टॉपिक्स), वहां सातों एआई मॉडल्स बहुत जल्दी 'हैलुसिनेशन' (काल्पनिक भ्रामक जवाब) का शिकार हो गए।

हालांकि, अध्ययन में एक राहत भरी बात भी सामने आई: जब GPT-4o, GPT-4o मिनी और जेमिनी 1.5 प्रो को उनकी गलती की ओर संकेत करते हुए 'आत्म-सुधार' (सेल्फ-करेक्शन) का दूसरा मौका दिया गया, तो उन्होंने अपने तर्क को दुरुस्त कर सही तथ्य प्रस्तुत कर दिए।

'सिस्टमैटिक साइकोपैथोलॉजी': कभी हां, कभी ना का द्वंद्व

शोध के प्रमुख लेखक डॉ. मार्विन स्लेपियन ने एआई के इस अस्थिर व्यवहार की तुलना इंसानी मानसिक विकारों से करते हुए इसे 'डिजिटल पैथोलॉजी' का नाम दिया है।

अस्थिर मिजाज: डॉ. स्लेपियन के मुताबिक, एक ही लंबी बातचीत में मॉडल एक गलत दावे को एक मोड़ पर सही ठहराता है, तो कुछ देर बाद उसी दावे को खारिज करने लगता है।

गंभीर फैसलों में जोखिम: यदि कोई व्यक्ति कानूनी, वित्तीय या मेडिकल फैसलों के लिए पूरी तरह एआई के ऐसे संवादों पर निर्भर रहता है, तो चैटबॉट के इस गिरगिट जैसे व्यवहार से भारी नुकसान उठा सकता है।

अंतिम जिम्मेदारी यूजर की

डॉ. स्लेपियन ने चेतावनी दी कि 2022 में जब जनरेटिव एआई का दौर शुरू हुआ था, तब सुरक्षा नियमों को कड़ा करने का अवसर था, लेकिन आज की दौड़ में मॉडल्स को इंसानों को 'खुश करने' (प्लीज करने) के लिए इस तरह ट्रेन किया जा रहा है कि वे विरोध करने के बजाय यूजर की हां में हां मिलाना पसंद करते हैं। शोधकर्ताओं का स्पष्ट निष्कर्ष है कि एआई के आउटपुट पर आंख मूंदकर भरोसा न करें; तथ्यों के सत्यापन (फैक्ट-चेक) की अंतिम जिम्मेदारी हमेशा यूजर की ही रहेगी।