Newstrack Special: AI झूठ क्यों बोलता है? जवाब न पता होने पर भी कहानी क्यों गढ़ देता है

AI Hallucination Explained in Hindi: आजकल लगभग हर कोई किसी न किसी AI चैटबॉट से सवाल पूछता है, चाहे वह कोई आंकड़े जानना हो, कोई लेख लिखवाना हो या किसी विषय पर जानकारी चाहिए हो। ज्यादातर बार चैटबॉट के जवाब बेहद सटीक और उपयोगी होते हैं। पर कभी-कभी एक हैरान करने वाली बात सामने आती है। AI बड़े आत्मविश्वास से कोई ऐसी जानकारी दे देता है जो पूरी तरह गलत या मनगढ़ंत या पुरानी होती है। कोई किताब जो कभी लिखी ही नहीं गई, कोई तारीख जो कभी हुई ही नहीं, कोई शोध जो असल में मौजूद ही नहीं। यह देखकर लोग अक्सर सोचते हैं कि AI झूठ क्यों बोल रहा है?

AI असल में झूठ नहीं बोलता

सबसे पहली और सबसे जरूरी बात यह समझनी चाहिए कि जब AI गलत जानकारी देता है तो यह इंसान के झूठ बोलने जैसा नहीं है। जब कोई इंसान झूठ बोलता है तो उसे पहले सच पता होता है और फिर वह जानबूझकर उससे अलग बात कहने का फैसला लेता है। इसमें एक इरादा शामिल होता है, एक जान-बूझकर लिया गया निर्णय।

AI मॉडल के भीतर ऐसा कोई तंत्र मौजूद ही नहीं है। इसके पास न तो सच जानने की कोई अलग जगह है, न ही जानबूझकर छुपाने की कोई प्रक्रिया। इसीलिए तकनीकी भाषा में इसे झूठ नहीं, बल्कि 'हैलुसिनेशन' कहा जाता है। यानी मॉडल का आत्मविश्वास से कुछ ऐसा बना देना, जो सच नहीं है, बिना यह जाने कि वह गलत बोल रहा है। यह फर्क समझना बेहद जरूरी है क्योंकि इससे यह भी समझ आता है कि इस समस्या को सुलझाने का तरीका भी इंसानी झूठ पकड़ने के तरीके से बिल्कुल अलग होगा।

AI मॉडल असल में काम कैसे करता है?

इस पूरी पहेली को सुलझाने के लिए सबसे पहले यह समझना जरूरी है कि आज के भाषा मॉडल काम कैसे करते हैं। यह मॉडल किसी डेटाबेस की तरह काम नहीं करते, जहां हर तथ्य को अलग-अलग करके रखा गया हो और सवाल पूछने पर सीधे वहां से निकाल लिया जाए, जैसे कोई सर्च इंजन करता है। इसके बजाय यह मॉडल अरबों-खरबों शब्दों को पढ़कर यह सीखते हैं कि किसी वाक्य के बाद अगला शब्द सबसे ज्यादा संभावना किस चीज़ का है।

यानी जब आप कोई सवाल पूछते हैं, तो मॉडल असल में यह याद नहीं कर रहा होता कि कहीं लिखा हुआ जवाब क्या है, बल्कि वह यह अनुमान लगा रहा होता है कि इस सवाल के बाद, इस संदर्भ में, सबसे संभावित और भाषाई रूप से सही लगने वाला अगला शब्द क्या हो सकता है, और उसके बाद अगला, और उसके बाद अगला। यह पूरी प्रक्रिया एक तरह का बेहद परिष्कृत अनुमान लगाने का खेल है, जो ज्यादातर मामलों में सही निकलता है। क्योंकि मॉडल ने अपनी ट्रेनिंग के दौरान इतना ज्यादा और इतना व्यापक डेटा देखा होता है कि उसके अनुमान अक्सर सटीक तथ्यों से मेल खा जाते हैं।

जब जानकारी साफ हो, तब मॉडल सही क्यों रहता है

जिन विषयों पर मॉडल ने अपनी ट्रेनिंग के दौरान भारी मात्रा में, बार-बार और लगातार एक जैसी जानकारी देखी हो, जैसे किसी मशहूर ऐतिहासिक घटना की तारीख, किसी जाने-माने वैज्ञानिक सिद्धांत या किसी बेहद लोकप्रिय किताब का नाम, वहां मॉडल का अनुमान लगभग हमेशा सही निकलता है। इसकी वजह यह है कि इतनी बार दोहराई गई जानकारी का पैटर्न इतना मजबूत और स्पष्ट बन जाता है कि मॉडल के लिए सही जवाब तक पहुंचना बेहद आसान हो जाता है।

यही वजह है कि किसी आम, अच्छी तरह से दस्तावेज़ीकृत जानकारी पर AI मॉडल अक्सर हैरान करने वाली सटीकता के साथ जवाब देते हैं। क्योंकि वहां सही अगला शब्द का अनुमान लगाना अपेक्षाकृत आसान होता है क्योंकि उस जानकारी को सही तरीके से बताने वाले लाखों उदाहरण मॉडल की ट्रेनिंग में मौजूद रहे होंगे।

जब जानकारी कम या अस्पष्ट हो, तब गड़बड़ी क्यों होती है

जब कोई सवाल किसी ऐसे विषय पर पूछा जाए जिसकी जानकारी मॉडल के पास बेहद कम, अस्पष्ट या पूरी तरह नदारद हो, जैसे कोई बेहद खास तारीख, किसी कम मशहूर व्यक्ति की जीवनी का कोई बारीक ब्योरा, कोई दुर्लभ शोध पत्र, या कोई ऐसी घटना जिसका जिक्र इंटरनेट पर बहुत कम जगह हुआ हो। ऐसी स्थिति में भी मॉडल अपनी बुनियादी आदत नहीं छोड़ता। यह अब भी सबसे संभावित अगला शब्द चुनने की कोशिश करता है, भले ही उसके पास इस बार पक्का आधार न हो।

यही वह क्षण है, जब हैलुसिनेशन पैदा होता है। मॉडल एक ऐसा जवाब बना देता है जो भाषाई रूप से पूरी तरह सही, आत्मविश्वास से भरा और असली जैसा लगता है। पर असल में वह सिर्फ एक अनुमान है जो इस बार गलत निकल गया। यह कुछ ऐसा है जैसे कोई व्यक्ति किसी अनजान रास्ते पर अंधेरे में चल रहा हो और हर कदम पर सबसे संभावित दिशा का अंदाजा लगाकर आगे बढ़ता जाए। ज्यादातर बार यह अंदाजा सही निकलेगा, पर कभी-कभी गलत मोड़ भी आ सकता है और मॉडल को यह पता ही नहीं चलता कि वह गलत मोड़ मुड़ चुका है।

मॉडल मुझे नहीं पता क्यों नहीं कहता है?

एक स्वाभाविक सवाल यह उठता है कि अगर मॉडल को किसी जानकारी के बारे में यकीन नहीं है, तो वह सीधे मुझे नहीं पता क्यों नहीं कह देता, बजाय कोई गलत जानकारी गढ़ने के। इसका जवाब समझने के लिए यह जानना जरूरी है कि मॉडल को किस तरह प्रशिक्षित किया जाता है।

ट्रेनिंग के दौरान मॉडल को आमतौर पर मददगार, पूरे और आत्मविश्वास से भरे जवाब देने के लिए प्रोत्साहित किया जाता है। क्योंकि जिस विशाल टेक्स्ट डेटा से यह सीखता है उसमें ज्यादातर लोग किसी बात को अनिश्चितता के साथ नहीं बल्कि सीधे दावे के तौर पर लिखते हैं। इंटरनेट पर मौजूद ज्यादातर लेख, किताबें और जवाब खुद भी काफी आत्मविश्वास से लिखे गए होते हैं, भले ही वे सही हों या गलत। इसलिए मॉडल के लिए 'मैं इस बारे में निश्चित नहीं हूं' जैसा जवाब देना उतना स्वाभाविक पैटर्न नहीं बन पाता, जितना कोई प्रशंसनीय और पूरा जवाब बना देना, भले ही वह जवाब गलत निकल जाए।

इसके अलावा एक तकनीकी वजह भी है। मॉडल के पास खुद अपनी अनिश्चितता को सटीक रूप से नापने और उसे ईमानदारी से जाहिर करने की क्षमता अभी भी सीमित है। यानी मॉडल को यह अंदाज़ा तो कुछ हद तक होता है कि कौन-सा अनुमान ज्यादा मजबूत आधार पर टिका है और कौन-सा कमजोर, पर इस अनिश्चितता को स्पष्ट रूप से पहचानकर मुझे यकीन नहीं है में बदलना एक अलग और जटिल क्षमता है, जिस पर आज भी दुनिया भर के शोधकर्ता काम कर रहे हैं।

क्या यह समस्या सुधारी जा सकती है

यह समझना जरूरी है कि हैलुसिनेशन की समस्या पूरी तरह खत्म करना आसान नहीं पर इसे कम करने के लिए लगातार कोशिशें हो रही हैं। एक तरीका है मॉडल को यह सिखाना कि अनिश्चित होने पर अपनी अनिश्चितता को स्पष्ट रूप से जाहिर करे, यानी सीधे मुझे यकीन नहीं कहने को भी उतना ही अच्छा जवाब माना जाए, जितना कोई सही जानकारी देना। यह ट्रेनिंग प्रक्रिया में एक जानबूझकर किया गया बदलाव है, जिससे मॉडल को यह सिखाया जाता है कि गलत जवाब देने से बेहतर है सही तरीके से अनिश्चितता बताना।

दूसरा तरीका है मॉडल को इंटरनेट पर मौजूद ताज़ा और सत्यापित जानकारी तक सीधी पहुंच देना, यानी वेब सर्च जैसी सुविधाओं का इस्तेमाल करना, ताकि मॉडल सिर्फ अपनी पुरानी, सीमित ट्रेनिंग पर निर्भर न रहे, बल्कि जरूरत पड़ने पर बाहरी, विश्वसनीय स्रोत से जानकारी जांच सके। तीसरा तरीका है मॉडल को यह सिखाना कि किसी खास, जांचने लायक तथ्य को बताते वक्त वह अपने स्रोत का हवाला भी दे, ताकि उपयोगकर्ता खुद उस जानकारी की पुष्टि कर सके।

यूजर के तौर पर क्या सावधानी बरतें

चूंकि यह समस्या पूरी तरह खत्म नहीं हुई है इसलिए AI का इस्तेमाल करते वक्त कुछ सावधानियां बरतना समझदारी है। सबसे पहली बात, कोई भी खास, जांचने लायक तथ्य, जैसे कोई तारीख, कोई नाम, कोई आंकड़ा या कोई वैज्ञानिक दावा, उसे किसी स्वतंत्र और भरोसेमंद स्रोत से जरूर जांच लेना चाहिए, चाहे जवाब कितने भी आत्मविश्वास से क्यों न दिया गया हो। AI का आत्मविश्वास भरा लहजा उसकी सटीकता की गारंटी नहीं है, यह समझना बेहद जरूरी है।

दूसरी बात, जितना ज्यादा कोई विषय दुर्लभ, बेहद ताज़ा या कम चर्चित हो, उतनी ही ज्यादा सावधानी बरतनी चाहिए, क्योंकि यही वह जगह है जहां हैलुसिनेशन की आशंका सबसे ज्यादा रहती है। इसके उलट किसी बेहद आम और अच्छी तरह से दस्तावेज़ीकृत जानकारी पर आमतौर पर मॉडल ज्यादा भरोसेमंद साबित होता है।

तीसरी बात, अगर संभव हो तो किसी भी महत्वपूर्ण जानकारी के लिए AI से यह भी पूछा जा सकता है कि उसे यह जानकारी कहां से मिली, या क्या वह इसके बारे में निश्चित है, क्योंकि कई आधुनिक मॉडल अब इस तरह के सवालों पर ज्यादा ईमानदारी से अपनी अनिश्चितता जाहिर करने के लिए प्रशिक्षित किए जा रहे हैं।

यह समस्या सिर्फ टेक्स्ट तक सीमित नहीं

यह भी समझना जरूरी है कि हैलुसिनेशन सिर्फ टेक्स्ट के जवाबों तक सीमित नहीं है। जब AI तस्वीरें बनाता है, कोड लिखता है, या किसी दस्तावेज़ का सारांश तैयार करता है, तब भी यही बुनियादी सिद्धांत लागू होता है कि मॉडल हमेशा सबसे संभावित और सुसंगत लगने वाला नतीजा बनाने की कोशिश करता है, और कभी-कभी यह संभावित नतीजा असली सच्चाई से मेल नहीं खाता। इसीलिए किसी भी क्षेत्र में AI के आउटपुट को अंतिम सच मानने के बजाय, उसे एक शुरुआती बिंदु या सहायक जानकारी की तरह देखना ज्यादा समझदारी भरा तरीका है।

AI का "झूठ बोलना" असल में कोई जानबूझकर किया गया धोखा नहीं, बल्कि यह इस बात का नतीजा है कि यह तकनीक मूल रूप से पैटर्न और अनुमान पर आधारित है, न कि किसी पक्के डेटाबेस पर। जब जानकारी स्पष्ट और भरपूर हो, तो यह अनुमान लगभग हमेशा सही निकलता है, पर जब जानकारी कम या अनुपस्थित हो, तब भी मॉडल अपनी बुनियादी आदत के मुताबिक कोई न कोई जवाब बना देता है, भले ही वह गलत हो। यही वजह है कि आज दुनिया भर के शोधकर्ता इस समस्या को कम करने में जुटे हैं, और साथ ही यह भी उतना ही जरूरी है कि हम उपयोगकर्ता के तौर पर यह समझें कि AI का आत्मविश्वास भरा लहजा हमेशा सच्चाई की गारंटी नहीं देता, इसलिए महत्वपूर्ण जानकारी को हमेशा दोबारा जांच लेना ही सबसे समझदारी भरी आदत है।