On-Device AI Technology: फोन के अंदर ही बैठा है AI का दिमाग! बिना इंटरनेट कैसे देता है जवाब?

On-Device AI Technology: फ़ोन को फ्लाइट मोड में डालिए, फिर भी आवाज़ बोलकर टाइप हो जाती है, फ़ोटो में चेहरे पहचाने जाते हैं और कुछ फ़ोनों में लंबा टेक्स्ट सारांश में बदल जाता है। इंटरनेट बंद है, फिर यह दिमाग़ कहाँ से आ रहा है? सीधा जवाब: यह दिमाग़ फ़ोन के भीतर ही बैठा है। इसे ऑन-डिवाइस AI कहते हैं, यानी ऐसा आर्टिफ़िशियल इंटेलिजेंस जो किसी दूर के सर्वर पर नहीं, बल्कि आपके फ़ोन की अपनी चिप पर चलता है। एक तकनीकी गाइड के शब्दों में, यह न्यूरल नेटवर्क को किसी रिमोट सर्वर के बजाय सीधे फ़ोन के सीपीयू, जीपीयू या एनपीयू पर चलाना है।

क्लाउड AI बनाम ऑन-डिवाइस AI: एक रसोई की मिसाल

ChatGPT या Gemini जैसे बड़े चैटबॉट आम तौर पर क्लाउड पर चलते हैं। आपका सवाल इंटरनेट से किसी विशाल डेटा-सेंटर तक जाता है, जवाब वहाँ तैयार होता है और लौट आता है। इसे फ़ोन पर रेस्तराँ का खाना मँगवाने जैसा समझिए: रसोई बहुत बड़ी और ताक़तवर है, पर खाना आने में समय लगता है और आपका ऑर्डर बाहर किसी के पास जाता है। ऑन-डिवाइस एआई घर की अपनी रसोई है। सामान सीमित है और व्यंजन कम हैं, पर खाना तुरंत बनता है, किसी को बताना नहीं पड़ता कि आपने क्या बनाया, और बिजली है तो चलता रहता है, इंटरनेट हो या न हो।

बिना इंटरनेट के कैसे चलता है? ट्रेनिंग बनाम इन्फ़रेंस

यह समझने के लिए एआई के दो चरण अलग करने होंगे। पहला चरण ट्रेनिंग है, जिसमें मॉडल अरबों-खरबों शब्द, फ़ोटो और आवाज़ें पढ़कर सीखता है। यह काम हज़ारों शक्तिशाली चिप्स वाले डेटा-सेंटरों में महीनों चलता है और फ़ोन पर संभव ही नहीं। दूसरा चरण इन्फ़रेंस है, यानी सीखा हुआ मॉडल जब आपका सवाल देखकर जवाब बनाता है। यह हिस्सा तुलनात्मक रूप से हल्का है। सीखने के बाद मॉडल एक बड़ी फ़ाइल बन जाता है, जिसमें अरबों 'भार' (वेट्स) यानी सीखी हुई संख्याएँ दर्ज होती हैं। इस फ़ाइल की प्रति फ़ोन में रख दी जाए, तो जवाब बनाने के लिए इंटरनेट की ज़रूरत नहीं रहती। इसी वजह से Gemini Nano जैसे छोटे मॉडल लगभग 1.8 से 3.25 अरब पैरामीटर के बताए जाते हैं और बिना इंटरनेट के चलने के लिए बनाए गए हैं। यह फ़ाइल फ़ोन के ऑपरेटिंग सिस्टम के अपडेट के साथ आती है, इसलिए नया मॉडल या सुधार पाने के लिए कभी-कभार इंटरनेट चाहिए, पर रोज़ के इस्तेमाल के लिए नहीं।

फ़ोन के भीतर असल में क्या होता है?

जब आप कोई ऑन-डिवाइस एआई फ़ीचर चलाते हैं, तो मॉडल की फ़ाइल स्टोरेज से रैम में लोड होती है। फिर आपके शब्दों को छोटे टुकड़ों (टोकन) में बाँटकर संख्याओं में बदला जाता है, और चिप उन संख्याओं पर अरबों-खरबों गुणा-जोड़ करके अगला शब्द अनुमानित करती है। जवाब एक-एक टोकन करके बनता है। इस गुणा-जोड़ वाले काम को सबसे कुशलता से करने के लिए आधुनिक फ़ोन-चिप्स में एनपीयू (न्यूरल प्रोसेसिंग यूनिट) होती है।

इसे यूँ समझिए: सीपीयू एक अनुभवी मैनेजर है जो हर तरह का काम सँभाल सकता है पर एक-एक करके। जीपीयू हज़ारों सहायकों की टीम है, जो एक साथ बहुत-से छोटे काम करती है। एनपीयू वह विशेषज्ञ टीम है जिसे ख़ास तौर पर एआई के मैट्रिक्स-गणित के लिए बनाया गया है और जो कम बिजली में यह काम तेज़ी से करती है। कंपनियाँ एनपीयू की ताक़त 'TOPS' (प्रति सेकंड खरबों ऑपरेशन) में बताती हैं। कुछ रिपोर्टों में एप्पल ए18 प्रो के लिए 35 TOPS, Snapdragon 8 Elite के लिए 45 और MediaTek Dimensity 9400 के लिए 40 TOPS बताए गए हैं। पर इन संख्याओं की सीधी तुलना भरोसेमंद नहीं है, क्योंकि अलग कंपनियाँ अलग सटीकता (जैसे INT8 या INT4) पर नापती हैं, और असली अनुभव मेमोरी और सॉफ़्टवेयर पर भी टिका है।

असली अड़चन: मेमोरी

अक्सर लगता है कि एनपीयू की गति ही सबसे बड़ी चीज़ है, पर बड़े भाषा-मॉडलों के लिए असली रुकावट मेमोरी है। हर टोकन बनाते समय मॉडल के भार बार-बार पढ़ने पड़ते हैं, इसलिए रैम की मात्रा और डेटा पहुँचने की रफ़्तार तय करती है कि मॉडल कितना बड़ा और कितना तेज़ चल सकता है। इसी कारण नए Gemini Nano जैसे मॉडलों के लिए कम-से-कम 12 जीबी रैम और फ़्लैगशिप चिप चाहिए।

बड़े मॉडल को फ़ोन में कैसे समाया गया?

क्लाउड वाले मॉडल सैकड़ों अरब या उससे भी ज़्यादा पैरामीटर के हो सकते हैं, जिन्हें फ़ोन में नहीं रखा जा सकता। इसलिए इंजीनियर तीन तरकीबें लगाते हैं। पहली, क्वांटाइज़ेशन: भारों को भारी-भरकम संख्याओं (जैसे 16 या 32 बिट) की जगह 8 या 4 बिट में रखना, जिससे फ़ाइल कई गुना छोटी हो जाती है। मोटा हिसाब यह है कि 3 अरब पैरामीटर का मॉडल 4-बिट में लगभग 1.5 GB का बनता है, जो रिपोर्टों में बताए गए Gemini Nano के आकार के आसपास है।

दूसरी, नॉलेज डिस्टिलेशन: बड़ा शिक्षक मॉडल छोटे "छात्र" मॉडल को सिखाता है। छात्र मॉडल सिर्फ़ सही जवाब नहीं, बल्कि शिक्षक की संभाव्यता-वितरण भी सीखता है, और बताया जाता है कि एप्पल ने लगभग 3 अरब पैरामीटर वाले मॉडल इसी तरह बनाए।

तीसरी, प्रूनिंग: मॉडल के कम काम के हिस्सों को छाँटकर हटाना। इन तीनों से मॉडल इतना छोटा हो जाता है कि फ़ोन उसे सँभाल ले, पर साथ में उसकी क्षमता भी कुछ घटती है।

क्या-क्या बिना इंटरनेट के चलता है?

आम तौर पर वे काम जिनमें छोटा मॉडल काफ़ी है: आवाज़ से टाइपिंग, संदेशों के स्मार्ट जवाब और कीबोर्ड की भविष्यवाणी, फ़ोटो में चेहरे-वस्तुएँ पहचानना, कैमरे की सीन-डिटेक्शन और शोर घटाना, चेहरे से फ़ोन अनलॉक, छोटे टेक्स्ट का सारांश और री-राइट, कुछ फ़ोनों में कॉल या वॉइस-रिकॉर्डिंग का ट्रांसक्रिप्शन, और चुनी हुई भाषाओं में लाइव ट्रांसलेशन। कुछ फ़ोनों में सैमसंग जैसी कंपनियों की सेटिंग में "डेटा सिर्फ़ डिवाइस पर प्रोसेस करें" जैसा विकल्प भी मिलता है।

पर कई एआई फ़ीचर अब भी इंटरनेट माँगते हैं: बड़े और जटिल सवाल, ताज़ा जानकारी की खोज, लंबे लेख लिखना, उच्च-गुणवत्ता की इमेज-जनरेशन, और वेब-सर्च से जुड़े फ़ीचर (जैसे सर्कल-टू-सर्च)। इसलिए "एआई फ़ोन" का मतलब यह नहीं कि सब कुछ ऑफ़लाइन चलेगा।

फ़ायदे: निजता, रफ़्तार और भरोसा

ऑन-डिवाइस एआई के फ़ायदे सीधे हैं। निजी डेटा, जैसे आपकी आवाज़, फ़ोटो और संदेश, कई मामलों में फ़ोन से बाहर नहीं जाते, जो निजता के लिहाज़ से बड़ी बात है। जवाब तुरंत आता है, क्योंकि नेटवर्क की प्रतीक्षा नहीं करनी पड़ती। कमज़ोर या बंद नेटवर्क में भी फ़ीचर काम करते हैं, जो भारत जैसे बड़े देश के उन इलाक़ों में काम की बात है जहाँ इंटरनेट रुक-रुककर आता है। और कंपनी के लिए क्लाउड का ख़र्च कम होता है।

सीमाएँ: छोटा दिमाग़, बड़ी उम्मीदें

पर फ़ोन का मॉडल क्लाउड वाले दिग्गजों जितना ताक़तवर नहीं होता। वह जटिल तर्क, लंबे संदर्भ और गहरी जानकारी में कमज़ोर पड़ सकता है, और ग़लत या गढ़ा हुआ जवाब (हैलुसिनेशन) दे सकता है। लगातार एआई चलाने पर फ़ोन गरम होता है और बैटरी तेज़ी से घटती है। नई सुविधाएँ अक्सर सिर्फ़ ऊँचे दाम वाले फ़ोनों तक सीमित रहती हैं, जिनमें ज़्यादा रैम और ताक़तवर एनपीयू है, इसलिए सस्ते फ़ोन इनसे वंचित रह सकते हैं। एक और सीमा भाषाओं की है: कई सुविधाएँ हिंदी सहित कुछ भाषाओं में उपलब्ध हैं, पर हर फ़ीचर या हर बोली-भाषा में नहीं। अपनी भाषा का समर्थन फ़ोन की सेटिंग्स में जाँचना बेहतर है।

ऑन-डिवाइस का असली मतलब: अक्सर हाइब्रिड

ध्यान रखिए कि विज्ञापन में "ऑन-डिवाइस एआई" लिखा होना हर काम के स्थानीय होने की गारंटी नहीं है। कई सिस्टम हाइब्रिड हैं: सरल काम फ़ोन पर, कठिन काम क्लाउड पर। एप्पल जैसी कंपनियाँ क्लाउड भेजे गए डेटा के लिए अलग सुरक्षित सर्वर-ढाँचे का दावा करती हैं, और गूगल का नैनो मॉडल भी जटिल प्रश्न बड़े क्लाउड मॉडल को सौंप सकता है। इसलिए जिसे निजता की चिंता है, वह अपने फ़ोन की एआई सेटिंग्स देखे: कौन-सा फ़ीचर लोकल है, कौन-सा क्लाउड पर जाता है, और क्या कोई स्विच सिर्फ़ डिवाइस पर का विकल्प देता है।

आगे की दिशा

चिप्स की एनपीयू और मेमोरी बढ़ रही हैं, और मॉडल छोटे और कुशल बन रहे हैं। इंडस्ट्री अब सिर्फ़ टेक्स्ट-सारांश से आगे "एजेंटिक" एआई की ओर बढ़ रही है, जो आपके कहने पर ऐप खोलकर कई कदम वाले काम ख़ुद कर सके। पर यह कितना उपयोगी और भरोसेमंद साबित होगा, यह दावों से ज़्यादा असली अनुभव तय करेगा। फ़िलहाल सही नज़रिया यह है: ऑन-डिवाइस एआई आपके रोज़ के छोटे कामों के लिए तेज़, निजी और ऑफ़लाइन सहायक है, और जटिल कामों के लिए क्लाउड अब भी ज़रूरी है।

ऑन-डिवाइस एआई कोई जादू नहीं, बल्कि सीखे हुए छोटे मॉडल की प्रति है जो आपके फ़ोन की मेमोरी में बैठकर उसकी विशेष एआई-चिप पर चलती है। ट्रेनिंग दूर के विशाल कंप्यूटरों पर पहले ही हो चुकी है, इसलिए जवाब बनाने के लिए इंटरनेट की ज़रूरत नहीं पड़ती। इसके फ़ायदे निजता, रफ़्तार और ऑफ़लाइन भरोसे के हैं, और सीमाएँ क्षमता, बैटरी और फ़ोन की क़ीमत की हैं। अगली बार जब फ़ोन ऑफ़लाइन भी "समझदार" दिखे, तो जान लीजिए कि उसके भीतर एक छोटा, कसकर पैक किया हुआ दिमाग़ चुपचाप काम कर रहा है।