बम से मिसाइल तक पहुंचा AI का दुरुपयोग, सुरक्षा घेरा तोड़ने की कोशिश; यमन के हथियार सेल का मामला

New Delhi: कृत्रिम बुद्धिमत्ता अब केवल डीपफेक, ऑनलाइन ठगी या साइबर हमलों में मदद तक सीमित खतरा नहीं रह गई है। दुनिया के अग्रणी AI मॉडल बनाने वाली कंपनी Anthropic की सितंबर 2026 की Threat Intelligence Report ने पहली बार ऐसे वास्तविक मामलों का विस्तृत ब्यौरा दिया है जिनमें Claude का इस्तेमाल पारंपरिक हथियारों के विकास, मिसाइल और ड्रोन से जुड़े सॉफ्टवेयर, साइबर अभियानों, निगरानी और जैविक दुरुपयोग से जुड़ी गतिविधियों में करने की कोशिश हुई। इसका अर्थ यह नहीं है कि ChatGPT, Claude या Grok जैसे प्रमुख सार्वजनिक AI मॉडल किसी सामान्य उपयोगकर्ता को सीधे बम बनाने या कार चुराने का पूरा तरीका बता देते हैं। इन सेवाओं में खतरनाक और आपराधिक निर्देशों को रोकने के लिए सुरक्षा व्यवस्थाएं होती हैं। असली चुनौती इससे कहीं बड़ी है—दुनिया में ऐसे खुले AI मॉडल भी उपलब्ध हैं जिन्हें कोई व्यक्ति अपने कंप्यूटर पर चला सकता है और उनकी सुरक्षा सीमाएं व्यावसायिक सेवाओं जैसी हों, यह जरूरी नहीं है। दूसरी ओर अपराधी सुरक्षित व्यावसायिक मॉडलों की पाबंदियों को धोखा देने या उनका दुरुपयोग करने के नए तरीके भी लगातार तलाश रहे हैं। Anthropic की ताजा रिपोर्ट बताती है कि AI की क्षमता बढ़ने के साथ यह खतरा अब सैद्धांतिक बहस से निकलकर वास्तविक मामलों तक पहुंच चुका है।

Anthropic ने अपनी रिपोर्ट में सबसे गंभीर उदाहरण उत्तरी यमन में सक्रिय एक हथियार-विकास सेल का दिया है। कंपनी के मुताबिक यह समूह तीन हथियार परियोजनाओं पर काम कर रहा था—अंतिम चरण में लक्ष्य की ओर निर्देशित होने वाला guided rocket, 2,000 किलोमीटर से अधिक की घोषित लक्ष्य-सीमा वाला multi-stage ballistic missile और कई रूपों वाली एक मिसाइल परियोजना, जिसमें hypersonic glide vehicle variant भी शामिल था। समूह ने Claude Code को मानवीय software engineers की जगह इस्तेमाल करते हुए guidance, navigation and control यानी GNC software विकसित करने की कोशिश की। Anthropic के अनुसार AI का इस्तेमाल खुले स्रोत वाले autopilot को flight computer के साथ जोड़ने, control और position-estimation software लिखने, control settings को व्यवस्थित करने, firmware build pipeline और flight simulation जैसे कामों में किया गया। समूह एक साथ Claude के कई instances चला रहा था—एक को code लिखने, दूसरे को research और तीसरे को पहले के काम की समीक्षा का जिम्मा दिया गया था। कंपनी ने संबंधित account की पहचान होने के बाद उसे बंद करने और ऐसे दुरुपयोग का पता लगाने के लिए अतिरिक्त निगरानी लागू करने की बात कही है।

मूल रिपोर्ट में इस समूह को सीधे “हूती विद्रोही” बताना सावधानी के लिहाज से उचित नहीं है। Anthropic की अपनी सार्वजनिक रिपोर्ट इसे “Yemen-based guided weapons engineering cell” और उत्तरी यमन में स्थित threat actors के रूप में वर्णित करती है। उपलब्ध प्राथमिक रिपोर्ट में कंपनी ने सार्वजनिक रूप से यह निर्णायक पहचान नहीं दी कि संबंधित लोग हूती संगठन के औपचारिक सदस्य ही थे। इसी तरह यह कहना भी अतिशयोक्ति होगी कि “AI की मदद से एडवांस मिसाइल बना ली गई।” कंपनी का पुष्ट दावा यह है कि AI का इस्तेमाल तीन हथियार-विकास कार्यक्रमों में software engineering और guidance-related development के लिए किया जा रहा था। Reuters ने भी Anthropic के खुलासे को weapons development, spying और cyber operations में Claude के दुरुपयोग के रूप में रिपोर्ट किया है।

खतरा केवल हथियारों तक सीमित नहीं है। Anthropic ने कहा कि पिछले आठ महीनों में उसकी Threat Intelligence टीम ने कई ऐसे अभियानों की पहचान कर उन्हें बाधित किया जिनमें Claude का दुर्भावनापूर्ण गतिविधियों के लिए इस्तेमाल करने की कोशिश हुई। रिपोर्ट में conventional weapons के साथ cyber operations, surveillance और biological misuse के मामलों का भी उल्लेख है। Reuters के मुताबिक Anthropic ने ऐसे प्रयास भी दर्ज किए जिनमें खतरनाक जैविक अनुसंधान से संबंधित जानकारी जुटाने तथा संक्रामक रोगों से जुड़े विषयों पर मॉडल की क्षमताओं का अनुचित उपयोग करने की कोशिश हुई। हालांकि यहां भी एक महत्वपूर्ण अंतर है—AI से किसी विषय पर जानकारी मांगना और वास्तविक जैविक हथियार तैयार करने की क्षमता हासिल कर लेना एक बात नहीं है। Anthropic स्वयं कहता है कि उसके पुराने मॉडलों के मूल्यांकन में वे sophisticated user को खतरनाक biological research कराने में सार्थक सहायता देने की क्षमता की सीमा से काफी नीचे थे। इसलिए ऐसे मामलों को संभावित खतरे और दुरुपयोग की कोशिश के रूप में देखना चाहिए, न कि सफल जैविक हथियार निर्माण के प्रमाण के रूप में।

AI की सुरक्षा में दूसरी बड़ी चुनौती स्थानीय और खुले मॉडल हैं। यहां llama.cpp का नाम अक्सर आता है, लेकिन इसे सही संदर्भ में समझना जरूरी है। llama.cpp स्वयं कोई ऐसा उपकरण नहीं है जो ChatGPT या Grok की सुरक्षा पाबंदियां हटाकर उनसे प्रतिबंधित जानकारी निकलवा देता हो। यह C/C++ आधारित एक open-source inference framework है, जिसका मुख्य उद्देश्य अलग-अलग large language models को सामान्य कंप्यूटर हार्डवेयर पर स्थानीय रूप से चलाना है। इसे मूल रूप से Georgi Gerganov ने शुरू किया था और आज यह सामुदायिक open-source परियोजना के रूप में विकसित हो चुका है। कोई उपयोगकर्ता इसके माध्यम से समर्थित मॉडल अपने कंप्यूटर पर चला सकता है। ऐसे स्थानीय मॉडल में कौन-सी सुरक्षा सीमाएं मौजूद होंगी, यह स्वयं llama.cpp से अधिक उस मॉडल, उसके प्रशिक्षण, fine-tuning और लागू safeguards पर निर्भर करता है। इसलिए “एक सॉफ्टवेयर डाउनलोड किया और ChatGPT की सारी रोक टूट गई” जैसी व्याख्या तकनीकी रूप से गलत है।

यही अंतर AI सुरक्षा की सबसे कठिन समस्या को जन्म देता है। किसी कंपनी द्वारा संचालित ऑनलाइन AI सेवा में प्रदाता उपयोगकर्ता के अनुरोधों की निगरानी कर सकता है, खतरनाक सवालों को रोक सकता है, संदिग्ध account बंद कर सकता है और अपने सुरक्षा फिल्टर लगातार बदल सकता है। लेकिन यदि शक्तिशाली मॉडल किसी व्यक्ति के अपने कंप्यूटर पर स्थानीय रूप से चल रहा है तो केंद्रीय कंपनी के पास उसी स्तर का नियंत्रण जरूरी नहीं रहता। दूसरी ओर खुले मॉडल और स्थानीय AI अपने-आप खतरनाक नहीं हैं। इनके बड़े वैध उपयोग भी हैं—गोपनीयता, शोध, शिक्षा, कम इंटरनेट वाले क्षेत्रों में उपयोग और संवेदनशील व्यावसायिक डेटा को बाहरी सर्वर पर न भेजना इनमें शामिल है। स्वयं llama.cpp की सुरक्षा नीति अनजान स्रोतों से मिले मॉडलों को isolated environment या sandbox में चलाने की चेतावनी देती है। समस्या तकनीक के खुले होने से अधिक उस स्थिति में पैदा होती है जब शक्तिशाली मॉडल के साथ पर्याप्त सुरक्षा व्यवस्था न हो और उपयोगकर्ता का उद्देश्य नुकसान पहुंचाना हो।

इसीलिए AI के दुरुपयोग का समाधान केवल यह उम्मीद करना नहीं हो सकता कि हर chatbot गलत सवाल का जवाब देने से मना कर देगा। जैसे-जैसे AI मॉडल coding, scientific research, autonomous agents और वास्तविक दुनिया के उपकरणों से जुड़ रहे हैं, सुरक्षा व्यवस्था को भी कई स्तरों पर विकसित करना होगा। मॉडल निर्माता को खतरनाक क्षमताओं का परीक्षण और निगरानी करनी होगी, ऑनलाइन सेवाओं को संदिग्ध व्यवहार पहचानना होगा, खुले मॉडलों के डेवलपर और उपयोगकर्ताओं को जोखिम के अनुरूप सुरक्षा अपनानी होगी और सरकारों को यह समझना होगा कि मौजूदा कानून autonomous AI प्रणालियों पर किस तरह लागू होंगे। अमेरिका में AI सुरक्षा को लेकर नियामकीय जांच भी तेज हुई है और Federal Trade Commission ने Anthropic तथा OpenAI की सुरक्षा व्यवस्थाओं की जांच शुरू की है।

Anthropic का यमन वाला मामला इस पूरे खतरे को सबसे स्पष्ट रूप से सामने रखता है। कुछ वर्ष पहले generative AI से मुख्य चिंता गलत सूचना, नकली तस्वीरें और परीक्षा में नकल जैसी चीजों को लेकर थी। अब वही तकनीक software engineering, autonomous agents, वैज्ञानिक विश्लेषण और जटिल तकनीकी कामों में कहीं अधिक सक्षम हो चुकी है। इससे समाज को मिलने वाले फायदे भी बहुत बड़े हैं, लेकिन दुरुपयोग की संभावनाएं भी उसी अनुपात में गंभीर होती जा रही हैं। इसलिए असली सवाल अब यह नहीं है कि “क्या AI बम बनाना बता सकता है?” बल्कि यह है कि जैसे-जैसे AI कठिन तकनीकी काम स्वयं करने लगेगा, उसके वैध और खतरनाक इस्तेमाल के बीच सुरक्षा की दीवार कितनी मजबूत रखी जा सकेगी। सितंबर 2026 की Anthropic रिपोर्ट का सबसे बड़ा संकेत यही है—खतरा भविष्य का अनुमान भर नहीं रहा, कुछ दुर्भावनापूर्ण समूह शक्तिशाली AI को वास्तविक हथियार, साइबर और निगरानी परियोजनाओं में इस्तेमाल करने की कोशिश शुरू कर चुके हैं।