आर्टिफिशियल इंटेलिजेंस यानी AI का इस्तेमाल तेजी से सेना और खुफिया एजेंसियों तक पहुंच रहा है। लेकिन अमेरिका से सामने आया एक मामला बताता है कि अगर AI की गलत जानकारी को बिना पर्याप्त जांच के गंभीर फैसलों में इस्तेमाल किया जाए, तो इसके बेहद बड़े परिणाम हो सकते हैं। रिपोर्टों के मुताबिक, एक AI-assisted गलत खुफिया रिपोर्ट के आधार पर अमेरिकी सेना ने पश्चिम एशिया में मौजूद एक चीनी जहाज के खिलाफ कार्रवाई की तैयारी कर ली थी।
AI ने चीनी जहाज के कार्गो को गलत पहचाना
यह घटना इस साल वसंत के दौरान ईरान के साथ युद्ध के बीच हुई। अमेरिकी स्पेशल ऑपरेशंस कमांड से जुड़े एक विश्लेषक ने चीनी जहाज के मैनिफेस्ट यानी उसके कार्गो से संबंधित खुफिया जानकारी का विश्लेषण करने के लिए AI चैटबॉट का इस्तेमाल किया।
AI सिस्टम ने उपलब्ध जानकारी के आधार पर जहाज के कार्गो के बारे में गलत निष्कर्ष निकाला। रिपोर्ट में दावा किया गया कि जहाज कथित तौर पर चीन के परमाणु हथियार कार्यक्रम से जुड़े सामान को ले जा रहा था। बाद में इसी गलत जानकारी को AI की मदद से एक औपचारिक खुफिया रिपोर्ट के रूप में तैयार किया गया और सैन्य चैनलों के जरिए आगे भेज दिया गया।
कार्रवाई की तैयारी तक पहुंच गया मामला
गलत रिपोर्ट सैन्य अधिकारियों तक पहुंचने के बाद मामला गंभीर हो गया। चार सूत्रों के हवाले से सामने आई जानकारी के मुताबिक, अमेरिकी सैन्यकर्मी चीनी जहाज को रोकने और उस पर सवार होने की तैयारी कर रहे थे। कुछ सैन्य विमान भी कार्रवाई के लिए हवा में पहुंच चुके थे।
हालांकि, ऑपरेशन शुरू होने से ठीक पहले अधिकारियों ने खुफिया रिपोर्ट की दोबारा जांच की। इसी दौरान पता चला कि रिपोर्ट तैयार करने में AI का इस्तेमाल हुआ था और चैटबॉट ने जहाज के सामान की पहचान गलत की थी। इसके बाद प्रस्तावित कार्रवाई रोक दी गई।
AI की ‘हैलुसिनेशन’ समस्या फिर सामने आई
AI सिस्टम कई बार ऐसी जानकारी तैयार कर सकते हैं जो सुनने में विश्वसनीय लगती है, लेकिन वास्तव में गलत होती है। इसे आम तौर पर AI hallucination कहा जाता है। इस मामले में समस्या सिर्फ गलत जवाब तक सीमित नहीं रही, बल्कि AI से मिली गलत जानकारी को एक आधिकारिक रिपोर्ट के रूप में आगे बढ़ाया गया।
रिपोर्टों के मुताबिक, AI ने ओपन-सोर्स जानकारी और सरकारी सिस्टम में मौजूद सिग्नल इंटेलिजेंस को मिलाकर गलत निष्कर्ष निकाला था। इसके बाद उसी तकनीक का दोबारा इस्तेमाल रिपोर्ट को औपचारिक रूप देने में किया गया।
सैन्य क्षेत्र में AI इस्तेमाल पर उठे सवाल
अमेरिकी सेना और खुफिया एजेंसियां बड़ी मात्रा में डेटा का विश्लेषण, लक्ष्य पहचान, लॉजिस्टिक्स और अन्य कार्यों में AI का इस्तेमाल बढ़ा रही हैं। ऐसे में यह घटना इस सवाल को सामने लाती है कि सैन्य फैसलों में AI से मिलने वाली जानकारी की स्वतंत्र और मानवीय जांच किस स्तर पर होनी चाहिए।
विशेषज्ञों के मुताबिक, AI उपयोगी सहायक साबित हो सकता है, लेकिन ऐसे फैसलों में जहां किसी कार्रवाई से जान-माल या अंतरराष्ट्रीय सुरक्षा प्रभावित हो सकती है, मानव निगरानी और स्वतंत्र सत्यापन महत्वपूर्ण हैं।
इस घटना में आखिरकार गलत रिपोर्ट की पहचान हो गई और कार्रवाई रोक दी गई। लेकिन यह मामला दिखाता है कि AI की एक गलती कितनी तेजी से गंभीर सैन्य निर्णयों तक पहुंच सकती है।
