फ्लोरिडा के शख्स ने चैटबॉट से मांगी क्राइम की प्लानिंग, AI ने खुद FBI तक पहुंचाई जानकारी
आजकल बहुत से लोग रोजमर्रा के कामों से लेकर पर्सनल सलाह तक के लिए ChatGPT जैसे AI चैटबॉट का सहारा ले रहे हैं। लेकिन अमेरिका के फ्लोरिडा में एक 25 साल के शख्स को चैटबॉट से किया गया एक सवाल इतना भारी पड़ गया कि उसके घर सीधे पुलिस पहुंच गई।
क्या था पूरा मामला?
रिपोर्ट्स के मुताबिक शख्स ने ChatGPT से एक ऐसी जानकारी मांगी, जिसमें वह अपनी पूर्व प्रेमिका के खिलाफ एक गंभीर अपराध को अंजाम देने की योजना बना रहा था। यह सवाल इतना चिंताजनक था कि AI सिस्टम ने इसे सामान्य बातचीत की तरह नजरअंदाज नहीं किया।
OpenAI के अपने डिटेक्शन सिस्टम ने इस बातचीत को खतरे के तौर पर पहचान लिया और इसकी जानकारी तुरंत अमेरिकी जांच एजेंसी FBI तक पहुंचा दी। इसके बाद एजेंसी ने कार्रवाई करते हुए शख्स की करीब दो महीने की पूरी चैट हिस्ट्री हासिल कर ली।
मार्च से शुरू हुआ था इस्तेमाल, धीरे-धीरे बदली बातचीत की दिशा
जांच में सामने आया कि शख्स ने ChatGPT का इस्तेमाल मार्च महीने से शुरू किया था, ठीक उसी दौर में जब उसका करीब छह महीने पुराना रिश्ता टूटा था। शुरुआत में उसकी बातचीत ब्रेकअप से जुड़े सामान्य सवालों तक सीमित थी। लेकिन धीरे-धीरे यही बातचीत गंभीर और खतरनाक मोड़ लेती चली गई, जिसके बाद सिस्टम ने अलर्ट जारी किया।
AI को एक्सपर्ट समझने की गलती न करें
यह पूरा मामला एक बड़े सवाल की तरफ इशारा करता है — क्या AI चैटबॉट को इंसानी एक्सपर्ट की जगह मान लेना सही है? खुद OpenAI के प्रमुख सैम ऑल्टमैन पहले भी साफ कर चुके हैं कि ChatGPT को डॉक्टर या रिलेशनशिप एडवाइजर के तौर पर इस्तेमाल नहीं किया जाना चाहिए।
बावजूद इसके, बड़ी संख्या में यूजर्स दवाइयों, इलाज और निजी रिश्तों से जुड़े संवेदनशील मामलों में भी चैटबॉट की सलाह पर भरोसा करने लगे हैं। जबकि सही तरीका यही है कि सेहत से जुड़े किसी भी फैसले के लिए हमेशा योग्य डॉक्टर की सलाह ली जाए।
AI सेफ्टी सिस्टम की भूमिका पर उठी चर्चा
यह घटना यह भी दिखाती है कि आधुनिक AI कंपनियां अपने प्लेटफॉर्म पर होने वाली खतरनाक गतिविधियों को पहचानने और रोकने के लिए किस तरह के सेफ्टी सिस्टम का इस्तेमाल कर रही हैं। जहां एक तरफ यूजर्स की प्राइवेसी अहम मानी जाती है, वहीं दूसरी तरफ जब बात किसी की जान को खतरे में डालने वाली योजना की हो, तो कंपनियां कानून एजेंसियों को सूचित करने से पीछे नहीं हट रहीं।
आगे क्या?
फिलहाल यह मामला अमेरिकी कानूनी प्रक्रिया के अंतर्गत आगे बढ़ रहा है, और कोर्ट रिकॉर्ड्स में इससे जुड़ी जानकारी दर्ज की गई है। यह घटना एक बार फिर यह याद दिलाती है कि AI चैटबॉट भले ही कितने भी उपयोगी क्यों न हों, इनका इस्तेमाल जिम्मेदारी के साथ करना जरूरी है।
