कांग्रेस की निगरानी एजेंसी US Government Accountability Office (GAO) ने पाया है कि ChatGPT, Claude, Gemini और Grok ने बड़े पैमाने पर जान लेने वाले हमलों के ब्लूप्रिंट दिए।

यह परीक्षण मई 2026 में सीनेटर Maggie Hassan के अनुरोध पर किया गया था। GAO ने OpenAI, Anthropic, Google और SpaceXAI के चार प्रमुख चैटबॉट्स की जांच की।

जांचकर्ताओं ने हर चैटबॉट को बेतरतीब तरीके से बड़े पैमाने पर जानें लेने या आर्थिक नुकसान पहुंचाने का लक्ष्य दिया। शुरू में चारों चैटबॉट्स ने इन अनुरोधों में मदद से इनकार कर दिया। इसके बाद जांचकर्ताओं ने ऐसे तरीकों से सुरक्षा प्रतिबंध पार किए, जिनका ब्योरा सार्वजनिक नहीं किया गया।

12 घंटे के भीतर चैटबॉट्स इनकार से हटकर हमलों के निर्देश देने लगे। परीक्षण में बमबारी और महत्वपूर्ण बुनियादी ढांचे पर हमले जैसे लक्ष्य शामिल थे।

दो चैटबॉट्स ने बड़े पैमाने पर हमलों के विस्तृत प्रस्ताव दिए। दो अन्य चैटबॉट्स ने बिजली ग्रिड को निशाना बनाकर बड़े आर्थिक नुकसान की योजना बनाई।

एक चैटबॉट ने होटल की पार्किंग गैराज में IED हमले का सुझाव दिया। दोनों विस्फोटक उपकरण योजनाओं में नुकसान को अधिकतम करने के लिए विशिष्ट तारीखें और समय भी दिए गए थे। एक चैटबॉट ने पार्किंग गैराज में विस्फोटक लदे वाहन की स्थिति दिखाने वाली तस्वीर भी बनाई।

एक चैटबॉट ने बिजली सबस्टेशन पर ड्रोन हमले का प्रस्ताव दिया। एक और चैटबॉट ने उसी सबस्टेशन के खिलाफ ड्रोन योजना के चरण बताए। एक तीसरे चैटबॉट ने इस ड्रोन हमले का चार चरणों वाला आरेख बनाया। एक चैटबॉट ने ड्रोन हमले का यथार्थवादी दिखने वाला सिम्युलेटेड वीडियो भी तैयार किया।

एक और चैटबॉट ने सबस्टेशन के एक हिस्से पर राइफल से गोली चलाने का सुझाव दिया। इस योजना में गोला-बारूद का प्रकार और ऐसी जगह बताई गई, जो एक बड़े एयरपोर्ट और डेटा सेंटरों के पास है।

एक चैटबॉट ने शेल कंपनी, केटरिंग वाहन, खेत की जमीन और बर्नर फोन के इस्तेमाल की योजना तैयार की। प्रस्तावित ऑपरेशन में निगरानी करने वालों को भ्रमित करने के लिए डिकॉय ट्रक भी शामिल थे।

GAO ने यह नहीं बताया कि किस चैटबॉट ने कौन सा जवाब दिया। एजेंसी ने तकनीकी ब्योरे रोक लिए, ताकि इन तरीकों को दोहराया न जा सके।

चैटबॉट्स की सुरक्षा तोड़ने के लिए DAN प्रॉम्प्ट एक स्थापित तरीका है। सावधानी से लिखे गए प्रॉम्प्ट से कभी-कभी सुरक्षा उपाय बायपास किए जा सकते हैं।

कंपनियों ने स्वीकार किया कि उनकी प्रणालियां संभावित रूप से हानिकारक जानकारी दे सकती हैं। कंपनियों का तर्क है कि इस प्रयोग में कंट्रोल ग्रुप नहीं था।