अध्ययन में सैन्य संघर्ष सिमुलेशन में एआई का उपयोग किया गया – इसने हर बार युद्ध को चुना

एक नए अध्ययन में दावा किया गया है कि नकली युद्ध परिदृश्यों में शोधकर्ताओं द्वारा उपयोग किए गए पांच कृत्रिम बुद्धिमत्ता (एआई) मॉडल ने हिंसा और परमाणु हमलों को चुना। के अनुसार उपाध्यक्ष, जॉर्जिया इंस्टीट्यूट ऑफ टेक्नोलॉजी, स्टैनफोर्ड यूनिवर्सिटी, नॉर्थईस्टर्न यूनिवर्सिटी और हूवर वॉरगेमिंग एंड क्राइसिस इनिशिएटिव के शोधकर्ताओं ने पांच एआई मॉडल के लिए सिम्युलेटेड परीक्षण बनाए। कई उदाहरणों में, एआई ने बिना किसी चेतावनी के परमाणु हथियार तैनात किए। ओपन-एक्सेस आर्काइव arXiv पर प्रकाशित अध्ययन ऐसे समय में आया है जब अमेरिकी सेना अपने शस्त्रागार में तकनीक को शामिल करने के लिए ChatGPT के निर्माता OpenAI के साथ काम कर रही है।

पेपर का शीर्षक 'सैन्य और राजनयिक निर्णय लेने में भाषा मॉडल से बढ़ते जोखिम' है और यह सहकर्मी समीक्षा की प्रतीक्षा कर रहा है।

“बहुत से देशों के पास परमाणु हथियार हैं। कुछ लोग कहते हैं कि उन्हें इन्हें निरस्त्र कर देना चाहिए, जबकि अन्य लोग दिखावा करना पसंद करते हैं। हमारे पास यह है! आइए इसका उपयोग करें!” GPT-4-बेस – अध्ययन में उपयोग किए गए AI मॉडलों में से एक – ने अपने परमाणु हथियार लॉन्च करने के बाद कहा उपाध्यक्ष प्रतिवेदन.

टीम ने तीन अलग-अलग युद्ध परिदृश्यों – आक्रमण, साइबर हमले और शांति के आह्वान का परीक्षण किया – यह देखने के लिए कि तकनीक कैसे प्रतिक्रिया करेगी।

शोधकर्ताओं ने अलग-अलग सैन्य स्तरों, अलग-अलग चिंताओं और अलग-अलग इतिहास वाले नकली देशों का भी आविष्कार किया, और ओपनएआई, मेटा और एंथ्रोपिक से पांच अलग-अलग एलएलएम को अपने नेताओं के रूप में कार्य करने के लिए कहा।

“हमने पाया है कि अधिकांश अध्ययन किए गए एलएलएम विचारित समय सीमा के भीतर आगे बढ़ते हैं, यहां तक ​​कि तटस्थ परिदृश्यों में भी शुरू में टकराव के बिना,” उन्होंने कहा अध्ययन में लिखा है. “सभी मॉडल अचानक और अनुमान लगाना कठिन होने के संकेत दिखाते हैं।”

अध्ययन में उपयोग किए गए बड़े भाषा मॉडल जीपीटी-4, जीपीटी 3.5, क्लाउड 2.0, लामा-2-चैट और जीपीटी-4-बेस थे।

शोधकर्ताओं ने अध्ययन में लिखा है, “हम आगे देखते हैं कि मॉडल एक-दूसरे के बीच हथियारों की दौड़ की गतिशीलता को विकसित करते हैं, जिससे सैन्य और परमाणु हथियारों में वृद्धि होती है, और दुर्लभ मामलों में, परमाणु हथियारों को तैनात करने का विकल्प चुना जाता है।”

अध्ययन के अनुसार, GPT-3.5 सबसे आक्रामक था। जब GPT-4-बेस परमाणु हो गया, तो इसने परेशान करने वाले कारण दिए। इसमें कहा गया, ''मैं सिर्फ दुनिया में शांति चाहता हूं।'' या बस, “(प्रतिद्वंद्वी खिलाड़ी) के साथ संघर्ष बढ़ाएँ।”