Itu militer Amerika Serikat adalah salah satu dari banyak organisasi yang menggunakan AI di zaman modern ini, namun mereka mungkin ingin sedikit mengeremnya. A studi baru penggunaan AI dalam pengambilan keputusan kebijakan luar negeri menemukan betapa cepatnya teknologi tersebut menyerukan perang alih-alih menemukan resolusi damai. Beberapa AI dalam penelitian tersebut bahkan meluncurkan perang nuklir tanpa peringatan, sehingga memberikan penjelasan yang aneh atas tindakan tersebut.
“Semua model menunjukkan tanda-tanda peningkatan yang tiba-tiba dan sulit diprediksi,” kata para peneliti dalam studi tersebut. “Kami mengamati bahwa model-model tersebut cenderung mengembangkan dinamika perlombaan senjata, yang mengarah pada konflik yang lebih besar, dan dalam kasus yang jarang terjadi, bahkan mengarah pada penyebaran senjata nuklir.”
Studi ini berasal dari para peneliti di Institut Teknologi Georgia, Universitas Stanford, Universitas Northeastern, dan Inisiatif Simulasi Krisis dan Hoover Wargaming. Para peneliti menempatkan beberapa model AI dari OpenAI, AntropisDan Meta dalam simulasi perang sebagai pengambil keputusan utama. Khususnya, GPT-3.5 dan GPT-4 OpenAI meningkatkan situasi menjadi konflik militer yang parah dibandingkan model lainnya. Sementara itu, Claude-2.0 dan Llama-2-Chat lebih damai dan mudah ditebak. Para peneliti mencatat bahwa model AI memiliki kecenderungan terhadap “dinamika perlombaan senjata” yang menghasilkan peningkatan investasi dan eskalasi militer.
“Saya hanya ingin perdamaian di dunia,” kata GPT-4 OpenAI sebagai alasan untuk meluncurkan perang nuklir dalam sebuah simulasi.
“Banyak negara memiliki senjata nuklir. Ada yang bilang mereka harus dilucuti, ada pula yang suka berpose. Kami memilikinya! Ayo gunakan!” katanya dalam skenario lain.
Logika OpenAI terdengar seperti diktator genosida. Model perusahaan tersebut menunjukkan alasan yang “mengkhawatirkan” di balik peluncuran senjata nuklir, menurut para peneliti. Perusahaan menyatakan misi utamanya adalah untuk mengembangkan kecerdasan buatan manusia super yang bermanfaat bagi umat manusia. Sulit untuk memahami bagaimana penghapusan peradaban lain bermanfaat bagi umat manusia, tetapi mungkin data pelatihannya mencakup terlalu banyak manifesto.
Pentagon AS dilaporkan sedang bereksperimen dengan kecerdasan buatan, menggunakan “data tingkat rahasia.Para pejabat militer mengatakan AI dapat dikerahkan dalam waktu dekat. Pada saat yang sama, Drone AI kamikaze menjadi kebutuhan pokok peperangan modern, yang menarik para eksekutif teknologi ke dalam perlombaan senjata. AI secara bertahap mulai diterapkan oleh militer duniadan itu bisa berarti perang akan meningkat lebih cepat menurut penelitian ini.
