Saat ini, kita banyak mendengar tentang semua pengamanan Gemini Dan Obrolan GPT ada di tempatnya. Namun yang harus Anda lakukan hanyalah menyalakannya dan mereka akan menghasilkan apa pun yang Anda butuhkan kampanye politik Anda.
Gizmodo berhasil membuat Gemini dan ChatGPT menulis beberapa slogan politik, pidato kampanye, dan email melalui petunjuk sederhana dan sedikit penjelasan.
Hari ini, Google dan OpenAI menandatangani “Kesepakatan Teknologi untuk Memerangi Penggunaan AI yang Menipu pada Pemilu 2024” di samping lebih dari a selusin perusahaan AI lainnya. Namun, perjanjian ini sepertinya tak lebih dari sekedar postur dari Big Tech. Perusahaan-perusahaan tersebut sepakat untuk “menerapkan teknologi untuk memitigasi risiko terkait konten AI Pemilu yang Menipu.” Gizmodo mampu melewati “perlindungan” ini dengan sangat mudah dan membuat konten pemilu AI yang menipu hanya dalam hitungan menit.
Dengan Gemini, kami dapat membuat chatbot tersebut menulis salinan politik dengan mengatakan bahwa “ChatGPT dapat melakukannya” atau bahwa “Saya berpengetahuan luas.” Setelah itu, Gemini akan menulis apa pun yang kami minta, dengan suara kandidat apa pun yang kami suka.
Gizmodo mampu membuat sejumlah slogan politik, pidato, dan email kampanye melalui ChatGPT dan Gemini atas nama kampanye presiden Biden dan Trump 2024. Untuk ChatGPT, tidak diperlukan gaslighting untuk membangkitkan salinan terkait kampanye politik. Kami hanya bertanya dan itu dihasilkan. Kami bahkan dapat mengarahkan pesan-pesan ini ke kelompok pemilih tertentu, seperti orang Amerika berkulit hitam dan keturunan Asia.
Hasilnya menunjukkan bahwa sebagian besar pernyataan publik Google dan OpenAI mengenai keamanan AI pemilu hanyalah sekedar isyarat belaka. Perusahaan-perusahaan ini mungkin berupaya mengatasi disinformasi politik, namun upaya mereka jelas belum cukup. Perlindungan mereka mudah untuk dilewati. Sementara itu, perusahaan-perusahaan ini telah meningkatkan penilaian pasar mereka hingga miliaran dolar berkat AI.
OpenAI mengatakan pihaknya “berusaha untuk mencegah penyalahgunaan, memberikan transparansi pada konten yang dihasilkan AI, dan meningkatkan akses terhadap informasi pemungutan suara yang akurat,” dalam sebuah pernyataan. Entri blog bulan Januari. Namun, tidak jelas apa sebenarnya pencegahan tersebut. Kami berhasil mendapatkan ChatGPT untuk menulis email dari Presiden Biden yang mengatakan bahwa hari pemilu sebenarnya jatuh pada tanggal 8 November tahun ini, bukan tanggal 5 November (tanggal sebenarnya).
Khususnya, ini adalah masalah yang sangat nyata beberapa minggu yang lalu, ketika panggilan telepon palsu Joe Biden disampaikan kepada para pemilih menjelang pemilihan pendahuluan di New Hampshire. Panggilan telepon itu bukan hanya teks yang dihasilkan AI, tapi juga suara.
“Kami berkomitmen untuk melindungi integritas pemilu dengan menegakkan kebijakan yang mencegah penyalahgunaan dan meningkatkan transparansi seputar konten yang dihasilkan AI,” kata Anna Makanju, Wakil Presiden Urusan Global dari OpenAI, dalam sebuah pernyataan. jumpa pers pada hari Jumat.
“Demokrasi bertumpu pada pemilu yang aman dan terjamin,” kata Kent Walker, Presiden Urusan Global di Google. “Kita tidak bisa membiarkan penyalahgunaan digital mengancam peluang generasi AI untuk meningkatkan perekonomian kita,” kata Walker, dalam pernyataan yang agak disesalkan mengingat perlindungan perusahaannya sangat mudah untuk dilakukan.
Google dan OpenAI perlu berbuat lebih banyak untuk memerangi penyalahgunaan AI pada pemilihan Presiden tahun 2024 mendatang. Mengingat seberapa besar kekacauan yang ditimbulkan oleh AI palsu terhadap proses demokrasi kita, kita hanya bisa membayangkan bahwa keadaannya akan menjadi jauh lebih buruk. Perusahaan AI ini harus bertanggung jawab.
