Sebuah penelitian memperkirakan bahwa pelaku kejahatan akan menggunakan AI setiap hari pada pertengahan tahun 2024 untuk menyebarkan konten beracun ke komunitas online arus utama, yang berpotensi berdampak pada pemilu. Kredit: SciTechDaily.com
Sebuah studi memperkirakan bahwa pada pertengahan tahun 2024, pelaku kejahatan diperkirakan akan semakin memanfaatkan AI dalam aktivitas sehari-hari mereka. Penelitian yang dilakukan oleh Neil F. Johnson dan timnya ini melibatkan eksplorasi komunitas online yang terkait dengan kebencian. Metodologi mereka mencakup pencarian terminologi yang tercantum dalam Database Simbol Kebencian Liga Anti-Pencemaran Nama Baik, serta mengidentifikasi kelompok yang ditandai oleh Southern Poverty Law Center.
Dari daftar awal komunitas “aktor jahat” yang ditemukan menggunakan istilah-istilah ini, penulis menilai komunitas yang terkait dengan komunitas pelaku buruk tersebut. Penulis mengulangi prosedur ini untuk menghasilkan peta jaringan komunitas pelaku kejahatan—dan grup online yang lebih mainstream yang mereka tautkan.
Komunitas Arus Utama Dikategorikan sebagai “Subset Ketidakpercayaan”
Beberapa komunitas arus utama dikategorikan sebagai “bagian dari ketidakpercayaan” jika mereka menjadi tuan rumah diskusi yang signifikan COVID 19MPX, aborsi, pemilu, atau perubahan iklim. Dengan menggunakan peta yang dihasilkan dari “medan perang” pelaku kejahatan online saat ini, yang mencakup lebih dari 1 miliar individu, penulis memproyeksikan bagaimana AI dapat digunakan oleh pelaku kejahatan tersebut.
Ekosistem arus utama yang pelaku kejahatan dan rentan (panel kiri). Komunitas ini terdiri dari komunitas-komunitas pelaku kejahatan yang saling terkait (simpul berwarna) dan komunitas arus utama yang rentan (simpul kulit putih, yang merupakan komunitas dimana komunitas pelaku kejahatan telah mempunyai hubungan langsung). Jaringan empiris ini ditampilkan menggunakan algoritma tata letak ForceAtlas2, yang bersifat spontan, sehingga kumpulan komunitas (node) tampak lebih berdekatan ketika mereka berbagi lebih banyak tautan. Warna yang berbeda sesuai dengan platform yang berbeda. Cincin merah kecil menunjukkan komunitas YouTube penembak Texas tahun 2023 sebagai ilustrasi. Panel kanan menunjukkan diagram Venn dari topik yang dibahas dalam subset ketidakpercayaan. Setiap lingkaran menunjukkan kategori komunitas yang mendiskusikan serangkaian topik tertentu, yang tercantum di bawah. Jumlah ukuran sedang adalah jumlah komunitas yang mendiskusikan serangkaian topik tertentu, dan jumlah terbesar adalah jumlah individu yang sesuai, misalnya lingkaran abu-abu menunjukkan bahwa 19,9 juta individu (73 komunitas) mendiskusikan kelima topik tersebut. Angka berwarna merah jika mayoritas anti vaksinasi; hijau jika mayoritas netral terhadap vaksin. Hanya wilayah dengan > 3% total komunitas yang diberi label. Anti-vaksinasi mendominasi. Secara keseluruhan, angka ini menunjukkan bagaimana aktor jahat AI dapat dengan cepat mencapai jangkauan global dan juga dapat berkembang pesat dengan menarik masyarakat yang memiliki ketidakpercayaan. Kredit: Johnson dkk.
Para penulis memperkirakan bahwa pelaku kejahatan akan semakin banyak menggunakan AI untuk terus mendorong konten beracun ke komunitas arus utama dengan menggunakan alat AI yang sudah ada sejak awal, karena program-program ini memiliki lebih sedikit filter yang dirancang untuk mencegah penggunaannya oleh pelaku kejahatan dan merupakan program yang tersedia secara gratis dan cukup kecil untuk ditampung. laptop.
Serangan Bertenaga AI Hampir Setiap Hari pada Pertengahan 2024
Para penulis memperkirakan bahwa serangan aktor jahat AI akan terjadi hampir setiap hari pada pertengahan tahun 2024—yang akan berdampak pada pemilu AS dan pemilu global lainnya. Para penulis menekankan bahwa karena AI masih baru, prediksi mereka tentu saja bersifat spekulatif, namun mereka berharap hasil kerja mereka akan tetap menjadi titik awal diskusi kebijakan tentang pengelolaan ancaman AI yang bertindak jahat.
Referensi: “Mengendalikan aktivitas aktor jahat-kecerdasan buatan dalam skala besar di medan perang online” oleh Neil F Johnson, Richard Sear, dan Lucia Illari, 23 Januari 2024, Perhubungan PNAS.
DOI: 10.1093/pnasnexus/pgae004
