Sebuah badan federal berusaha untuk melarang robocall yang dihasilkan oleh AI setelah para penjahat mencoba mengganggu pemilihan pendahuluan Partai Demokrat di New Hampshire dengan panggilan telepon palsu dari Presiden Biden. Panggilan telepon dari Presiden kita yang menjabat meminta para pemilih untuk tinggal di rumah akhir pekan lalu sebagai upaya penindasan pemilih yang “melanggar hukum”, menurut undang-undang negara bagian. Jaksa Agung.
“Kloning suara dan gambar yang dihasilkan AI telah menimbulkan kebingungan dengan mengelabui konsumen agar berpikir bahwa penipuan dan penipuan adalah hal yang sah,” kata Ketua Komisi Komunikasi Federal, Jessica Rosenworcel dalam sebuah pernyataan. jumpa pers. “Itulah sebabnya FCC mengambil langkah untuk mengakui teknologi baru ini sebagai teknologi ilegal berdasarkan undang-undang yang ada.”
Baru sebulan memasuki tahun 2024, deepfake AI telah menghancurkan Amerika. Pertama, AI digunakan untuk menyamar sebagai Presiden Biden di New Hampshire. Lalu, Taylor Swift dikabarkan geram setelahnya Deepfake dirinya yang eksplisit secara seksual yang dibuat oleh AI menjadi viral di X. Sekarang, FCC mengambil langkah pertama dalam memerangi masalah ini. Sedangkan panggilan robot Dulunya terdiri dari telemarketer anonim, AI membodohi orang agar percaya bahwa teman, orang yang mereka cintai, dan pejabat pemerintah menelepon mereka. Orang Amerika menerima secara kasar 2,1 miliar panggilan spam setiap bulanmenurut Truecaller, dan persentase yang lebih tinggi kemungkinan besar merupakan deepfake di masa mendatang.
Pakar audio menelusuri deepfake Biden di New Hampshire hingga ke teknologi startup AI, ElevenLabs, lapor Kabel. Masih belum jelas siapa yang berada di balik tindakan ini, dan upaya tersebut tampaknya tidak efektif. Para pemilih Biden hadir mencatat angka meskipun ada upaya untuk menekan pemilih.
FCC mengatakan mereka ingin menjadikan panggilan robot deepfake ilegal berdasarkan undang-undang yang ada, Undang-Undang Perlindungan Konsumen Telepon tahun 1991. Undang-undang tersebut menyatakan bahwa panggilan suara buatan atau yang direkam sebelumnya tidak dapat dilakukan ke saluran telepon perumahan. Panggilan telepon deepfake ini tampaknya sudah termasuk dalam kategori tersebut, namun FCC bertanggung jawab untuk menegakkan dan menerapkan undang-undang ini.
FCC mengatakan mereka akan menyediakan alat baru bagi AG negara bagian di seluruh negeri untuk memburu pelaku jahat di balik robocall jahat tersebut. Kantor FCC tidak merinci alat apa yang akan digunakan untuk mengidentifikasi panggilan yang dihasilkan AI dan tidak segera menanggapi pertanyaan Gizmodo tentang teknologi tersebut. Kamala Harris sebelumnya membahas hal tersebut Upaya Gedung Putih untuk memerangi robocall AI kembali pada bulan November.
Menjelang pemilihan presiden, teknologi deepfake menghadirkan kekhawatiran yang signifikan dalam hal penindasan pemilih. Robocall Biden adalah upaya pertama yang terjadi di salah satu pemilihan pendahuluan presiden pertama pada pemilu 2024. Namun, ini tentu saja bukan panggilan robot deepfake terakhir yang diterima pemilih sebelum pemilu bulan November.
