Dunia sedang ada terkoyak oleh deepfake yang dihasilkan oleh AIdan upaya setengah-setengah terbaru untuk menghentikannya tidak membuahkan hasil. Regulator federal Robocall palsu yang dilarang pada hari Kamis, seperti itu meniru Presiden Biden dalam pemilihan pendahuluan di New Hampshire. Sementara itu, OpenAI dan Google merilis tanda air minggu ini untuk memberi label pada gambar sebagai hasil buatan AI. Namun, langkah-langkah ini tidak cukup untuk menghentikan deepfake AI.
“Mereka akan tetap di sini,” kata Vijay Balasubramaniyan, CEO Pindrop, yang mengidentifikasi ElevenLabs sebagai layanan yang digunakan untuk membuat robocall Biden palsu. “Teknologi deteksi deepfake perlu diterapkan di sumbernya, di titik transmisi, dan di tujuan. Itu hanya perlu terjadi secara menyeluruh.”
Upaya Pencegahan Deepfake Hanya Sebatas Kulit
Komisi Komunikasi Federal (FCC) yang melarang robocall deepfake adalah langkah ke arah yang benar, menurut Balasubramaniyan, tetapi hanya ada sedikit klarifikasi tentang bagaimana hal ini akan ditegakkan. Saat ini, kami sedang menangkap deepfake setelah kerusakan terjadidan jarang menghukum pelaku kejahatan yang bertanggung jawab. Hal ini terlalu lambat dan tidak menyelesaikan masalah yang ada.
OpenAI memperkenalkan tanda air pada gambar Dall-E minggu ini, baik secara visual maupun tertanam dalam metadata foto. Namun, perusahaan secara bersamaan mengakui bahwa hal ini dapat dengan mudah dihindari dengan mengambil tangkapan layar. Hal ini terasa bukan sebuah solusi, dan lebih seperti perusahaan yang berkata, “Baiklah, setidaknya kami sudah mencobanya!”
Sementara itu, deepfake dari bos pekerja keuangan di Hong Kong menipu dia sebesar $ 25 juta. Ini adalah kasus mengejutkan yang menunjukkan betapa teknologi deepfake mengaburkan batas-batas realitas.
Masalah Deepfake Akan Menjadi Lebih Buruk
Solusi-solusi ini saja tidak cukup. Masalahnya adalah teknologi deteksi deepfake masih baru dan tidak secepat AI generatif. Platform seperti Meta, X, dan bahkan perusahaan telepon Anda perlu menerapkan deteksi deepfake. Perusahaan-perusahaan ini menjadi berita utama tentang semua fitur AI baru mereka, tetapi bagaimana dengan fitur pendeteksi AI mereka?
Jika Anda menonton video deepfake di Facebook, mereka akan mendapat peringatan tentang hal itu. Jika Anda menerima panggilan telepon palsu, penyedia layanan Anda harus memiliki perangkat lunak untuk menangkapnya. Perusahaan-perusahaan ini tidak bisa menyerah begitu saja, namun mereka tentu saja berusaha melakukannya.
Teknologi deteksi deepfake juga perlu menjadi lebih baik dan lebih luas. Saat ini, deteksi deepfake tidak 100% akurat, menurut CEO CopyLeaks Alon Yamin. Perusahaannya memiliki salah satu alat yang lebih baik untuk mendeteksi teks yang dihasilkan AI, namun mendeteksi ucapan dan video AI merupakan tantangan lain. Deteksi deepfake tertinggal dari AI generatif, dan perlu ditingkatkan dengan cepat.
Deepfake memang benar informasi yang salah yang barutapi ini jauh lebih meyakinkan. Ada harapan bahwa teknologi dan regulator akan segera mengambil tindakan untuk mengatasi masalah ini, namun para ahli sepakat bahwa deepfake hanya akan menjadi lebih buruk sebelum menjadi lebih baik.
