Semua orang tahu bahwa disinformasi online adalah masalah besar—masalah yang bisa dibilang sangat besar komunitas-komunitas yang terkoyakmemanipulasi pemilu, dan merugikan segmen tertentu dari populasi global kehilangan akal sehat mereka. Tentu saja, tampaknya tidak ada seorang pun yang peduli untuk benar-benar memperbaiki masalah ini. Faktanya, institusi paling bertanggung jawab karena disinformasi online (dan oleh karena itu, pihak yang paling berkepentingan untuk melakukan sesuatu untuk mengatasinya)—yakni perusahaan teknologi—tampaknya berniat melakukan segala yang mereka bisa untuk memperburuk masalah ini secara eksponensial.
Contoh kasus: OpenAI meluncurkan Soragenerator teks-ke-video barunya, pada hari Kamis. Model ini dirancang untuk memungkinkan pengguna web menghasilkan video AI berkualitas tinggi hanya dengan perintah teks. Aplikasi tersebut saat ini memukau internet dengan variasi gambar visualnya yang aneh—entah itu parade Tahun Baru Imlekseorang pria berlari mundur di atas treadmill dalam kegelapan, seekor kucing di tempat tiduratau dua kapal bajak laut berputar-putar di dalam cangkir kopi.
Pada titik ini, meskipun misinya “mengubah dunia”, dapat dikatakan bahwa kontribusi terbesar OpenAI terhadap internet adalah generasi sampah digital yang tak terhitung jumlahnya dalam sekejap. Semua alat perusahaan yang terbuka dan umum adalah pembuat konten, seperti, para ahli telah memperingatkansiap digunakan dalam kampanye penipuan dan disinformasi.
Di dalamnya postingan blog tentang Sora, tim OpenAI secara terbuka mengakui bahwa mungkin ada beberapa potensi kerugian pada aplikasi baru mereka. Perusahaan tersebut mengatakan bahwa mereka sedang mengerjakan beberapa teknologi watermarking untuk menandai konten yang telah dibuat oleh generatornya dan sedang dalam proses berinteraksi dengan orang-orang yang berpengetahuan untuk mencari cara untuk membuat banjir sampah buatan AI yang Sora akan keluarkan menjadi tidak terlalu beracun. Sora belum dibuka untuk umum dan, sementara itu, OpenAI mengatakan mereka sedang menciptakan sistem yang akan menolak pengguna yang ingin membuat gambar kekerasan atau seksual. Pernyataan itu mencatat:
Kami akan melibatkan para pembuat kebijakan, pendidik, dan seniman di seluruh dunia untuk memahami kekhawatiran mereka dan mengidentifikasi kasus penggunaan positif teknologi baru ini. Meskipun telah dilakukan penelitian dan pengujian yang ekstensif, kami tidak dapat memprediksi semua manfaat yang akan diperoleh orang dalam menggunakan teknologi kami, atau semua cara orang akan menyalahgunakannya.
Pembingkaian masalah seperti ini agak lucu karena sudah jelas sekali bagaimana alat baru OpenAI berpotensi disalahgunakan. Sora akan menghasilkan konten palsu dalam skala besar—itu sudah jelas. Beberapa dari konten tersebut, kemungkinan besar, akan digunakan untuk tujuan disinformasi politik online, beberapa di antaranya, secara hipotetis, dapat digunakan untuk membantu berbagai penipuan dan penipuan, dan beberapa di antaranya dapat digunakan untuk menghasilkan konten beracun. OpenAI mengatakan pihaknya ingin memberikan batasan yang berarti pada konten kekerasan dan seksual, namun pengguna web dan peneliti telah menunjukkan betapa cerdasnya mereka. dalam melakukan jailbreak pada sistem AI untuk menghasilkan jenis konten yang tidak mematuhi kebijakan penggunaan perusahaan. Semua konten Sora ini jelas akan membanjiri saluran media sosial, sehingga menyulitkan masyarakat awam untuk membedakan mana yang asli dan mana yang palsu, dan membuat internet, secara umum, jauh lebih menyebalkan. Saya rasa tidak diperlukan panel ahli global untuk memecahkan masalah ini.
Ada juga sejumlah kelemahan lain yang jelas terlihat. Di satu sisi, Sora—dan sejenisnya—mungkin tidak akan memberikan dampak lingkungan yang paling besar. Para peneliti telah menunjukkan bahwa generator teks-ke-gambar secara signifikan lebih buruk, dalam hal lingkungan, dibandingkan generator teks, dan membuat gambar AI saja memerlukan jumlah energi yang sama seperti untuk mengisi penuh ponsel cerdas Anda. Selain itu, teknologi pembuatan teks-ke-video yang baru kemungkinan besar akan merugikan perekonomian pembuat video, karena mengapa perusahaan harus membayar orang untuk membuat konten visual padahal yang diperlukan untuk membuat video hanyalah mengklik tombol?
Bagi kelas korporat di negara ini, tidak ada yang penting selain uang. Persetan dengan lingkungan, persetan dengan artis, persetan dengan internet yang bebas disinformasi, persetan dengan kesehatan wacana politik, persetan dengan apa pun yang menghalangi motif keuntungan. Apa pun yang dapat diperas untuk menghasilkan uang harus diperas, meskipun itu adalah program perangkat lunak yang satu-satunya kegunaan sebenarnya adalah dapat menghasilkan video seekor hamster koboi yang menunggangi seekor naga. Sebagai satu pengguna X menaruhnya: “Untuk itulah orang-orang bodoh mengorbankan lingkungan. Bodoh. Kotoran. Menyukai. Ini.”
