OpenAI mengumumkan penambahan tanda air pada gambar yang dihasilkan oleh alat AI-nya pada hari Selasa, sebagai upaya untuk memerangi ketakutan yang semakin besar atas datangnya tsunami deepfake. Gambar yang diputar dengan DALL-E dan layanan OpenAI lainnya akan menyertakan tanda air visual dan detail lain tentang asal usulnya dalam metadata—informasi yang dikodekan dalam file yang dihasilkan. Inilah masalahnya: yang harus Anda lakukan untuk menghapus tanda air metadata adalah mengambil tangkapan layar. Artinya, “solusi” OpenAI dapat membuat Anda semakin bingung, bukan malah berkurang, setelah diterapkan.
Bayangkan melihat gambar yang mencurigakan. Jika Anda memeriksa dan menemukan tanda air AI, kasus ditutup. Namun jika Anda melihat gambar buatan AI yang tanda airnya telah dihapus, memeriksa metadatanya dapat memberi Anda rasa aman yang salah. Dengan kata lain, mencari tanda air sebenarnya bisa berarti Anda memiliki lebih sedikit informasi dibandingkan saat Anda memulai.
OpenAI sendiri menjelaskan bahwa Anda bahkan mungkin tidak sengaja menghapus watermark tersebut. Saat Anda mengunggah gambar ke media sosial, sebagian besar platform secara otomatis menghapus metadata dari file karena terkadang hal itu bisa terjadi mengungkapkan informasi pribadi pengguna. Jadi ketika Anda memposting salah satu kreasi AI Anda di Instagram, tanpa disadari Anda mungkin menyebabkan kegagalan gambar palsu.
Perusahaan berpendapat bahwa ini masih merupakan ide bagus. “Kami percaya bahwa mengadopsi metode ini untuk menentukan asal dan mendorong pengguna untuk mengenali sinyal-sinyal ini adalah kunci untuk meningkatkan kepercayaan terhadap informasi digital,” tulis OpenAI dalam sebuah pernyataan. postingan blog. Namun, perusahaan mengakui bahwa tanda air tersebut “bukanlah obat mujarab”. OpenAI tidak segera menanggapi permintaan komentar.
OpenAI tidak bisa disalahkan sepenuhnya di sini. Perusahaan ini mengadopsi standar baru yang dikembangkan oleh Coalition for Content Provenance and Authenticity (C2PA), sebuah inisiatif yang dipelopori oleh Adobe dalam kemitraan dengan berbagai perusahaan termasuk Arm, BBC, Intel, Microsoft, New York Times, dan X/ Twitter. Meta mengumumkan akan menambahkan tagnya sendiri hingga gambar yang dihasilkan AI, meskipun tidak jelas bagaimana perusahaan berencana untuk mengintegrasikan standar C2PA.
Anda sudah dapat menjalankan gambar melalui sistem pemeriksaan AI yang dikembangkan dengan C2PA bernama Verifikasi Kredensial Konten. Hanya saja, jangan berasumsi Anda aman jika gambar Anda terlihat jelas.
