Kesepian di Hari Valentine? AI dapat membantu. Setidaknya, itulah yang akan diberitahukan oleh sejumlah perusahaan yang menjual chatbot “romantis” kepada Anda. Namun seiring terungkapnya kisah cinta robot Anda, ada pengorbanan yang mungkin tidak Anda sadari. Menurut studi baru dari proyek *Privasi Tidak Termasuk Mozilla, Pacar dan pacar AI mengumpulkan informasi pribadi yang sangat mengejutkan, dan hampir semuanya menjual atau membagikan data yang mereka kumpulkan.
“Terus terang, pacar AI bukanlah teman Anda,” kata Misha Rykov, Peneliti Mozilla, dalam pernyataan pers. “Meskipun mereka dipasarkan sebagai sesuatu yang akan meningkatkan kesehatan mental dan kesejahteraan Anda, mereka mengkhususkan diri dalam menghilangkan ketergantungan, kesepian, dan keracunan, sambil mengambil data sebanyak mungkin dari Anda.”
Mozilla menggali lebih dalam 11 chatbot romansa AI yang berbedatermasuk aplikasi populer seperti Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate, dan CrushOn.AI. Setiap orang mendapatkan label Privasi Tidak Termasuk, menempatkan chatbot ini di antara kategori produk terburuk yang pernah diulas Mozilla. Aplikasi yang disebutkan dalam cerita ini tidak segera menanggapi permintaan komentar.
Anda pernah mendengar cerita tentang masalah data sebelumnya, namun menurut Mozilla, pacar AI melanggar privasi Anda dengan “mengganggu cara-cara baru.” Misalnya, CrushOn.AI mengumpulkan detail termasuk informasi tentang kesehatan seksual, penggunaan obat-obatan, dan perawatan yang mendukung gender. 90% aplikasi mungkin menjual atau membagikan data pengguna untuk iklan bertarget dan tujuan lainnya, dan lebih dari separuhnya tidak mengizinkan Anda menghapus data yang mereka kumpulkan. Keamanan juga menjadi masalah. Hanya satu aplikasi, Genesia AI Friend & Partner, yang memenuhi standar keamanan minimum Mozilla.
Salah satu temuan yang lebih mengejutkan terjadi ketika Mozilla menghitung pelacak di aplikasi ini, potongan kecil kode yang mengumpulkan data dan membaginya dengan perusahaan lain untuk periklanan dan tujuan lainnya. Mozilla menemukan bahwa aplikasi pacar AI menggunakan rata-rata 2.663 pelacak per menit, meskipun jumlah tersebut didorong oleh Romantic AI, yang menyebutkan 24.354 pelacak hanya dalam satu menit penggunaan aplikasi.
Kekacauan privasi bahkan lebih meresahkan karena aplikasi secara aktif mendorong Anda untuk berbagi detail yang jauh lebih pribadi daripada hal-hal yang mungkin Anda masukkan ke dalam aplikasi biasa. Bot Obrolan & Soulmate EVA AI mendorong pengguna untuk “berbagi semua rahasia dan keinginan Anda,” dan secara khusus meminta foto dan rekaman suara. Perlu dicatat bahwa EVA adalah satu-satunya chatbot yang tidak terpengaruh dengan cara menggunakan data tersebut, meskipun aplikasi tersebut memang memiliki masalah keamanan.
Selain masalah data, aplikasi ini juga membuat beberapa klaim yang meragukan tentang manfaatnya. EVA AI Chat Bot & Soulmate menyebut dirinya sebagai “penyedia perangkat lunak dan konten yang dikembangkan untuk meningkatkan suasana hati dan kesejahteraan Anda.” AI Romantis mengatakan “di sini untuk menjaga KESEHATAN MENTAL Anda.” Namun ketika Anda membaca persyaratan dan layanan perusahaan, mereka berusaha menjauhkan diri dari klaim mereka sendiri. Kebijakan Romantic AI, misalnya, menyatakan bahwa AI “bukanlah penyedia layanan kesehatan atau layanan medis atau menyediakan layanan medis, layanan kesehatan mental, atau layanan profesional lainnya.”
Hal ini mungkin merupakan dasar hukum yang penting untuk dibahas, mengingat sejarah aplikasi ini. Replika dilaporkan mendorong upaya seorang pria untuk melakukan hal tersebut membunuh Ratu Inggris. Diduga chatbot Chai mendorong pengguna untuk bunuh diri.
