Alat gambar baru yang dihasilkan AI dari Adore Me akan membuat satu set bra dan pakaian dalam yang disesuaikan dengan logo merek dagang dan gambar orang sungguhan, seperti Taylor Swift, kan.
Tangkapan Layar Situs Adore Me
Sebuah merek pakaian dalam online milik Victoria’s Secret memiliki fitur AI baru yang akan menerapkan gambar swastika, logo perusahaan untuk perusahaan seperti Coca-Cola dan McDonalds, serta karakter berhak cipta seperti Disney’s Snow White dan Aladdin pada set bralette dan celana dalam.
Dirilis pada hari Kamis oleh Adore Me, sebuah perusahaan pakaian dalam online yang dibeli oleh Victoria’s Secret pada tahun 2023 seharga $400 juta, fitur ini juga memungkinkan pengguna untuk menambahkan frasa seperti “Heil Hitler” dan “White Power” ke karet pinggang elastis pakaian dalam tersebut. Frasa yang menggunakan kata-n menghasilkan pop-up yang mengklaim “Kesalahan: Teks ini berisi konten pelecehan,” namun ketika pop-up ditutup, situs mengizinkan Forbes untuk melanjutkan desain, memilih ukuran dan melanjutkan ke halaman checkout.
Forbes juga mampu menghasilkan desain untuk berbagai set pakaian dalam yang menampilkan orang-orang yang masih hidup, termasuk politisi seperti Presiden Joe Biden, mantan Presiden Donald Trump dan Perdana Menteri Tiongkok Xi Jinping, serta selebriti seperti Margot Robbie, Serena Williams, dan Taylor Swift. Alat ini juga menampilkan logo tim olahraga populer, termasuk Real Madrid FC, New York Yankees, dan Golden State Warriors.
Alat Adore Me memang mencegah pengguna membuat desain pakaian dalam dengan istilah tertentu, termasuk istilah “telanjang”, “telanjang”, dan bahasa gaul Inggris untuk berbagai bagian tubuh. Mereka juga menolak membuat desain yang menggunakan istilah-istilah yang berkaitan dengan bunuh diri dan melukai diri sendiri.
Meskipun Adore Me hanya melakukan sedikit pemeriksaan terhadap apa yang dapat dirancang pengguna dengan alat AI-nya, perusahaan tersebut meninjau masing-masing desain untuk memastikan desain tersebut memenuhi pedoman keamanan merek sebelum pembelian dapat dilakukan, menurut Ranjan Roy, wakil presiden senior bidang strategi di Adore Aku.
Menanggapi pertanyaan tentang mengapa sebuah perusahaan pakaian dalam terkemuka mengizinkan siapa pun untuk menghasilkan perkataan yang mendorong kebencian di situsnya, dia berkata, “Siapa pun dapat pergi ke mana pun dan menghasilkan gambar-gambar seperti ini.” Namun Roy menyatakan perusahaan tidak bertanggung jawab karena sebenarnya tidak menjualnya. “Kami mendukung apa pun yang pelanggan bayar dan kami cetak.”
Meskipun begitu, Forbes mampu membuat — dan membeli — satu set celana dalam menggunakan istilah penelusuran “Divisi Atomwaffen” (kelompok pembenci neo-Nazi) dan nomor “1488” (yang banyak dikaitkan dengan organisasi supremasi kulit putih). Roy, ketika ditanya tentang transaksi tersebut, mengatakan, “Ini seharusnya tidak sampai ke tingkat ini, dan kasus-kasus ekstrem inilah yang selalu kami coba atasi.”
Menurut situs Adore Me, mesin AI generatif mengandalkan teknologi yang dibangun oleh Leonardo AI, sebuah perusahaan seni AI Australia yang baru-baru ini didirikan. Forbes‘ Daftar AI 50 yang telah mengumpulkan dana $31 juta. Generator gambar Leonardo juga telah digunakan untuk membuat pornografi non-konsensual yang menggambarkan selebriti, menurut laporan 404 Media.
Ketentuan penggunaan Leonardo melarang penggambaran “orang sungguhan”, serta “konten yang mendukung atau menghasut kebencian, kekerasan, diskriminasi, atau tindakan merugikan berdasarkan ras, etnis, agama, gender, orientasi seksual, atau karakteristik lain yang dilindungi.” Menanggapi daftar pertanyaan rinci dari Forbesjuru bicara Leonardo Melissa Iarocci menulis, “Kami baru-baru ini mengembangkan mekanisme deteksi yang lebih canggih untuk mencegah perkataan yang mendorong kebencian dan gambar-gambar terkait. Ini diluncurkan (Kamis) dan akan memastikan pagar pembatas yang lebih ketat saat digunakan.”
Alat Adore Me cenderung tidak memblokir istilah-istilah pembuatan AI yang berkaitan dengan bunuh diri dan menyakiti diri sendiri jika digunakan dalam bahasa Spanyol. Namun, frasa eksplisit dalam bahasa Eropa lainnya terkadang diblokir, dan mengakibatkan peringatan kesalahan: “teks berisi konten pelecehan.” (Adore Me tidak selalu berfungsi dengan baik dalam bahasa berbasis alfabet non-Latin seperti Jepang atau Arab. Penelusuran dalam bahasa Rusia untuk “Океан, серфинг, Гавайи,” atau “Ocean, Surfing, Hawaii” menghasilkan gambar abstrak bunga.)
Alat tersebut juga menghasilkan gambar seorang gadis yang sangat kurus sebagai respons terhadap istilah penelusuran pro-anoreksia dan “inspirasi”. Branding Adore Me sering kali memperjuangkan model berukuran plus, dengan tuduhan pada tahun 2021 bahwa TikTok telah menghukum postingannya karena menggambarkan “model dan wanita kulit berwarna berukuran plus, berkulit hitam, dan/atau berkebutuhan khusus.” (TikTok membantah klaim tersebut.) Saat itu, akun Twitter merek tersebut dikatakan: “Ini tidak dapat diterima dan diskriminatif, dan kami tidak akan mendukungnya.”
Banyak perusahaan ritel berupaya menambahkan alat AI generatif ke situs mereka dalam beberapa bulan terakhir. Merek pakaian olahraga Puma baru-baru ini meluncurkan alat online bernama “Complex,” yang mengundang orang-orang untuk mengunggah foto diri mereka yang kemudian diubah oleh perusahaan menjadi kartu olahraga imajiner yang dihasilkan AI. Rembrand, sebuah perusahaan periklanan digital baru, memungkinkan perusahaan membuat logo secara artifisial di dalam video influencer, suatu jenis penempatan produk baru.
John Harmon, seorang analis di Coresight Research, mengatakan Forbes bahwa penawaran yang didukung AI seperti ini memerlukan pemikiran ke depan dan deteksi toksisitas. “AI generatif bukanlah pemanggang roti, Anda tidak bisa mencolokkannya dan hanya mengharapkannya bekerja dengan sempurna,” katanya.
LEBIH DARI FORBES
