Para ahli menganjurkan AI yang berpusat pada manusia, mendesak rancangan teknologi yang mendukung dan memperkaya kehidupan manusia, daripada memaksa manusia untuk beradaptasi dengannya. Sebuah buku baru yang menampilkan lima puluh ahli dari lebih dari dua belas negara dan disiplin ilmu mengeksplorasi cara-cara praktis untuk menerapkan AI yang berpusat pada manusia, mengatasi risiko dan mengusulkan solusi dalam berbagai konteks.
Menurut tim pakar global, kita perlu menghentikan pengembangan teknologi AI baru hanya demi inovasi, yang memaksa penyesuaian dalam praktik, kebiasaan, dan undang-undang untuk mengakomodasi teknologi tersebut. Mereka malah menganjurkan penciptaan AI yang benar-benar memenuhi kebutuhan kita, selaras dengan prinsip-prinsip desain AI yang berpusat pada manusia.
Lima puluh ahli dari seluruh dunia telah menyumbangkan makalah penelitian untuk sebuah buku baru tentang cara menjadikan AI lebih ‘berpusat pada manusia’, mengeksplorasi risiko – dan peluang yang hilang – karena tidak menggunakan pendekatan ini dan cara-cara praktis untuk menerapkannya.
Para ahli tersebut berasal dari lebih dari 12 negara, termasuk Kanada, Perancis, Italia, Jepang, Selandia Baru, dan Inggris, serta lebih dari 12 disiplin ilmu, termasuk ilmu komputer, pendidikan, hukum, manajemen, ilmu politik, dan sosiologi.
AI yang Berpusat pada Manusia mengkaji teknologi AI dalam berbagai konteks, termasuk pertanian, lingkungan tempat kerja, layanan kesehatan, peradilan pidana, pendidikan tinggi, dan menawarkan langkah-langkah yang dapat diterapkan untuk lebih ‘berpusat pada manusia’, termasuk pendekatan untuk peraturan dan kerangka kerja untuk kerja interdisipliner.
Apa itu AI yang berpusat pada manusia?
Kecerdasan buatan (AI) semakin merasuki kehidupan kita dan beberapa ahli berpendapat bahwa hanya mengandalkan perusahaan teknologi untuk mengembangkan dan menerapkan teknologi ini dengan cara yang benar-benar meningkatkan pengalaman manusia akan merugikan manusia dalam jangka panjang. Di sinilah peran AI yang berpusat pada manusia.
Salah satu pakar AI yang berpusat pada manusia terkemuka di dunia, Shannon Vallor dari Universitas Edinburgh di Skotlandia, menjelaskan bahwa AI yang berpusat pada manusia berarti teknologi yang membantu manusia untuk berkembang.
Ia berkata: “Teknologi yang berpusat pada manusia adalah tentang menyelaraskan seluruh ekosistem teknologi dengan kesehatan dan kesejahteraan manusia. Kontrasnya adalah dengan teknologi yang dirancang untuk menggantikan manusia, bersaing dengan manusia, atau merendahkan manusia dibandingkan dengan teknologi yang dirancang untuk mendukung, memberdayakan, memperkaya, dan memperkuat manusia.”
Ia menunjuk pada AI generatif, yang semakin populer dalam beberapa tahun terakhir, sebagai contoh teknologi yang tidak berpusat pada manusia – ia berpendapat bahwa teknologi tersebut diciptakan oleh organisasi-organisasi yang hanya ingin melihat seberapa kuat mereka dapat menciptakan suatu sistem, bukan untuk memenuhi suatu kebutuhan manusia.
“Apa yang kita peroleh adalah sesuatu yang kemudian harus kita atasi, bukan sesuatu yang dirancang oleh kita, untuk kita, dan untuk memberi manfaat bagi kita. Itu bukan teknologi yang kami butuhkan,” jelasnya. “Daripada menyesuaikan teknologi dengan kebutuhan kita, kita malah menyesuaikan diri dengan kebutuhan teknologi.”
Apa masalahnya dengan AI?
Kontributor untuk AI yang Berpusat pada Manusia menyampaikan harapan-harapan mereka, namun juga banyak kekhawatiran terhadap AI saat ini dan perkembangannya saat ini, tanpa fokus pada manusia.
Malwina Anna Wójcik, dari Universitas Bologna, Italia, dan Universitas Luksemburg, menunjukkan bias sistemik dalam pengembangan AI saat ini. Dia menunjukkan bahwa komunitas yang secara historis terpinggirkan tidak memainkan peran yang berarti dalam perancangan dan pengembangan teknologi AI, yang mengarah pada ‘penguatan narasi kekuasaan yang ada’.
Ia berpendapat bahwa kurangnya data mengenai kelompok minoritas atau data yang tersedia tidak akurat, sehingga menyebabkan diskriminasi. Selain itu, ketersediaan sistem AI yang tidak merata menyebabkan kesenjangan kekuasaan semakin lebar, sehingga kelompok marginal tidak dapat memanfaatkan data AI dan sekaligus tidak dapat memperoleh manfaat dari teknologi tersebut.
Solusinya adalah keragaman dalam penelitian serta proyek interdisipliner dan kolaboratif pada titik temu antara ilmu komputer, etika, hukum, dan ilmu sosial. Pada tingkat kebijakan, ia menyarankan bahwa inisiatif internasional perlu melibatkan dialog antar budaya dengan tradisi non-Barat.
Sementara itu Matt Malone, dari Thompson Rivers University di Kanada, menjelaskan bagaimana AI menimbulkan tantangan terhadap privasi karena hanya sedikit orang yang benar-benar memahami bagaimana data mereka dikumpulkan atau bagaimana data tersebut digunakan.
“Kesenjangan persetujuan dan pengetahuan ini mengakibatkan intrusi terus-menerus terhadap domain yang mungkin ingin dikontrol oleh privasi,” jelasnya. “Privasi menentukan seberapa jauh kita membiarkan teknologi menjangkau kehidupan dan kesadaran manusia. Namun ketika guncangan tersebut memudar, privasi dengan cepat didefinisikan ulang dan dipahami kembali, dan seiring dengan semakin banyaknya waktu, perhatian, dan kepercayaan yang dimiliki AI, privasi akan terus memainkan peran yang menentukan dalam menarik batasan antara manusia dan teknologi.”
Malone menyatakan bahwa ‘privasi akan berubah seiring dengan diterima atau ditolaknya teknologi yang digerakkan oleh AI’, dan meskipun teknologi memberikan kesetaraan yang lebih besar, kemungkinan besar individualitaslah yang dipertaruhkan.
AI dan perilaku manusia
Selain mengeksplorasi dampak sosial, para kontributor juga menyelidiki dampak perilaku penggunaan AI saat ini.
Oshri Bar-Gil dari Behavioral Science Research Institute, Israel, melakukan proyek penelitian yang mengamati bagaimana penggunaan layanan Google menyebabkan perubahan pada diri dan konsep diri. Dia menjelaskan bahwa ‘diri’ data tercipta ketika kita menggunakan suatu platform, kemudian platform tersebut mendapatkan lebih banyak data dari cara kita menggunakannya, kemudian platform tersebut menggunakan data dan preferensi yang kita berikan untuk meningkatkan kinerjanya sendiri.
“Mesin rekomendasi yang efisien dan bermanfaat ini memiliki dampak tersembunyi—pengaruhnya terhadap kita sebagai manusia,” katanya. “Mereka mengubah proses berpikir kita, mengubah beberapa aspek inti kemanusiaan kita yaitu intensionalitas, rasionalitas, dan ingatan di dunia digital dan dunia nyata, sehingga mengurangi hak pilihan dan otonomi kita.”
Juga meneliti dampak perilaku, Alistair Knott dari Victoria University of Wellington, Selandia Baru, dan Tapabrata Chakraborti dari Alan Turing Institute, University College London, Inggris, dan Dino Pedreschi dari Universitas Pisa, Italia, mengamati penggunaan AI secara luas. di media sosial.
“Meskipun sistem AI yang digunakan oleh platform media sosial dalam beberapa hal berpusat pada manusia, ada beberapa aspek dalam pengoperasiannya yang patut mendapat pengawasan cermat,” mereka menjelaskan.
Masalahnya berasal dari fakta bahwa AI terus belajar dari perilaku pengguna, menyempurnakan model pengguna saat mereka terus berinteraksi dengan platform. Namun pengguna cenderung mengklik item yang disarankan oleh sistem pemberi rekomendasi, yang berarti sistem AI cenderung mempersempit rentang minat pengguna seiring berjalannya waktu. Jika pengguna berinteraksi dengan konten yang bias, mereka cenderung direkomendasikan untuk konten tersebut dan jika mereka terus berinteraksi dengan konten tersebut, mereka akan melihat lebih banyak konten tersebut: “Singkatnya, ada alasan yang masuk akal untuk khawatir bahwa sistem pemberi rekomendasi mungkin berperan peran dalam menggerakkan pengguna menuju ekstremis posisi.”
Mereka menyarankan beberapa solusi untuk masalah ini, termasuk transparansi tambahan oleh perusahaan yang menyimpan data pada sistem pemberi rekomendasi untuk memungkinkan studi dan pelaporan lebih lanjut mengenai dampak sistem ini, terhadap sikap pengguna terhadap konten berbahaya.
Bagaimana AI yang berpusat pada manusia bisa bekerja di dunia nyata?
Pierre Larouche dari Université de Montréal, Kanada, berpendapat bahwa memperlakukan AI sebagai ‘objek hukum dan peraturan yang berdiri sendiri’ dan berasumsi bahwa ‘saat ini tidak ada undang-undang yang berlaku untuk AI’ telah membuat beberapa pembuat kebijakan merasa hal ini merupakan tugas yang tidak dapat diatasi.
Ia menjelaskan: “Karena AI dipandang sebagai perkembangan teknologi baru, maka diperkirakan belum ada undang-undang yang mengatur hal tersebut. Sejalan dengan itu, meskipun ada kelangkaan—bahkan tidak ada sama sekali—peraturan khusus mengenai AI, tidak ada kekurangan undang-undang yang dapat diterapkan terhadap AI, karena keterlibatannya dalam hubungan sosial dan ekonomi.”
Larouche berpendapat bahwa tantangannya bukan untuk membuat undang-undang baru namun untuk memastikan bagaimana undang-undang yang ada dapat diperluas dan diterapkan pada AI, dan menjelaskan: “Membiarkan perdebatan dibingkai sebagai diskusi etis terbuka di atas halaman hukum yang kosong dapat menjadi sebuah tandingan. -produktif dalam pembuatan kebijakan, sehingga membuka pintu bagi berbagai taktik penundaan yang dirancang untuk memperpanjang diskusi tanpa batas waktu, sementara teknologi terus berkembang dengan pesat.”
Benjamin Prud’homme, Wakil Presiden, Kebijakan, Masyarakat, dan Urusan Global di Mila – Quebec Artificial Intelligence Institute, salah satu komunitas akademis terbesar yang berdedikasi pada AI, menyuarakan seruan untuk percaya pada pembuat kebijakan.
Ia menjelaskan: “Rekomendasi pertama saya, atau mungkin harapan pertama saya, adalah agar kita mulai menjauh dari dikotomi antara inovasi dan regulasi – dan kami mengakui bahwa tidak apa-apa untuk menghambat inovasi jika inovasi tersebut tidak bertanggung jawab.
“Saya akan meminta para pengambil kebijakan untuk lebih percaya diri pada kemampuan mereka dalam mengatur AI; bahwa ya, teknologi ini baru, namun tidak tepat untuk mengatakan bahwa mereka belum (berhasil) mengatasi tantangan terkait inovasi di masa lalu. Banyak orang di komunitas tata kelola AI takut tidak menyelesaikan masalah sejak awal. Dan tahukah Anda, satu hal yang saya pelajari dari pengalaman saya di kalangan pembuat kebijakan adalah bahwa kita mungkin tidak akan bisa mengambil keputusan yang benar sejak awal. Tidak apa-apa.
“Tidak ada seorang pun yang memiliki tongkat ajaib. Oleh karena itu, saya ingin mengatakan hal berikut kepada para pengambil kebijakan: Tanggapi masalah ini dengan serius. Lakukan yang terbaik yang kamu bisa. Undang berbagai perspektif—termasuk komunitas marginal dan pengguna akhir—ke dalam diskusi saat Anda mencoba menemukan mekanisme tata kelola yang tepat. Namun jangan biarkan diri Anda dilumpuhkan oleh segelintir suara yang berpura-pura bahwa pemerintah tidak dapat mengatur AI tanpa menghambat inovasi. Uni Eropa dapat memberikan contoh dalam hal ini, karena Undang-undang AI yang sangat ambisius, undang-undang sistemik pertama mengenai AI, harus disetujui secara definitif dalam beberapa bulan ke depan.”
Referensi: “AI yang Berpusat pada Manusia – Perspektif Multidisiplin untuk Pembuat Kebijakan, Auditor, dan Pengguna”, 21 Maret 2024.
DOI: 10.1201/9781003320791
