Peneliti Universitas Kopenhagen telah membuktikan bahwa algoritma Machine Learning yang sepenuhnya stabil tidak dapat dicapai untuk masalah yang kompleks, hal ini menyoroti pentingnya pengujian menyeluruh dan kesadaran akan keterbatasan AI. Kredit: SciTechDaily.com
Para peneliti dari Universitas Kopenhagen menjadi yang pertama di dunia yang membuktikan secara matematis bahwa, selain masalah sederhana, tidak mungkin mengembangkan algoritma AI yang akan selalu stabil.
ChatGPT dan sejenisnya pembelajaran mesinteknologi berbasis teknologi semakin meningkat. Namun, algoritma yang paling canggih pun menghadapi keterbatasan. Para peneliti dari Universitas Kopenhagen telah membuat penemuan inovatif, yang secara matematis menunjukkan bahwa, di luar permasalahan dasar, mustahil mengembangkan algoritma AI yang selalu stabil. Penelitian ini dapat membuka jalan bagi peningkatan protokol pengujian algoritma, menyoroti perbedaan inheren antara pemrosesan mesin dan kecerdasan manusia.
Artikel ilmiah yang menjelaskan hasilnya telah disetujui untuk dipublikasikan di salah satu konferensi internasional terkemuka tentang ilmu komputer teoretis.
Mesin menafsirkan gambar pemindaian medis lebih akurat dibandingkan dokter, menerjemahkan bahasa asing, dan mungkin akan segera dapat mengemudikan mobil dengan lebih aman dibandingkan manusia. Namun, bahkan algoritma terbaik pun memiliki kelemahan. Tim peneliti di Departemen Ilmu Komputer, Universitas Kopenhagen, mencoba mengungkapnya.
Ambil contoh kendaraan otomatis yang membaca rambu jalan. Jika seseorang menempelkan stiker pada tanda tersebut, hal ini tidak akan mengganggu pengemudi manusia. Namun suatu mesin dapat dengan mudah dimatikan karena tandanya sekarang berbeda dari tanda yang pernah dilatihnya.
“Kami ingin algoritme menjadi stabil dalam artian, jika masukan diubah sedikit, keluarannya akan tetap sama. Kehidupan nyata melibatkan segala jenis kebisingan yang biasanya diabaikan oleh manusia, sementara mesin bisa menjadi kacau,” kata Profesor Amir Yehudayoff, yang memimpin kelompok tersebut.
Bahasa untuk mendiskusikan kelemahan
Sebagai yang pertama di dunia, kelompok ini bersama peneliti dari negara lain telah membuktikan secara matematis bahwa selain permasalahan sederhana tidak mungkin tercipta algoritma Machine Learning yang akan selalu stabil. Artikel ilmiah yang menjelaskan hasilnya telah disetujui untuk dipublikasikan di salah satu konferensi internasional terkemuka tentang ilmu komputer teoretis, Foundations of Computer Science (FOCS).
“Saya ingin mencatat bahwa kami belum mengerjakan secara langsung aplikasi mobil otomatis. Namun, hal ini sepertinya merupakan masalah yang terlalu rumit sehingga algoritma tidak bisa selalu stabil,” kata Amir Yehudayoff, seraya menambahkan bahwa hal ini tidak selalu berarti konsekuensi besar dalam kaitannya dengan pengembangan mobil otomatis:
“Jika algoritme hanya mengalami kesalahan dalam beberapa keadaan yang sangat jarang terjadi, hal ini mungkin dapat diterima. Namun jika hal ini terjadi dalam banyak situasi, maka ini adalah berita buruk.”
Artikel ilmiah tidak dapat diterapkan oleh industri untuk mengidentifikasi bug dalam algoritmanya. Ini bukan maksudnya, sang profesor menjelaskan:
“Kami sedang mengembangkan bahasa untuk membahas kelemahan algoritma Machine Learning. Hal ini dapat mengarah pada pengembangan pedoman yang menjelaskan bagaimana algoritma harus diuji. Dan dalam jangka panjang, hal ini mungkin akan mengarah pada pengembangan algoritma yang lebih baik dan lebih stabil.”
Dari intuisi hingga matematika
Penerapan yang mungkin dilakukan adalah untuk menguji algoritma untuk perlindungan privasi digital.
”Beberapa perusahaan mungkin mengklaim telah mengembangkan solusi yang benar-benar aman untuk perlindungan privasi. Pertama, metodologi kami mungkin dapat membantu membuktikan bahwa solusi yang diberikan tidak sepenuhnya aman. Kedua, hal ini akan mampu menunjukkan titik-titik kelemahan,” kata Amir Yehudayoff.
Namun, yang pertama dan terpenting, artikel ilmiah berkontribusi pada teori. Terutama konten matematikanya yang inovatif, ia menambahkan: “Kami memahami secara intuitif, bahwa algoritma yang stabil akan bekerja hampir sama baiknya dengan sebelumnya ketika terkena sejumlah kecil input noise. Persis seperti rambu lalu lintas yang ditempeli stiker. Namun sebagai ilmuwan komputer teoretis, kita memerlukan definisi yang tegas. Kita harus mampu menggambarkan permasalahan tersebut dalam bahasa matematika. Berapa banyak noise yang harus dapat ditahan oleh algoritme, dan seberapa dekat keluaran aslinya jika kita ingin algoritme tersebut stabil? Inilah yang kami usulkan jawabannya.”
Penting untuk mengingat batasan
Artikel ilmiah ini mendapat perhatian besar dari rekan-rekan di dunia teori ilmu komputer, namun tidak dari industri teknologi. Setidaknya belum.
“Anda harus selalu memperkirakan adanya penundaan antara perkembangan teoretis baru dan minat dari orang-orang yang bekerja di bidang aplikasi,” kata Amir Yehudayoff sambil menambahkan sambil tersenyum: “Dan beberapa perkembangan teoretis akan luput dari perhatian selamanya.”
Namun, ia tidak melihat hal tersebut terjadi dalam kasus ini: ”Machine Learning terus mengalami kemajuan pesat, dan penting untuk diingat bahwa bahkan solusi yang sangat berhasil di dunia nyata pun masih memiliki keterbatasan. Mesin terkadang terlihat mampu berpikir, namun bagaimanapun juga, mereka tidak memiliki kecerdasan manusia. Ini penting untuk diingat.”
Referensi: “Replikasi dan Stabilitas dalam Pembelajaran” oleh Zachary Chase, Shay Moran dan Amir Yehudayoff, 2023, konferensi Foundations of Computer Science (FOCS).
DOI: 10.48550/arXiv.2304.03757
