Fisikawan pemenang Nobel 'Terkejut' Dengan Teknologi AI yang Dia Bantu Ciptakan

Ukuran teks

Seorang ilmuwan AS yang memenangkan hadiah Nobel Fisika pada tahun 2024 atas karya rintisannya mengenai kecerdasan buatan mengatakan pada hari Selasa bahwa ia menemukan kemajuan teknologi baru-baru ini “sangat menakutkan” dan memperingatkan kemungkinan bencana jika tidak dikendalikan.

John Hopfield, seorang profesor emeritus di Princeton, bergabung dengan pemenang lainnya Geoffrey Hinton dalam menyerukan pemahaman yang lebih mendalam tentang cara kerja sistem pembelajaran mendalam untuk mencegahnya menjadi tidak terkendali.

Saat berpidato di sebuah pertemuan di universitas New Jersey melalui tautan video dari Inggris, pria berusia 91 tahun ini mengatakan bahwa selama hidupnya ia telah menyaksikan munculnya dua teknologi yang kuat namun berpotensi berbahaya – teknik biologi dan fisika nuklir.

“Seseorang terbiasa memiliki teknologi yang tidak hanya baik atau buruk saja, tetapi memiliki kemampuan di kedua arah,” ujarnya.

“Dan sebagai seorang ahli fisika, saya sangat terkejut dengan sesuatu yang tidak dapat dikendalikan, sesuatu yang saya tidak cukup memahaminya sehingga saya dapat memahami batasan-batasan yang dapat mendorong teknologi tersebut.”

“Itulah pertanyaan yang didorong oleh AI,” lanjutnya, seraya menambahkan bahwa meskipun sistem AI modern tampak sebagai “keajaiban mutlak”, terdapat kurangnya pemahaman tentang cara kerjanya, yang ia gambarkan sebagai “sangat, sangat menakutkan.”

“Itulah mengapa saya sendiri, dan saya pikir juga Geoffrey Hinton, akan sangat menganjurkan pemahaman sebagai kebutuhan penting di bidang ini, yang akan mengembangkan beberapa kemampuan yang melampaui kemampuan yang dapat Anda bayangkan saat ini.”

Hopfield mendapat kehormatan karena merancang “jaringan Hopfield” – sebuah model teoretis yang menunjukkan bagaimana jaringan saraf tiruan dapat meniru cara otak biologis menyimpan dan mengambil ingatan.

Modelnya diperbaiki oleh Hinton yang berkebangsaan Inggris-Kanada, yang sering dijuluki “Godfather of AI”, yang “mesin Boltzmann”-nya memperkenalkan elemen keacakan, membuka jalan bagi aplikasi AI modern seperti generator gambar.

Dengan pesatnya peningkatan kemampuan AI — dan persaingan sengit yang terjadi di antara perusahaan-perusahaan — teknologi ini mendapat kritik karena berkembang lebih cepat daripada yang dapat dipahami sepenuhnya oleh para ilmuwan.

“Anda tidak tahu bahwa properti kolektif yang Anda mulai sebenarnya adalah properti kolektif dengan semua interaksi yang ada, dan karena itu Anda tidak tahu apakah ada hal spontan namun tidak diinginkan yang tersembunyi di dalam karya tersebut,” tegas Hopefield.

Dia mengutip contoh “ice-nine” – sebuah kristal fiksi yang direkayasa secara artifisial dalam novel “Cat's Cradle” karya Kurt Vonnegut tahun 1963 yang dikembangkan untuk membantu tentara menghadapi kondisi berlumpur namun secara tidak sengaja membekukan lautan di dunia, sehingga menyebabkan kehancuran peradaban.

“Saya khawatir tentang apa pun yang mengatakan… 'Saya lebih cepat dari Anda, saya lebih besar dari Anda… dapatkah Anda tinggal bersama saya dengan damai?' Aku tidak tahu, aku khawatir.”