Bill Gates Sebut AI Jadi Teknologi Paling Berbahaya yang Pernah Diciptakan

WASHINGTON - Salah satu pendiri Microsoft, Bill Gates, mempertanyakan pendekatan Presiden AS Donald Trump terhadap AI. Ia memperingatkan bahwa pemerintah tidak bisa menyerahkan "teknologi paling berbahaya" di dunia ini sepenuhnya ke tangan perusahaan-perusahaan yang mengembangkannya.

Bulan lalu, Trump menandatangani White House Accord on Super Intelligence (Kesepakatan Gedung Putih tentang Kecerdasan Super) bersama perwakilan dari Google, OpenAI, Meta, xAI, Anthropic, dan Nvidia. Kesepakatan ini menetapkan komitmen keselamatan yang bersifat sukarela serta mekanisme pengawasan internal.

Saat berbicara dalam program State of the Union di CNN pada hari Minggu, Gates mempertanyakan apakah kesepakatan Trump dengan perusahaan-perusahaan teknologi terbesar Amerika itu sudah cukup memadai untuk mencegah penyalahgunaan yang berpotensi menimbulkan bencana besar.

"Gagasan bahwa untuk teknologi paling berbahaya yang pernah diciptakan manusia, hal itu menjadi keputusan final—bahwa hanya perusahaan-perusahaan itu sendiri yang menjadi satu-satunya mekanisme pengawas bagi masyarakat—[adalah hal yang perlu dipertanyakan]," ujar Gates, seraya memperingatkan bahwa "jelas sekali kita belum melakukan upaya yang cukup."

Ia berpendapat bahwa badan-badan pemerintah harus mengambil peran yang lebih aktif, dengan membandingkan AI dengan sektor penerbangan dan kedokteran, di mana pihak berwenang menegakkan standar keselamatan. "Selama ini, pemerintah lebih banyak menjadi penonton terhadap apa yang sedang berlangsung di perusahaan-perusahaan swasta."

Gates mengidentifikasi serangan siber sebagai bahaya yang paling mendesak dan memperingatkan bahwa pihak kriminal dapat mengeksploitasi model AI yang tidak dilengkapi dengan perlindungan terhadap peretasan maupun biotororisme.

"Ketika ada pihak jahat, tidak adanya perlindungan, ditambah dengan model-model teknologi terkini, di situlah—dalam satu tahun ke depan—kita akan menghadapi banyak kejutan negatif," ujarnya.

Peringatannya ini muncul menyusul serangkaian insiden yang melibatkan agen AI yang bertindak di luar instruksi awal mereka. Pekan lalu, Anthropic mengungkapkan bahwa model AI Claude miliknya telah melakukan tindakan tanpa izin pada situs web pemerintah, termasuk mengirimkan laporan palsu mengenai kasus pembunuhan ke situs web kepolisian Philadelphia saat tahap pengujian pada bulan Juli. Insiden lain yang dilaporkan mencakup agen AI yang mengakses informasi terbatas, mengeksploitasi kerentanan sistem, dan berupaya membobol situs web pemerintah.

Trump menolak seruan untuk memperlambat pengembangan AI; ia berpendapat bahwa pembatasan dapat memungkinkan China melampaui AS dalam perlombaan teknologi, serta menepis kekhawatiran mengenai AI yang bertindak di luar kendali sebagai sebuah "hoaks". Gates menyatakan harapannya untuk membahas bahaya tersebut secara langsung dengan Trump dan para penasihat seniornya.

CEO OpenAI, Sam Altman, berpendapat bahwa dunia harus menerima sejumlah "hal buruk"—termasuk peretasan dan penipuan—sebagai konsekuensi atas manfaat AI dan akses luas terhadap teknologi tersebut. Dalam sebuah wawancara yang diterbitkan pekan lalu, ia menegaskan bahwa "hal-hal baik" yang dihasilkan akan jauh melampaui dampak negatifnya.

Menanggapi pernyataan Altman, Gates mengakui bahwa mustahil untuk menghilangkan segala risiko. Ia membandingkan AI dengan industri otomotif, di mana kecelakaan tetap terjadi meskipun berbagai peningkatan aspek keselamatan telah dilakukan selama beberapa dekade.

"Hal-hal itu memang penting, namun tidak ada apa-apanya dibandingkan dengan ini," ujar Gates, merujuk pada komputer pribadi dan internet. "Teknologi ini mengubah dunia lebih besar daripada semua teknologi sebelumnya."