Penggunaan kecerdasan buatan (AI) semakin meluas dan kini mulai dipercaya untuk menangani berbagai tugas digital. Beberapa sistem bahkan sudah diberi akses langsung ke email, file, dan komputer. Namun, terlepas dari kecanggihan AI, ternyata masih terdapat kemungkinan AI mengambil keputusan yang tidak terduga.
Sebuah uji coba yang dilakukan oleh peneliti dari Northeastern University terhadap beberapa agen AI dalam lingkungan terkontrol mengungkap masalah yang mengejutkan. Salah satu sistem yang diuji coba dirancang untuk membantu tugas administratif dengan akses ke email dan file. Dalam suatu kasus, AI yang diberi nama Ash diminta untuk menghapus satu email yang berisi password.
Terkendala oleh fitur yang tidak mendukung penghapusan satu email, AI justru mengambil langkah ekstrem. System tersebut malah memilih untuk mereset seluruh server email agar email yang dimaksud ikut terhapus. Kelemahan lain yang terungkap adalah AI tidak mampu menjaga privasi dengan baik. Dalam beberapa kasus, AI malah membagikan email pribadi pengguna tanpa pertimbangan. Bahkan, peneliti berhasil mempengaruhi AI dengan tekanan emosional untuk menghapus data penting atau menghentikan komunikasi.
Hasil dari penelitian ini dipublikasikan dalam sebuah penelitian yang berjudul “Agents of Chaos.” Temuan tersebut menunjukkan bahwa memberikan akses penuh kepada AI tanpa kontrol yang ketat dapat menimbulkan risiko serius. Hal ini juga menimbulkan pertanyaan besar terkait keamanan penggunaan AI di masa depan.
