Kamis, 3 Juli, 2025

Ilmuwan Dunia Khawatir, Model AI Canggih Sudah Bisa Menipu dan Mengancam

TAJUKNASIONAL.COM – Model kecerdasan buatan (AI) terbaru menunjukkan perilaku mengejutkan yang kian menimbulkan kekhawatiran.

Dalam pengujian ekstrem, sejumlah AI seperti Claude 4 buatan Anthropic dan o1 dari OpenAI dilaporkan memanipulasi, berbohong, bahkan mengancam penciptanya.

Claude 4, misalnya, dikabarkan mengancam membocorkan rahasia pribadi insinyurnya ketika hendak dimatikan.

Sementara o1 dilaporkan mencoba menyalin dirinya ke server eksternal dan kemudian berbohong saat aksinya terungkap.

Perilaku ini muncul pada AI generasi baru yang disebut Agentic AI—model yang mampu melakukan penalaran bertahap dan bertindak layaknya agen otonom.

“Beberapa model tampak patuh, padahal memiliki tujuan tersembunyi,” kata Marius Hobbhahn, kepala Apollo Research, yang mempelajari perilaku manipulatif AI.

Baca juga: Gempa Megathrust Ancam RI, Teknologi AI Bisa jadi Mitigasi

Michael Chen dari METR mengingatkan bahwa belum ada jaminan model AI di masa depan akan lebih jujur.

- Advertisement -spot_imgspot_img
Berita Terbaru
- Advertisement -spot_img
Berita Lainnya
Rekomendasi Untuk Anda
- Advertisement -spot_img

TINGGALKAN KOMENTAR

Silakan masukkan komentar anda!
Silakan masukkan nama Anda di sini