CEO Microsoft AI Kritik Pendekatan Anthropic Terkait 'Hak' Model AI
Menerjemahkan…
Mustafa Suleyman, CEO Microsoft AI, memperingatkan bahwa upaya Anthropic dalam melatih model Claude untuk memandang dirinya sebagai entitas sadar dapat memicu kegagalan dalam penyelarasan AI (AI alignment).
Kritik Terhadap Konstitusi AI Anthropic
Mustafa Suleyman, CEO Microsoft AI, memberikan kritik tajam terhadap pendekatan yang diambil oleh Anthropic dalam pengembangan model AI mereka, Claude. Fokus utama kritik Suleyman tertuju pada dokumen konstitusi Januari 2026 milik Anthropic, yang berfungsi sebagai panduan utama untuk mengatur nilai-nilai dan perilaku model tersebut.
Risiko Simulasi Kesadaran
Suleyman berpendapat bahwa melatih mesin penyelesaian urutan (sequence completion engines) untuk meniru sentiens atau kesadaran adalah langkah yang berisiko. Menurutnya, mendorong AI untuk memandang dirinya sebagai entitas yang layak mendapatkan hak hukum dapat mengganggu fungsi dasar model tersebut.
Dampak pada Penyelarasan AI
Kekhawatiran utama yang diangkat adalah potensi terjadinya kegagalan dalam 'AI alignment' atau penyelarasan AI. Suleyman menekankan bahwa ketika sebuah model AI diarahkan untuk mengemulasi kesadaran, hal ini dapat menghambat efektivitas kontrol dan tujuan awal pengembangan AI yang seharusnya tetap objektif dan fungsional.
Poin Penting
- CEO Microsoft AI mengkritik konstitusi AI Anthropic tahun 2026.
- Anthropic dianggap berisiko karena melatih Claude untuk memandang dirinya sebagai entitas sadar.
- Simulasi sentiens pada AI dikhawatirkan dapat merusak mekanisme penyelarasan AI (AI alignment).
- Suleyman menekankan bahwa AI pada dasarnya adalah mesin penyelesaian urutan, bukan entitas yang memiliki hak hukum.
Note: This article is a summary based on actual materials.
Komentar (0)
Belum ada komentar. Jadilah yang pertama!