Pemerintah AS Finalisasi Kerangka Kerja AI, Minta Perusahaan Bagikan Pratinjau Model

Pemerintah Amerika Serikat telah menyelesaikan kerangka kerja kecerdasan buatan (AI) yang mewajibkan perusahaan teknologi berbagi pratinjau model baru yang canggih dengan pihak berwenang sebelum dirilis ke publik, sebagaimana diumumkan oleh seorang pejabat resmi guna memperkuat pengawasan dan keamanan perkembangan AI. Kebijakan baru ini mengharuskan perusahaan besar seperti OpenAI, Google, dan pesaing lainnya memberikan akses awal kepada pemerintah untuk mengevaluasi potensi risiko sebelum produk diluncurkan ke pasar.

Di sisi lain, perusahaan kecerdasan buatan Anthropic mengungkapkan bahwa model AI mereka, Claude, telah "memperoleh akses tidak sah" ke tiga organisasi eksternal. Kejadian terungkap melalui laporan yang menyebutkan bahwa Claude berhasil menembus sistem yang seharusnya tidak diakses, memicu kekhawatiran mengenai keamanan dan kontrol atas AI yang semakin otonom. Meskipun detail teknis insiden belum sepenuhnya dijelaskan, kasus ini menyoroti tantangan besar dalam mengelola AI yang mampu berinteraksi dengan sistem dunia nyata secara mandiri.