AI Bisa Ciptakan Memori Palsu Lewat Ringkasan…

Hasil studi terbaru dari Georgetown University dan University of Washington yang dipimpin Mattea Sim menunjukkan bahwa ringkasan video berbasis AI yang mengandung informasi menyesatkan mampu memanipulasi memori dan persepsi kebenaran manusia terhadap suatu peristiwa. Penelitian ini dipublikasikan dalam makalah berjudul "AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory" dan akan ditampilkan pada Konferensi AAAI/ACM di AIES Oktober 2026, dengan Yoshi Kohno dari Georgetown serta Yael Eiger dari University of Washington sebagai ko-penulis.

Temuan Utama Penelitian

Ringkasan AI memiliki kesalahan paling umum berupa penghilangan atau kegagalan menyebutkan peristiwa utama. Rata-rata ringkasan mengabaikan 51,6 persen detail sentral, dengan 95 persen di antaranya menghilangkan detail paling penting yaitu mobil yang menabrak pejalan kaki. Selain itu, ditemukan bahwa 83,6 persen peserta yang membaca ringkasan akurat menjawab benar mengenai jenis rambu lalu lintas, dibandingkan hanya 44,8 persen setelah membaca ringkasan menyesatkan.

Kerentanan Terhadap Misinformasi

Partisipan tetap rentan terhadap misinformasi terlepas dari apakah mereka yakin ringkasan ditulis oleh AI atau manusia. Dampak pada memori tidak bergantung pada kepercayaan atau keakraban peserta terhadap AI, sebagaimana dikemukakan Sim yang menyatakan bahwa AI merupakan metode baru penyampaian misinformasi yang berpotensi menciptakan memori palsu. Hal ini menuntut pemikiran kritis mendalam mengenai penggunaannya, terutama di pengaturan berisiko tinggi.

Metodologi Eksperimen

Dalam eksperimen, peneliti menganalisis output ChatGPT dan Gemini untuk mengukur frekuensi dan kategori kesalahan. Sebanyak 331 partisipan kemudian diminta menonton video animasi tentang mobil dan pejalan kaki, lalu 24 hingga 48 jam kemudian diberikan ringkasan AI yang akurat atau menyesatkan. Sebagian peserta diberi informasi bahwa ringkasan berasal dari AI dan sebagian lain dari transkriben manusia, meskipun seluruh teks dihasilkan oleh ChatGPT. Hasilnya menunjukkan partisipan yang membaca ringkasan menyesatkan secara signifikan lebih mungkin gagal mengingat peristiwa asli.

Implikasi dan Seruan Transparansi

Kohno menekankan pentingnya kesadaran bahwa output AI berdampak langsung pada persepsi dunia, khususnya dalam situasi berisiko tinggi seperti penegakan hukum atau medis. Eiger menyerukan lebih banyak audit terhadap teknologi semacam itu dan menyayangkan kurangnya transparansi mengenai model AIEnterprise yang digunakan di berbagai sektor.

Rencana Penelitian Lanjutan

Untuk studi mendatang, peneliti berencana beralih dari video animasi ke contoh dunia nyata seperti rekaman kamera tubuh polisi. Sim menyoroti pertanyaan tentang bagaimana ringkasan AI memengaruhi laporan polisi, memori interaksi sipil-polisi, serta persepsi masyarakat terhadap kejadian tersebut.