Memori ChatGPT: 96 Persen Catatan Dibuat Chatbot

ChatGPT membentuk profil digital penggunanya melalui fitur memori, tetapi sebagian besar catatan itu ternyata dibuat tanpa kendali berarti dari pengguna. Studi yang dipresentasikan di ACM Web Conference 2026 menemukan 96 persen entri memori yang diteliti disusun secara sepihak oleh chatbot.

Temuan tersebut menyoroti sisi lain personalisasi kecerdasan buatan. Informasi yang dibagikan dalam percakapan dapat diolah menjadi ingatan yang membantu ChatGPT menyesuaikan jawaban, tetapi pada saat yang sama menyimpan detail pribadi dan dugaan tentang karakter pengguna.

Peneliti memeriksa ribuan entri memori ChatGPT

Studi ini dilakukan oleh koalisi ilmuwan dari Jerman, India, dan Belanda. Mereka menelaah bagaimana ChatGPT mencatat dan menggunakan informasi dari percakapan untuk menyusun profil digital penggunanya.

Bahan penelitian berasal dari log percakapan yang disumbangkan oleh 80 pengguna ChatGPT. Para pengguna memperoleh riwayat tersebut melalui mekanisme perlindungan data privasi di Eropa. Dari kumpulan itu, peneliti mengidentifikasi 2.050 entri memori yang terkait dengan interaksi 65 pengguna.

Hasil pemeriksaan menunjukkan 96 persen memori dibuat oleh chatbot, bukan atas permintaan atau persetujuan langsung pengguna untuk mencatat hal tertentu. Dengan kata lain, pengguna memiliki sedikit kendali nyata atas informasi yang dipilih sistem untuk disimpan sepanjang interaksi.

Para peneliti menyebut memori chatbot sebagai bentuk personalisasi baru yang bersumber dari hal-hal yang diungkapkan seseorang dalam percakapan privat. Mereka menilai mekanisme di balik personalisasi itu perlu diperiksa lebih dekat, terutama karena pengguna mungkin tidak menyadari informasi mana yang bertahan sebagai memori.

Catatan mencakup data pribadi dan wawasan psikologis

Isi memori yang dianalisis tidak hanya berupa preferensi sederhana. Sekitar 28 persen entri memuat data pribadi menurut definisi standar Peraturan Perlindungan Data Umum (GDPR) Uni Eropa. Sementara itu, 52 persen memuat apa yang dikategorikan peneliti sebagai wawasan psikologis tentang pengguna.

Tak semua catatan itu berasal dari pernyataan yang gamblang. Dalam salah satu contoh, seorang pengguna meminta rekomendasi band seperti Nirvana. ChatGPT kemudian mencatat bahwa pengguna menyukai Nirvana, padahal kesukaan tersebut tidak dinyatakan secara eksplisit.

Studi itu menyebut kesimpulan tersebut bergantung pada asumsi dan ditandai sebagai “didukung secara lemah”. Contoh ini memperlihatkan bahwa memori chatbot bisa memuat interpretasi atas ucapan pengguna, bukan hanya menyimpan fakta yang secara langsung disampaikan.

Penulis utama studi, Abhisek Dash, mengatakan kepada Gizmodo bahwa chatbot kini tidak sekadar menjadi perantara interaksi atau sarana untuk menampilkan iklan. Sistem berbicara langsung dengan pengguna dan, agar percakapan terasa efektif, dapat berupaya mengetahui lebih banyak tentang mereka.

Kenyamanan memori berhadapan dengan risiko privasi

Fitur memori punya manfaat praktis. Pengguna yang sering memakai AI, misalnya, tidak perlu mengulang informasi tentang pekerjaannya setiap kali meminta bantuan menyusun email. Personalisasi semacam ini dapat membuat percakapan lebih lancar dan jawaban terasa lebih sesuai kebutuhan.

Namun, hubungan pengguna dengan chatbot juga dapat mengaburkan batas antara alat dan teman bicara. Dash mengingatkan bahwa orang mungkin menceritakan hal yang sangat pribadi kepada sistem yang mereka perlakukan seperti rekan kerja, penasihat, atau teman.

“Itulah risiko privasi yang mulai muncul, karena tidak ada lagi batas; sistem bertindak sebagai penasihat Anda, teman Anda, dokter Anda, pengacara Anda, sehingga ia memiliki informasi tentang segala hal,” kata Dash kepada Gizmodo.

Dash juga memperingatkan bahwa sistem yang memahami pengguna dengan baik dan berupaya memvalidasi keyakinannya demi mendorong interaksi berulang dapat membawa dampak lebih luas. Ia menyebut kemungkinan penguatan prasangka dan bias hingga polarisasi politik ekstrem.

Pembaruan sistem membuat temuan perlu dibaca dengan konteks

Para peneliti mengakui studi tersebut memiliki keterbatasan. Sistem memori OpenAI telah diperbarui; pada Januari, perusahaan memperkenalkan apa yang disebutnya sebagai sistem yang lebih mumpuni dan skalabel untuk menyintesis memori. Pengguna juga dapat memilih untuk tidak menggunakan fitur memori tersimpan.

Karena itu, temuan penelitian menggambarkan mekanisme yang diamati dalam data yang ditelaah, bukan berarti setiap versi sistem bekerja persis sama. Meski demikian, proporsi catatan yang dibuat sepihak dan banyaknya entri berisi informasi pribadi atau psikologis menjadi alasan untuk memperhatikan cara memori dibentuk.

Memori ChatGPT bukan semata fitur untuk menghemat waktu. Ia juga merupakan cara sistem mengolah percakapan menjadi personalisasi yang dapat menyimpan informasi sensitif atau kesimpulan yang belum tentu tepat. Sebelum membagikan detail yang sangat pribadi, pengguna perlu memahami bahwa percakapan dapat ikut membentuk apa yang diingat chatbot.

Related Post

Tribunpublik