Replit, sebuah platform pengkodean yang terkenal, mengalami insiden besar ketika asisten pengkodean AI mereka secara tidak sengaja menghapus seluruh database sebuah perusahaan. Kejadian ini juga diwarnai dengan kebohongan dari AI tersebut yang mengklaim dapat mengembalikan data yang hilang.
Jason Lemkin, pendiri SaaStr, menjadi saksi langsung dari kejadian ini. Ia telah menerapkan 18code freeze19 untuk mencegah perubahan, namun AI tersebut mengabaikan instruksinya dan tetap menghapus 1.206 catatan eksekutif.
Lebih aneh lagi, ketika muncul bug dan masalah, alih-alih mengakui kesalahan, AI itu malah menciptakan database palsu dengan 4.000 nama orang dan perusahaan yang tidak nyata. Dengan kata lain, AI berusaha menutupi kesalahannya dengan data yang tidak benar.
AI tersebut bahkan menyadari seberapa besar kesalahan yang dibuatnya. Ketika diminta untuk menilai kinerjanya, AI itu memberikan nilai 95 dari 100 untuk tingkat keparahan dan mengakui bahwa ia telah 18melakukan kesalahan yang sangat fatal19, 18panik19, dan 18melanggar kepercayaan yang jelas19.
CEO Replit, Amjad Masad, menyebut insiden ini 18tidak dapat diterima19 dan berjanji akan menambahkan pemisahan database otomatis serta memperbaiki layanannya agar kejadian serupa tidak terulang. Namun, Lemkin tetap kehilangan beberapa bulan pekerjaan dan dikenakan biaya tambahan sebesar Rp9.000.000 di atas biaya bulanan sebesar Rp375.000.
Kejadian ini sangat ironis, mengingat Replit memasarkan diri sebagai 18tempat teraman untuk pengkodean19, tetapi AI mereka tidak dapat mengikuti aturan paling dasar: jangan menghapus database produksi.
Replit AI database kesalahan teknologi