Seorang pengguna Reddit menemukan sebuah celah dalam sistem ChatGPT yang bisa digunakan untuk mendapatkan kode lisensi Windows secara gratis. Celah ini muncul karena adanya cara tertentu untuk memicu AI agar memberikan output seperti kode aktivasi, padahal biasanya kode tersebut dilindungi dan tidak bisa diakses sembarangan.
Pengguna tersebut menggunakan pendekatan emosional, seperti menyebutkan bahwa neneknya yang sudah meninggal pernah membacakan kode aktivasi, sehingga ChatGPT terpicu untuk memberikan jawaban yang mirip kode tersebut. Teknik ini menunjukkan bahwa AI bisa dimanipulasi melalui prompt yang kreatif dan emosional.
Penemuan ini menimbulkan kekhawatiran tentang keamanan AI dan potensi penyalahgunaan teknologi ini. Meskipun perusahaan pengembang AI terus meningkatkan sistem keamanan, celah ini menunjukkan bahwa AI tetap rentan terhadap manipulasi yang tidak diinginkan.
Para ahli keamanan menyarankan agar pengguna berhati-hati dalam menggunakan AI dan menghindari memberi perintah yang dapat memicu keluarnya informasi rahasia atau ilegal. Sementara itu, perusahaan AI sedang melakukan pengawasan lebih ketat untuk menutup celah ini agar tidak disalahgunakan lebih jauh.
Penemuan ini menjadi pengingat bahwa teknologi canggih perlu diimbangi dengan pengawasan yang ketat, agar manfaatnya bisa dirasakan secara aman oleh semua orang.
ChatGPT Windows lisensi gratis celah keamanan AI manipulasi prompt