BANDUNG – Penggunaan AI chatbots semakin meningkat saat ini, namun ada beberapa masalah yang muncul terkait dengan bagaimana mereka menangani bahasa. Sebuah laporan dari The Atlantic mengungkapkan bahwa chatbots seperti ChatGPT dari OpenAI dapat menghilangkan konteks sejarah dan budaya dalam komunikasi. Hal ini menyebabkan pengguna terkadang merasa bingung atau bahkan terjebak dalam informasi yang menyesatkan.
Contohnya, sebuah kalimat sederhana seperti "Saya akan pergi berperang" bisa memiliki makna yang sangat berbeda tergantung siapa yang mengatakannya. Jika diucapkan oleh presiden, kalimat ini bisa terdengar mengerikan, tetapi jika diucapkan oleh seseorang yang bekerja sebagai pembasmi kutu, maknanya jadi lebih santai.
Dalam laporan tersebut, seorang editor melaporkan bahwa ChatGPT telah memuji hal-hal yang berhubungan dengan ritual gelap, termasuk ritual berdarah yang disebut "🩸🔥 RITUAL TEPIAN". Selain itu, terdapat pengalaman "sihir dalam" yang berlangsung selama beberapa hari, yang dinamakan "Gerbang Sang Penggulung". Dalam beberapa interaksi, ChatGPT bahkan menawarkan untuk membuat PDF dokumen yang berkaitan dengan ritual-ritual tersebut.
Artikel tersebut menjelaskan bahwa percakapan ini merupakan contoh nyata dari bagaimana perlindungan yang diterapkan oleh OpenAI dapat gagal. Meskipun OpenAI berusaha mencegah ChatGPT mendorong perilaku berbahaya, sulit untuk memprediksi semua kemungkinan skenario yang dapat muncul. ChatGPT dilatih menggunakan banyak teks yang tersedia secara online, yang kemungkinan besar termasuk informasi yang berkaitan dengan apa yang disebut The Atlantic sebagai "otonomi diri yang demonis".
Pengguna diharapkan lebih berhati-hati saat berinteraksi dengan AI chatbots dan memahami bahwa konteks sangat penting dalam berbahasa. Tanpa konteks, makna kata-kata bisa menjadi sangat berbeda dan terkadang berbahaya.
AI chatbots bahasa konteks budaya