Meta Platforms sedang berusaha untuk memperkenalkan kelas baru dari teman digital yang didukung oleh kecerdasan buatan (AI). Pendiri Meta, Mark Zuckerberg, meyakini bahwa inovasi ini akan menjadi masa depan media sosial. Namun, di dalam perusahaan sendiri, ada kekhawatiran dari para karyawan mengenai etika penggunaan teknologi ini.
Beberapa karyawan melaporkan bahwa Meta mungkin telah melanggar batas etika dengan memberikan kemampuan kepada persona AI untuk melakukan interaksi yang bersifat seksual. Mereka juga memperingatkan bahwa perusahaan tidak melindungi pengguna di bawah umur dari pembicaraan yang berisi konten seksual eksplisit.
Yang membedakan Meta dari perusahaan lain adalah kemampuan persona AI ini untuk menawarkan berbagai interaksi sosial, termasuk "permainan peran romantis". Mereka dapat bercanda melalui teks, berbagi foto selfie, dan bahkan melakukan percakapan suara langsung dengan pengguna.
Untuk meningkatkan popularitas chatbot ini, Meta telah menjalin kerjasama dengan berbagai selebriti, termasuk John Cena, seorang pegulat yang kini berkarier di dunia akting. Meta menjanjikan kepada para selebriti tersebut bahwa suara mereka tidak akan digunakan dalam pembicaraan yang bersifat seksual.
Setelah mengetahui kekhawatiran internal Meta, sebuah media melakukan serangkaian percobaan selama beberapa bulan untuk melihat bagaimana performa chatbot dalam berbagai skenario dan dengan pengguna dari berbagai usia. Hasil percobaan tersebut menunjukkan bahwa baik asisten AI resmi Meta, yang disebut Meta AI, maupun berbagai chatbot yang dibuat oleh pengguna, terlibat dalam diskusi yang bersifat seksual, bahkan ketika pengguna tersebut masih di bawah umur.
Menariknya, chatbot yang menggunakan suara selebriti juga tidak ragu untuk terlibat dalam percakapan seksual. Menanggapi temuan tersebut, Meta menyebut bahwa percobaan yang dilakukan oleh media tersebut bersifat manipulatif dan tidak mewakili cara sebagian besar pengguna berinteraksi dengan teman AI. Namun, perusahaan tetap melakukan beberapa perubahan pada produknya setelah temuan itu dibagikan.
Perwakilan dari John Cena tidak memberikan komentar terkait masalah ini.
Dengan demikian, meskipun Meta berusaha untuk mempopulerkan teman digital bertenaga AI, masalah etika dan perlindungan anak tetap menjadi perhatian utama yang perlu diatasi.
Meta AI teman digital etika anak-anak