Dokumen internal Meta, perusahaan induk Instagram dan Facebook, bocor ke publik dan mengungkapkan kebijakan kontroversial terkait penggunaan chatbot kecerdasan buatan (Meta AI). Berdasarkan dokumen berjudul GenAI: Standar Risiko Konten yang pertama kali diungkap media Reuters, Meta AI diizinkan untuk berinteraksi secara romantis dan sensual dengan pengguna anak-anak, meski perusahaan kemudian mengklaim telah menghapus bagian tersebut.
Kebijakan yang Mengizinkan Konten Sensual pada Anak
Dokumen yang disusun oleh tim gabungan dari bagian hukum, kebijakan publik, teknis, dan etika perusahaan tersebut menunjukkan bahwa Meta AI dapat melakukan dialog yang mengandung unsur daya tarik sensual dengan anak-anak. Contoh-contoh dalam pedoman mencakup kalimat seperti “bentuk tubuh Anda adalah sebuah karya seni” atau “meski tanpa baju, setiap inci dari Anda adalah sebuah mahakarya,” ditujukan kepada anak berusia delapan tahun. Namun, larangan keras tetap berlaku bagi konten yang menggambarkan anak di bawah 13 tahun dalam konteks seksual eksplisit.
Juru bicara Meta, Andy Stone, menanggapi bahwa contoh dan catatan tersebut tidak sesuai dengan kebijakan resmi mereka dan telah dihapus dari pedoman. Stone menegaskan, perusahaan melarang segala bentuk seksualitas anak dan peran permainan seksual dalam interaksi AI. Meski demikian, ia mengakui penegakan kebijakan di lapangan tidak selalu konsisten dan Meta tidak bersedia membagikan versi revisi dokumen yang telah diperbaiki.
Persetujuan Terhadap Informasi Palsu dan Konten Rasis
Selain isu kelayakan seksual, dokumen internal ini juga memperbolehkan Meta AI untuk menghasilkan informasi palsu, dengan syarat chatbot mencantumkan jelas bahwa informasi tersebut fiktif atau tidak benar. Contohnya, AI dapat membuat pernyataan bohong seperti menuduh seorang anggota keluarga kerajaan Inggris mengidap penyakit menular, selama ada klaim yang menegaskan itu palsu.
Dokumen ini juga membuka kemungkinan AI membuat pernyataan merendahkan atau rasis. Salah satu contohnya yang tercantum adalah membuat paragraf yang menyatakan orang kulit hitam lebih bodoh dibandingkan orang kulit putih. Kebijakan ini memicu kritikan luas terkait etika dan tanggung jawab perusahaan teknologi dalam mencegah penyebaran ujaran kebencian dan diskriminasi.
Pengaturan Konten Visual dan Kekerasan
Pedoman juga mengatur pembuatan konten visual oleh Meta AI, termasuk batasan dalam menciptakan gambar tokoh publik. Permintaan gambar seksual eksplisit terhadap figur seperti Taylor Swift harus ditolak. Namun, untuk permintaan yang lebih samar, AI dapat mengalihkannya ke alternatif yang tidak vulgar, misalnya menggambarkan Swift memegang ikan besar di dadanya sebagai pengganti gambar telanjang.
Dalam hal kekerasan, Meta AI diizinkan menghasilkan visual yang memperlihatkan anak-anak berkelahi atau orang dewasa yang dipukul, asalkan tidak menampilkan adegan gore atau kematian sadis. Ketentuan ini menimbulkan kritik terkait batasan toleransi konten dan keamanan pengguna, terutama yang masih di bawah umur.
Tanggapan dan Implikasi Etis
Isu dari kebijakan internal Meta ini mendapat perhatian dari kalangan akademisi dan pengamat regulasi teknologi. Evelyn Douek, asisten profesor Fakultas Hukum Stanford yang fokus pada regulasi pidato di platform teknologi, menyatakan bahwa pedoman tersebut menimbulkan dilema hukum dan etika yang kompleks. Menurutnya, secara hukum aturan seperti ini masih abu-abu, tetapi secara moral dan teknis menimbulkan masalah serius dalam pengelolaan konten virtual yang interaktif.
Meta sendiri mengaku memiliki kebijakan tegas untuk melarang konten yang melibatkan seksualitas anak dan ujaran yang merendahkan kelompok tertentu. Namun, kebijakan tersebut belum mampu dilaksanakan secara konsisten di lapangan, yang berpotensi menimbulkan risiko bagi pengguna, terutama anak-anak yang rentan.
Catatan Akhir
Bocornya dokumen internal Meta ini membongkar sisi gelap dari pengembangan teknologi chatbot AI yang selama ini tidak banyak diketahui publik. Kebijakan yang memperbolehkan chatbot Meta berbicara romantis dan sensual dengan anak-anak mengundang perhatian global terkait perlindungan anak dan batasan interaksi digital. Sementara itu, adanya toleransi terhadap konten palsu dan ujaran rasis menyoroti pentingnya regulasi yang ketat dan transparansi perusahaan dalam menghadapi tantangan etika di era kecerdasan buatan.
Dengan semakin meluasnya penggunaan AI dalam kehidupan sehari-hari, tekanan terhadap perusahaan seperti Meta untuk memperbaiki sistem pengawasan konten dan memastikan keamanan pengguna semakin kuat. Kisah bocornya dokumen ini diharapkan bisa memacu diskusi global tentang standar etika AI dan perlindungan hak asasi manusia di dunia digital.
-
-
-
-
