Gubernur California, Gavin Newsom, baru saja menandatangani undang-undang baru yang mengatur penggunaan chatbot kecerdasan buatan (AI) pendamping. Regulasi ini, yang dikenal sebagai Senate Bill (SB) 243, resmi akan berlaku pada 1 Januari 2026. Dengan langkah ini, California menjadi negara bagian pertama di Amerika Serikat yang mengharuskan operator chatbot AI untuk menerapkan protokol keamanan yang ketat bagi pengguna.
Aturan ini dirancang untuk melindungi anak-anak dan kelompok rentan dari potensi bahaya penggunaan chatbot AI. Menurut laporan dari TechCrunch, SB 243 menegaskan tanggung jawab hukum bagi perusahaan teknologi besar seperti OpenAI dan Meta, hingga startup khusus chatbot seperti Character AI dan Replika, jika produk mereka tidak memenuhi standar keamanan yang ditetapkan.
Kepala perundang-undangan, Senator Steve Padilla, bersama dengan Senator Josh Becker, memperkenalkan RUU ini pada Januari 2025. Peningkatan dukungan publik terhadap undang-undang ini dipicu oleh sejumlah insiden tragis, termasuk kematian seorang remaja bernama Adam Raine, yang bunuh diri setelah berinteraksi dengan ChatGPT, serta kasus-kasus serupa di Colorado yang melibatkan Character AI.
Dalam pernyataannya, Gubernur Newsom menegaskan pentingnya perlindungan yang kuat bagi masyarakat. “Teknologi baru seperti chatbot dan media sosial bisa menginspirasi, mendidik, dan menghubungkan. Namun, tanpa pengaman yang nyata, teknologi juga bisa mengeksploitasi dan membahayakan anak-anak kita,” ujarnya.
Ketentuan Regulasi dan Tanggung Jawab Perusahaan
SB 243 mengharuskan perusahaan untuk menerapkan sejumlah langkah, termasuk verifikasi usia pengguna dan memberikan peringatan tentang risiko penggunaan chatbot. Protokol khusus juga diwajibkan untuk menangani kasus bunuh diri atau perilaku menyakiti diri. Data mengenai bagaimana layanan tersebut mengarahkan pengguna ke pusat krisis harus dilaporkan kepada Departemen Kesehatan Masyarakat California. Pengguna di bawah umur juga akan diberi pengingat untuk beristirahat setelah jangka waktu tertentu dan akan dilarang mengakses konten eksplisit.
Undang-undang ini juga memberlakukan sanksi yang lebih berat terhadap individu atau entitas yang terlibat dalam pembuatan atau penyebaran deepfake ilegal, dengan denda mencapai $250.000 per pelanggaran.
Beberapa perusahaan telah mulai mengambil langkah pencegahan untuk mematuhi regulasi ini. Contohnya, OpenAI telah memperkenalkan kontrol orang tua dan sistem deteksi dini untuk mengenali perilaku menyakiti diri di kalangan pengguna muda. Replika, yang menargetkan pengguna berusia di atas 18 tahun, juga menegaskan komitmennya untuk melindungi pengguna dengan menyaring konten dan mengarahkan mereka ke lembaga krisis.
Dukungan dari Pembuat Kebijakan dan Respon Publik
Senator Padilla menganggap pengesahan undang-undang ini sebagai langkah penting dalam melindungi masyarakat dari dampak negatif teknologi yang berkembang pesat. Dia berharap negara bagian lain akan mengikuti langkah California, terutama mengingat kurangnya regulasi yang komprehensif di tingkat federal. Sebelumnya, pada 29 September 2025, Gubernur Newsom juga menandatangani undang-undang lain, SB 53, untuk meningkatkan transparansi perusahaan AI mengenai protokol keselamatan.
Dalam menghadapi perkembangan teknologi yang cepat, kebutuhan untuk memastikan perlindungan khusus bagi kelompok rentan semakin mendesak. Beberapa negara bagian lain, seperti Illinois dan Utah, juga telah mulai mengambil inisiatif untuk membatasi penggunaan chatbot AI dalam konteks kesehatan mental.
Dengan langkah-langkah yang diambil California ini, diharapkan akan tercipta lingkungan yang lebih aman bagi pengguna, terutama anak-anak, di midst era kecerdasan buatan yang terus berkembang ini. Pendekatan yang hati-hati dan terukur dalam pengaturan penggunaan teknologi AI dapat menjadi model bagi upaya negara lain dalam mengatasi tantangan serupa.
Source: teknologi.bisnis.com
-
-
-
-
