Jakarta menjadi sorotan dalam upaya membangun ketahanan digital nasional yang sangat penting di era masifnya adopsi Artificial Intelligence (AI). Sementara teknologi ini menawarkan peluang yang besar, risiko kebocoran data dan ancaman terhadap privasi juga meningkat tajam. Dalam hal ini, Peruri, sebagai Badan Usaha Milik Negara (BUMN) yang berfokus pada teknologi keamanan, menegaskan komitmennya untuk memperkuat ekosistem digital Indonesia guna mendukung visi Indonesia Emas 2045.
Data dari IBM Report menunjukkan bahwa 74 persen organisasi akan mengalami kebocoran terkait AI pada tahun 2024. Angka ini meningkat 67 persen dari tahun sebelumnya, sebagian besar disebabkan ketiadaan kebijakan tata kelola AI yang jelas. Ini menunjukkan betapa mendesaknya kebutuhan akan regulasi dan standar yang kuat untuk memastikan bahwa adopsi AI berlangsung secara aman dan dapat mendukung keberlanjutan bisnis.
Farah Fitria Rahmayanti, Direktur Digital Business Peruri, mengungkapkan pentingnya penerapan prinsip Privacy by Design dalam pengembangan teknologi berbasis AI. Ia menyatakan bahwa privasi harus diintegrasikan sejak awal perancangan sistem, bukan dianggap sekadar fitur tambahan. “Prinsip ini seperti sabuk pengaman yang dipasang pada mobil saat dirakit, bukan setelah kendaraan selesai dibuat,” tegasnya dalam AI Innovation Summit 2025 yang berlangsung pada 20 September.
Dalam konteks generatif AI, Farah juga menyebutkan pentingnya prinsip kedaulatan data sebagai panduan praktis untuk adopsi yang aman. Beberapa langkah yang disarankan meliputi penerapan Zero-Trust Data Input, penggunaan layanan AI kelas enterprise dengan zero data retention, anonimisasi data sensitif, dan pengembangan panduan internal untuk penyusunan prompt agar tidak mengandung informasi rahasia.
Sebaliknya, ada praktik yang perlu dihindari oleh organisasi. Di antaranya adalah penggunaan shadow AI oleh karyawan, unggahan dokumen internal ke platform publik, serta pengabaian analisis kontrak dan syarat layanan, yang dapat menambah kerentanan terhadap serangan seperti prompt injection.
Peruri mengarahkan setiap layanan digital yang dikembangkannya agar tidak hanya nyaman dan stabil, tetapi juga aman. Ambisi mereka adalah menciptakan ekosistem AI yang tidak hanya berkelanjutan dan beretika, tetapi juga mendukung tujuan besar Indonesia Emas 2045.
Transformasi yang dijalani Peruri selama beberapa tahun terakhir mencerminkan komitmennya untuk membangun fondasi kepercayaan digital di Indonesia. Dengan memberikan perhatian yang signifikan terhadap regulasi dan penguasaan teknologi AI, Peruri yakin bahwa ekosistem AI yang berkelanjutan dan dapat dipercaya akan terbangun.
Dalam upaya mewujudkan hal ini, semua pihak diharapkan untuk berkolaborasi dan berkomitmen terhadap keamanan dan etika dalam penggunaan AI. Dengan demikian, ekosistem digital Indonesia tidak hanya akan menjadi lebih canggih tetapi juga aman dan dapat diandalkan oleh seluruh masyarakat. Kunci keberhasilan terletak pada kebijakan yang kuat, implementasi yang hati-hati, dan kesadaran akan potensi risiko yang ada. Dan di tengah laju inovasi teknologi yang semakin cepat, penting bagi semua pemangku kepentingan untuk menghadapi tantangan ini dengan proaktif.
