Jakarta (20/11) — Anggota Komisi XI DPR RI, Amin Ak, mengingatkan perbankan nasional agar memperkuat kedaulatan digital dan serius mengelola risiko kecerdasan buatan (artificial intelligence/AI). Menurutnya, inovasi AI tanpa kendali yang memadai bisa memicu risiko besar bagi sistem keuangan.
Peringatan ini merujuk pada laporan Digital Sovereign AI and the Future of Trusted Banking dari PERBANAS, IBM, dan Kiara.
Politisi PKS yang menjadi Wakil Ketua Badan Akuntabilitas Keuangan Negara (BAKN) DPR RI itu menegaskan bahwa kedaulatan digital tidak berhenti pada tempat data disimpan. Bank harus bisa membuktikan bahwa mereka mengendalikan data, model AI, dan keputusan yang dihasilkan sistemnya.
Pandangan ini sejalan dengan 70% bankir Indonesia yang memaknai kedaulatan digital sebagai kendali atas data, teknologi, dan sistem.
Laporan tersebut menunjukkan adanya kesenjangan antara kesadaran dan kesiapan kalangan perbankan nasional. Laporan menyebutkan bahwa sebanyak 73% bankir menilai kedaulatan digital sebagai prioritas strategis.
Selain itu, kematangan tata kelola AI baru mencapai 55%, atau skor 2,74 dari 5. Fakta lainnya, hanya 4% bank yang menerapkan AI dengan tata kelola formal secara menyeluruh.
“Ini celah yang harus segera direspons oleh pemerintah, regulator, dan pelaku industri,” ujar Amin.
Bank Besar AS Blokir Agen AI
Kekhawatiran ini nyata seiring maraknya agen AI pribadi, seperti Meta Muse, yang dapat mengurus transaksi perbankan atas nama nasabah. Citigroup, Bank of America, dan Morgan Stanley baru-baru ini memblokir akses agen AI pihak ketiga ke akun nasabah.
Sebabnya, agen tersebut masuk menggunakan username dan password nasabah. Praktik ini mengaburkan tanggung jawab atas transaksi.
Bank khawatir dana nasabah dipindahkan tanpa kendali pemilik akun demi mengejar bunga lebih tinggi, dan bank menanggung akibatnya bila terjadi kesalahan perintah atau aktivitas tidak sah.
“Begitu AI memegang kata kunci dan nama pengguna, agen AI berpotensi bertindak terlalu jauh di luar kendali pemegang akun,” tegasnya.
Namun, melarang agen AI bukanlah solusi. Bank yang menjauhi AI berisiko kehilangan daya saing.
Wakil rakyat dari Daerah Pemilihan Jawa Timur IV (Jember dan Lumajang) itu mendorong perbankan nasional menerapkan tiga langkah penting.
Pertama, personal agent protocol dan autentikasi OAuth. Bank dapat mengenali agen AI secara resmi dan membatasi aksesnya, misalnya hanya untuk melihat saldo. Nasabah tidak perlu lagi membagikan kata sandi.
Kedua, perlindungan privasi dan aliran data lintas batas. Sebanyak 82% bankir menilai privasi data sebagai risiko AI paling kritis, di atas keamanan siber (44%) dan regulasi (41%). Data nasabah berisiko keluar negeri saat aplikasi bank mengakses model AI melalui API milik penyedia asing.
Bank perlu mematuhi UU Perlindungan Data Pribadi (UU PDP) dan mengawasi kontrak teknologi agar data domestik tidak bebas digunakan untuk melatih model pihak ketiga.
Ketiga, percepatan peta jalan dan etika AI. Bank tidak boleh hanya mengandalkan evaluasi bawaan penyedia AI asing, tetapi harus menguji bias, keamanan, dan etika model dengan data dan konteks lokal Indonesia.
“Kami di DPR mendorong semua pemangku kepentingan terus mengawasi transformasi digital dan memastikan adopsi AI, termasuk pendelegasian transaksi lewat asisten pintar, memajukan ekonomi digital tanpa mengorbankan keamanan nasabah dan kedaulatan negara,” pungkasnya.