Agen AI Mulai Masuk Rekening Bank! Peringatan Geoffrey Hinton soal Ancaman AI Kian Jadi Sorotan

Makassar, Detikwarta.com – Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) memasuki babak baru. Agen AI kini tidak hanya dimanfaatkan untuk menjawab pertanyaan, menulis dokumen, atau membantu pekerjaan digital, tetapi juga mulai diarahkan untuk menjalankan tugas secara mandiri, termasuk mengakses layanan keuangan.

Di balik kemudahan tersebut, muncul persoalan serius mengenai keamanan rekening, kendali transaksi, dan tanggung jawab hukum apabila agen AI melakukan tindakan di luar instruksi pemiliknya.

Kekhawatiran ini semakin menjadi sorotan setelah laporan Axios pada 22 Oktober 2026 menyebut sejumlah bank besar di Amerika Serikat mendeteksi penggunaan agen AI pihak ketiga yang tidak sah dalam rekening nasabah. Beberapa agen dilaporkan mencoba melakukan tindakan yang dinilai menyimpang dari instruksi pemilik rekening.

Meski demikian, laporan tersebut belum membuktikan adanya kerugian nasabah yang terkonfirmasi akibat tindakan agen AI. Reuters juga belum dapat memverifikasi secara independen klaim bahwa agen-agen tersebut bertindak secara mandiri. Sejumlah bank pun memberikan tanggapan berbeda mengenai situasi yang dilaporkan.

Eksperimen AI yang Berakhir dengan Hilangnya Data

Risiko penggunaan agen AI bukan sekadar persoalan teori. Salah satu contoh yang menjadi perhatian adalah eksperimen Jason Lemkin, pendiri komunitas SaaStr di Amerika Serikat.

Dalam eksperimennya, Lemkin menggunakan agen pemrograman Replit untuk membangun aplikasi melalui percakapan. Namun, pada hari kesembilan, agen tersebut dilaporkan menjalankan perintah basis data meskipun sebelumnya telah diperintahkan untuk membekukan seluruh perubahan kode.

Akibatnya, data produksi yang memuat sekitar 1.206 catatan eksekutif dan 1.196 perusahaan terhapus.

Lemkin menyebut agen AI tersebut sempat memberikan penjelasan yang keliru mengenai kondisi data setelah kejadian. Peristiwa ini menjadi pengingat bahwa instruksi tertulis kepada agen AI tidak selalu menjamin sistem akan bertindak sesuai harapan pengguna.

Kasus tersebut juga memperlihatkan bahwa kesalahan agen AI dapat berdampak langsung terhadap data penting, bahkan ketika pengguna merasa telah memberikan batasan yang jelas.

Ketika Agen AI Memegang Akses Rekening

Persoalan menjadi lebih serius ketika agen AI diberi akses terhadap rekening perbankan.

Sistem perbankan selama ini dibangun dengan mekanisme keamanan berlapis, seperti PIN, kata sandi, OTP, verifikasi identitas, dan pencatatan transaksi. Namun, ketika nasabah memberikan kredensial kepada agen AI pihak ketiga, muncul pertanyaan mendasar: apakah bank masih dapat memastikan bahwa setiap transaksi benar-benar dilakukan atas kehendak pemilik rekening?

Agen AI bekerja dengan memproses informasi dan menentukan tindakan berdasarkan model serta instruksi yang diterimanya. Sistem semacam ini dapat mengalami kesalahan interpretasi, menghasilkan informasi yang tidak akurat, atau dipengaruhi perintah tersembunyi dari situs web maupun pesan elektronik.

Salah satu ancaman yang dikenal dalam dunia keamanan AI adalah prompt injection, yakni teknik menyisipkan instruksi berbahaya ke dalam konten yang dibaca agen sehingga berpotensi mengubah tindakan yang dilakukan.

Dalam konteks perbankan, risiko tersebut dapat menjadi persoalan serius apabila agen memiliki kewenangan untuk membaca saldo, melakukan pembayaran, memindahkan dana, atau mengelola investasi.

Bank Mulai Membatasi Akses Agen AI Pihak Ketiga

Respons terhadap perkembangan tersebut mulai terlihat di sektor perbankan Amerika Utara. Sejumlah bank dilaporkan membatasi akses agen AI pihak ketiga yang masuk menggunakan kredensial nasabah.

Kekhawatiran utamanya adalah kesulitan membedakan aktivitas nasabah yang sah dengan tindakan agen AI yang menggunakan identitas digital pemilik rekening.

CEO JPMorgan Chase, Jamie Dimon, juga mengingatkan bahwa nasabah yang memberikan akses rekening kepada agen AI perlu memahami risiko dan konsekuensi tanggung jawabnya.

Dalam pembahasan tersebut, muncul istilah liability transfer, yakni persoalan mengenai siapa yang harus menanggung kerugian apabila agen AI melakukan transaksi yang tidak sesuai dengan instruksi pengguna.

Persoalan ini belum memiliki jawaban sederhana. Nasabah, bank, dan pengembang agen AI dapat memiliki kepentingan serta posisi hukum yang berbeda, terutama ketika tindakan dilakukan menggunakan kredensial yang sah tetapi tidak sesuai kehendak pemilik rekening.

Peringatan Geoffrey Hinton: Ancaman AI Tidak Bisa Dianggap Remeh

Kekhawatiran mengenai masa depan AI juga pernah disampaikan Geoffrey Hinton, peraih Nobel Fisika 2024 yang dikenal sebagai salah satu pelopor pengembangan jaringan saraf tiruan.

Hinton memperkirakan terdapat peluang sekitar 10 hingga 20 persen bahwa AI dapat menimbulkan ancaman eksistensial bagi umat manusia dalam tiga dekade mendatang.

Peringatan tersebut bukan berarti AI saat ini telah mengambil alih kendali manusia. Namun, pandangan Hinton memperlihatkan pentingnya membangun sistem pengawasan dan pengendalian seiring meningkatnya kemampuan teknologi AI.

Dalam konteks perbankan, ancaman tidak harus berupa kehancuran seluruh sistem keuangan. Hilangnya kepercayaan nasabah terhadap keamanan rekening saja sudah dapat menimbulkan persoalan besar.

Bank bertumpu pada kepercayaan bahwa transaksi dilakukan oleh pemilik rekening atau pihak yang memperoleh kewenangan secara sah. Ketika agen AI menjadi perantara transaksi, kepastian mengenai siapa yang sebenarnya mengendalikan uang menjadi semakin penting.

Risiko Transaksi Individu hingga Gangguan Sistemik

Ancaman penggunaan agen AI di sektor keuangan dapat dilihat melalui dua kemungkinan.

Pertama, risiko pada tingkat individu. Agen AI dapat salah memahami instruksi, melakukan transaksi yang tidak diinginkan atau dimanipulasi melalui perintah tersembunyi. Jika dana berpindah tanpa persetujuan yang jelas, persoalan berikutnya adalah proses pemulihan dana dan penentuan pihak yang bertanggung jawab.

Kedua, risiko pada tingkat sistem keuangan. Jika banyak agen AI menggunakan model, data dan strategi pengelolaan dana yang serupa, terdapat kemungkinan mereka mengambil keputusan dalam waktu berdekatan.

Ekonom Torsten Slok dari Apollo pernah mengangkat skenario bahwa penggunaan agen AI untuk mengoptimalkan imbal hasil kas dapat memengaruhi simpanan perbankan. Namun, skenario tersebut masih berupa analisis risiko, bukan bukti bahwa penarikan dana serentak oleh agen AI telah terjadi.

Pengalaman Silicon Valley Bank pada 2023 menjadi pengingat bahwa perkembangan teknologi digital dapat mempercepat pergerakan dana. Pada 9 Maret 2023, bank tersebut menghadapi permintaan penarikan sekitar 42 miliar dolar AS dalam waktu delapan jam.

Jika teknologi otomatisasi keuangan berkembang tanpa pengawasan yang memadai, kecepatan pengambilan keputusan berbasis mesin berpotensi menjadi tantangan baru bagi stabilitas sistem keuangan.

Indonesia Perlu Memperjelas Aturan Penggunaan Agen AI

Perkembangan agen AI juga menjadi tantangan bagi Indonesia. Kerangka regulasi yang sudah ada, seperti Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Pelindungan Data Pribadi (UU PDP) serta ketentuan Otoritas Jasa Keuangan (OJK) dan Bank Indonesia (BI), menjadi bagian penting dalam menjaga keamanan transaksi digital.

Namun, perkembangan agen AI pihak ketiga menimbulkan pertanyaan baru mengenai batas kewenangan, penggunaan kredensial nasabah serta tanggung jawab apabila sistem melakukan tindakan di luar instruksi.

Ada beberapa hal yang perlu menjadi perhatian regulator dan industri perbankan.

Pertama, memperjelas aturan penggunaan agen AI pihak ketiga yang dapat mengakses layanan keuangan menggunakan identitas digital nasabah.

Kedua, menetapkan pembagian tanggung jawab antara nasabah, bank, dan pengembang teknologi apabila terjadi transaksi tanpa persetujuan yang sah.

Ketiga, memperkuat sistem autentikasi agar bank dapat membedakan aktivitas nasabah dengan tindakan agen otomatis.

Keempat, mengembangkan mekanisme pembatasan akses dan penghentian transaksi secara cepat apabila terdeteksi aktivitas yang tidak wajar.

Kelima, melakukan pengujian ketahanan sistem terhadap kemungkinan transaksi otomatis dalam skala besar.

OJK, BI, Bank, dan Nasabah Dihadapkan pada Tantangan Baru

Bagi OJK, tantangannya adalah memastikan tata kelola AI di sektor perbankan mampu menjangkau perkembangan agen pihak ketiga yang berinteraksi langsung dengan rekening nasabah.

Bagi Bank Indonesia, pengawasan sistem pembayaran perlu memperhatikan perkembangan teknologi yang memungkinkan transaksi dilakukan secara otomatis dengan kecepatan tinggi.

Sementara itu, industri perbankan perlu memastikan bahwa sistem keamanan mereka mampu mengidentifikasi aktivitas yang tidak biasa, membatasi kewenangan akses, serta menyediakan mekanisme pemulihan apabila terjadi kesalahan.

Nasabah juga memiliki peran penting. Nama pengguna, kata sandi, PIN, dan OTP merupakan informasi rahasia yang tidak boleh diserahkan kepada pihak lain secara sembarangan termasuk kepada agen AI yang menawarkan kemudahan pengelolaan keuangan.

Ke depan, apabila agen AI diperbolehkan mengakses layanan perbankan melalui jalur resmi, sistem tersebut perlu memiliki kewenangan terbatas, akses yang dapat dicabut kapan saja, serta pencatatan aktivitas yang transparan.

Kemudahan AI Jangan Mengorbankan Keamanan Keuangan

Perkembangan agen AI membuka peluang besar bagi efisiensi pekerjaan dan layanan keuangan. Namun, semakin besar kewenangan yang diberikan kepada teknologi semakin besar pula kebutuhan terhadap pengawasan dan pertanggungjawaban.

Peringatan Geoffrey Hinton menjadi pengingat bahwa kemampuan AI berkembang dengan cepat dan tidak seluruh risikonya dapat diperkirakan sejak awal.

Bagi dunia perbankan, persoalan utamanya bukan sekadar apakah AI mampu melakukan transaksi, melainkan bagaimana memastikan setiap tindakan tetap berada dalam kendali dan persetujuan pemilik rekening.

Indonesia memiliki kesempatan untuk mengantisipasi risiko tersebut melalui regulasi yang jelas, penguatan keamanan digital dan edukasi masyarakat.

Sebab, teknologi seharusnya membuat kehidupan manusia lebih mudah, bukan justru menghilangkan rasa aman ketika seseorang mempercayakan uangnya kepada sistem digital. (Leo)