Rajaberita.info - Penggunaan _agentic artificial intelligence_ _(agentic AI)_ yang dapat memproses data dan mengambil keputusan secara mandiri menuntut perusahaan mengenali agen AI yang berinteraksi dengan pelanggan maupun sistem bisnisnya.
Wakil Menteri Komunikasi dan Digital Nezar Patria menekankan pentingnya pendekatan _Know Your Agent_ (KYA) untuk mengantisipasi risiko penyalahgunaan data dan tindakan agen AI yang melampaui batas kewenangannya.
“Bukan lagi KYC, _Know Your Customer,_ tapi harus ada KYA, _Know Your Agent,”_ ujar Wamen Nezar dalam Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat, Kamis (15/10/2026).
Wamen Nezar Patria menjelaskan perusahaan semakin banyak menggunakan _agentic_ AI untuk membantu layanan pelanggan, transaksi, dan berbagai proses bisnis.
Teknologi ini tidak hanya mengandalkan model AI generatif, tetapi juga dilengkapi algoritma dan otorisasi untuk memproses data serta menjalankan tindakan tertentu.
“Dengan mesin bisa membuat keputusan sendiri, risiko meningkat,” katanya.
Menurut Wamen Nezar, penggunaan agen AI perlu diikuti pemahaman mengenai identitas, kepemilikan, dan batas kewenangannya.
Hal ini penting karena agen AI dapat berinteraksi dengan sistem perusahaan dan memproses data berdasarkan otorisasi yang diberikan.
“Kadang ada _agentic_ AI yang mungkin dia akan mem _-bypass_ sejumlah peraturan-peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak,” ungkap Wamen Nezar.
Ia menilai perusahaan perlu mengantisipasi risiko tersebut seiring meluasnya penggunaan agen AI, termasuk ketika teknologi ini digunakan untuk berinteraksi dengan pelanggan atau menjalankan transaksi.
“Karena nanti yang akan berhubungan dengan Bapak/Ibu sekalian bukan lagi orang, ada juga _agentic_ AI lain yang akan bertanya ataupun akan masuk, atau individu yang punya _agentic_ AI,” ujarnya.
Wamen Nezar juga mengingatkan bahwa penggunaan AI perlu memperhatikan pelindungan data pribadi.
Menurutnya, risiko kebocoran dan penyalahgunaan data tidak hanya berkaitan dengan keamanan sistem, tetapi juga dapat muncul dari cara teknologi baru diberi akses dan kewenangan untuk memproses data.
Oleh karena itu, ia menekankan arti penting penerapan prinsip _security by design_ dan _privacy by design_ sejak tahap perancangan sistem.
“Kedua prinsip tersebut, perlu menjadi bagian dari upaya perusahaan memastikan pemrosesan data berjalan sejalan dengan ketentuan pelindungan data pribadi,” tegasnya.
Wamenkomdigi Nezar Patria menyatakan pemerintah terbuka terhadap masukan dari pelaku usaha mengenai persoalan baru yang muncul dalam penerapan teknologi.
“Masukan tersebut diperlukan untuk membantu mengidentifikasi risiko dan mendalami kebutuhan pengaturan teknis seiring perkembangan AI,” ungkapnya (Putra).
Komentar
Posting Komentar