“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegasnya.
Nezar juga menyoroti perkembangan agentic AI, yakni teknologi AI yang memiliki kemampuan melakukan penalaran dan mengambil keputusan secara mandiri.
Menurutnya, perkembangan ini harus diimbangi dengan penerapan prinsip human in the loop, yaitu memastikan manusia tetap memiliki kendali dalam setiap keputusan penting yang dihasilkan AI.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Prinsip tersebut dinilai penting untuk mencegah penyalahgunaan teknologi yang dapat berdampak luas terhadap kehidupan masyarakat.
Lebih lanjut, Nezar menilai pendekatan etika dalam pengembangan AI tidak lagi cukup bersifat sukarela. Industri teknologi perlu menerapkan prinsip etika sejak tahap awal perancangan sistem atau ethics by design.
Beberapa prinsip yang harus menjadi perhatian utama meliputi transparansi, akuntabilitas, hingga aspek keamanan.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tandasnya.
Ia pun mendorong kolaborasi antara pemerintah, pengembang teknologi, akademisi, pelaku industri, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak awal.
Menurut Nezar, forum Indonesia Ethical AI Summit dapat menjadi momentum penting untuk merumuskan arah kebijakan AI yang lebih bertanggung jawab di Indonesia.
“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkasnya.
