Voice Cloning dan Hilangnya Kendali atas Identitas Digital
Selain deepfake, Tegar juga menyoroti maraknya penggunaan teknologi AI Voice Cloning yang memungkinkan suara seseorang ditiru dengan tingkat kemiripan sangat tinggi.
Belakangan, teknologi ini kerap digunakan untuk membuat konten digital maupun iklan dengan memanfaatkan suara tokoh publik tanpa izin. Bahkan di sejumlah negara, voice cloning telah dimanfaatkan untuk melakukan penipuan yang menyebabkan kerugian finansial bagi korban.
Menurutnya, praktik tersebut bukan sekadar persoalan teknologi, melainkan juga menyangkut hak atas identitas personal.
“Suara merupakan bagian dari identitas seseorang. Ketika suara seseorang dapat direplikasi dan digunakan tanpa izin, maka individu kehilangan kontrol atas identitas digitalnya sendiri. Ini menjadi tantangan baru yang harus segera direspons oleh regulator,” katanya.
Pekerja Kreatif Mulai Terdesak
Dampak lain yang mulai terasa adalah tekanan terhadap sektor ekonomi kreatif. Saat ini, banyak perusahaan mulai memanfaatkan AI generatif untuk menghasilkan desain, ilustrasi, hingga konten tulisan yang sebelumnya dikerjakan manusia.
Akibatnya, sejumlah pekerja kreatif menghadapi persaingan baru dengan teknologi yang mampu bekerja lebih cepat dan murah.
Tegar menilai kondisi tersebut menimbulkan dilema antara efisiensi ekonomi dan keadilan sosial.
“Kita tidak bisa menolak kemajuan teknologi, tetapi harus ada perlindungan terhadap pekerja kreatif. Jika seluruh proses kreatif digantikan oleh AI tanpa kebijakan yang jelas, maka risiko pengangguran dan ketimpangan ekonomi digital akan semakin besar,” ujarnya.
Regulasi AI Dinilai Sudah Mendesak
Melihat berbagai persoalan yang muncul, Tegar menilai Indonesia perlu segera memiliki regulasi AI yang mampu mengatur berbagai aspek penting, mulai dari etika penggunaan teknologi, perlindungan data pribadi, hak kekayaan intelektual, hingga tanggung jawab platform digital.
Menurutnya, keberadaan regulasi bukan untuk menghambat inovasi, melainkan memastikan perkembangan teknologi tetap memberikan manfaat bagi masyarakat.
“Kita membutuhkan keseimbangan antara inovasi dan etika. AI harus menjadi alat untuk meningkatkan kesejahteraan manusia, bukan justru menjadi sumber disinformasi, eksploitasi ekonomi, dan manipulasi sosial. Karena itu, regulasi yang lebih kuat sudah menjadi kebutuhan mendesak,” tegasnya.
Selain pembentukan regulasi, ia juga menekankan pentingnya peningkatan literasi AI dan literasi digital masyarakat agar publik mampu memahami manfaat sekaligus risiko teknologi secara kritis.
Di tengah percepatan transformasi digital, keberhasilan pemanfaatan AI tidak hanya ditentukan oleh kecanggihan teknologinya. Lebih dari itu, masa depan teknologi ini akan sangat bergantung pada kemampuan pemerintah, industri, dan masyarakat dalam menjaga keseimbangan antara inovasi, etika, serta kepentingan publik.
