AI disalah guna jana pornografi kanak-kanak, peras ugut remaja – Pakar Keselamatan Digital

• Golongan pedofilia memanfaatkan teknologi kecerdasan buatan (AI) menghasilkan dan mengedarkan imej seksual kanak-kanak di internet.
• Salah satu teknik yang digunakan adalah dengan mengubah suai gambar seorang remaja berpakaian penuh menjadi gambar bogel, kemudian gambar itu digunakan untuk memeras ugut.
• “Jika saya tidak berada dalam industri ini, saya tidak tahu adakah saya akan sedar sepenuhnya ke mana ini boleh pergi dan apa yang boleh dilakukan sebagai ibu bapa,” – Pakar Keselamatan Digital Canopy, Yaron Litwin.

Kemajuan pesat program kecerdasan buatan (AI) yang mampu menghasilkan imej realistik kini disalah gunakan bagi mengeksploitasi kanak-kanak dan remaja, demikian lapor Fox News.

Menurut Pakar Keselamatan Digital Canopy, Yaron Litwin, golongan pedofilia memanfaatkan teknologi itu dalam pelbagai cara, selalunya bertujuan menghasilkan dan mengedarkan imej seksual kanak-kanak di internet.

Canopy merupakan syarikat penyelesaian AI terkemuka untuk memerangi kandungan digital yang berbahaya.

Salah satu teknik yang digunakan adalah dengan mengubah suai gambar seorang remaja berpakaian penuh menjadi gambar bogel.

Yaron menjelaskan satu contoh kejadian yang benar-benar terjadi di mana seorang remaja lelaki berusia 15 tahun yang meminati bidang kecergasan menyertai kumpulan kecergasan atas talian.

Dia kemudian berkongsi gambar menunjukkan tubuhnya selepas bersenam, menyangkakan gambar itu selamat diperlihatkan kepada komuniti kecergasan.

Malangnya, gambar itu disunting menjadi gambar bogel dan digunakan untuk memeras ugut remaja itu.

Tambah Yaron, proses menyunting imej yang menjadi sangat mudah dan pantas dengan AI sering membawa kepada pengalaman mengerikan untuk keluarga.

Kemudahan teknologi itu juga mencetuskan penciptaan imej eksploitasi seksual kanak-kanak yang direka sepenuhnya, tidak bergantung pada gambar asli.

Foto: Gambar sekadar hiasan.

“Ini bukan kanak-kanak sebenar,” kata Yaron.

“Ini adalah kanak-kanak yang dijana melalui AI. Dan memandangkan algoritma AI ini menerima lebih banyak imej sebegini, ia pada dasarnya boleh memperbaiki dirinya sendiri, dengan cara yang negatif,” katanya.

Disebabkan terlalu banyak bahan lucah yang dijana, semakin sukar untuk menyekat dan menapis imej-imej sedemikian.

Perkara itu sekaligus menjadikan kanak-kanak lebih terdedah kepada kandungan berbahaya.

“Jika saya tidak berada dalam industri ini, saya tidak tahu adakah saya akan sedar sepenuhnya ke mana ini boleh pergi dan apa yang boleh dilakukan sebagai ibu bapa,” kata Yaron.

Sumber: Fox News