Waspada terhadap penipuan internet guna AI

• Penggodaman dan penipuan dalam talian kini beralih kepada penggunaan kecerdasan buatan (AI) bagi mencipta perisian palsu, mendraf e-mel pancingan data yang meyakinkan dan menyebarkan maklumat salah menerusi internet.
• Ketua Pusat Keselamatan Siber Kanada, Sami Khoury, perkembangan itu menunjukkan bukti awal bahawa revolusi teknologi yang melanda Lembah Silikon kini turut digunakan secara meluas oleh penjenayah siber.
• Katanya, agensinya melihat bagaimana AI digunakan dalam e-mel ‘phishing’ pancingan data atau mencipta e-mel dengan cara yang lebih tertumpu dalam kod berniat jahat dan maklumat yang salah.
• “Kebimbangan saya ialah model AI berkembang dengan begitu pantas sehingga ia sukar untuk mengendalikan sebarang cubaan potensi jahat. Siapa tahu apa lagi yang boleh dilakukan dengan AI,” katanya.

OTTAWA – Penggodaman dan penipuan dalam talian kini beralih kepada penggunaan kecerdasan buatan (AI) bagi mencipta perisian palsu, mendraf e-mel pancingan data yang meyakinkan dan menyebarkan maklumat salah menerusi internet.

Ketua Pusat Keselamatan Siber Kanada, Sami Khoury, perkembangan itu menunjukkan bukti awal bahawa revolusi teknologi yang melanda Lembah Silikon kini turut digunakan secara meluas oleh penjenayah siber.

Katanya, agensinya melihat bagaimana AI digunakan dalam e-mel ‘phishing’ pancingan data atau mencipta e-mel dengan cara yang lebih tertumpu dalam kod berniat jahat dan maklumat yang salah.

“Walaupun penggunaan AI untuk mendraf kod berniat jahat masih pada peringkat awal, pasti ada cara untuk ke peringkat seterusnya kerana ia memerlukan lebih banyak masa untuk menulis eksploitasi yang baik.

“Kebimbangan saya ialah model AI berkembang dengan begitu pantas sehingga ia sukar untuk mengendalikan sebarang cubaan potensi jahat. Siapa tahu apa lagi yang boleh dilakukan dengan AI,” katanya.

Bagaimanapun, Khoury tidak memberikan butiran atau bukti, tetapi mendakwa bahawa penjenayah siber sudah menggunakan AI, sekali gus menambah kebimbangan terhadap penggunaan teknologi itu.

Sejak beberapa bulan kebelakangan ini, beberapa kumpulan pemerhati siber menerbitkan laporan yang memberi amaran mengenai risiko hipotesis AI.

Terutama dalam program pemprosesan bahasa yang pesat membangun dikenali sebagai model bahasa besar (LLM), yang menggunakan jilid besar teks untuk menghasilkan dialog, dokumen meyakinkan dan banyak lagi.

Mac lalu, pertubuhan Polis Eropah atau Europol menerbitkan laporan bahawa model seperti OpenAI’s, ChatGPT kini memungkinkan ‘penyamaran sebagai pertubuhan atau individu secara realistik walaupun dengan hanya memahami asas bahasa Inggeris’.

Pusat Keselamatan Siber Kebangsaan Britain berkata, terdapat risiko bahawa penjenayah ‘mungkin menggunakan LLM bagi membantu serangan siber di luar kemampuan mereka’.

Minggu lalu, seorang bekas penggodam berkata, dia menemui LLM yang menjurus kepada bahan berniat jahat dan memintanya merangka percubaan yang meyakinkan untuk menipu seseorang supaya membuat pemindahan tunai.

LLM memberi maklum balas dengan menyediakan e-mel tiga perenggan meminta bantuan segera daripada mangsa yang disasarkan, lengkap bersama invois menuntut bayaran segera, menyamai tuntutan bayaran mana-mana syarikat.

Khoury berkata, walaupun penggunaan AI untuk mendraf kod perisian hasad atau ‘malware’ masih pada peringkat awal, risiko ia boleh disalahgunakan dan kepantasan perkembangannya amat membimbangkan.

Pembuatan model AI berlaku dengan begitu pesat dan memasuki alam maya sehingga menyukarkan pemantauan dan pengesanan perisian hasad AI sebelum ia beroperasi.

“Berdasarkan pembangunan yang kita lihat sekarang, sukar bagi meramalkan apa yang bakal menanti kita di alam maya pada masa depan,” katanya.

Sumber: Berita Harian