Kecerdasan buatan tidak semestinya mencipta bentuk jenayah baharu, namun teknologi itu membolehkan taktik sedia ada seperti penipuan, pancingan data dan kecurian maklumat dilaksanakan dengan lebih mudah serta kos yang lebih rendah. Pengarah Inovasi AI Malaysia, Mohd Alhafidz Yahya berkata, kegiatan yang sebelum ini mungkin memerlukan sebuah sindiket atau pusat panggilan kini boleh dilakukan oleh individu dengan bantuan teknologi AI.
Keupayaan AI menghasilkan mesej yang lancar, meyakinkan dan disesuaikan mengikut latar belakang mangsa menjadikan cubaan penipuan semakin sukar dikenal pasti. Jika sebelum ini mesej penipuan dalam Bahasa Melayu mudah dikesan melalui struktur ayat yang janggal, teknologi tersebut kini mampu menghasilkan bahasa lebih tersusun dan bersasar, selain meniru suara serta wajah seseorang hanya menggunakan sampel rakaman yang singkat.
Risiko berkenaan turut dihadapi syarikat dan organisasi apabila penjenayah boleh menyamar sebagai pegawai atasan atau individu tertentu untuk mengarahkan pemindahan wang. Pada masa sama, laporan syarikat teknologi Anthropic mendedahkan penyalahgunaan AI dalam satu operasi komersial yang menyasarkan pengundi di Malaysia, namun pihak yang menempah atau membiayai operasi berkenaan tidak dikenal pasti dan tiada bukti bahawa kandungannya sampai kepada golongan sasaran.
Mohd Alhafidz menjelaskan bahawa tahap keselamatan sesebuah sistem AI boleh berbeza mengikut bahasa kerana jumlah serta kedalaman pengujian yang dilakukan tidak semestinya sama. Sistem yang mempunyai kawalan keselamatan kukuh apabila digunakan dalam bahasa Inggeris belum tentu menawarkan perlindungan setara dalam Bahasa Melayu, sekali gus menimbulkan keperluan untuk melakukan penilaian lebih menyeluruh terhadap model AI yang digunakan oleh masyarakat tempatan.
Bagi menangani cabaran tersebut, AI Safety Institute atau My AI SAFE di bawah AI Malaysia sedang menguji model serta sistem AI, termasuk penggunaannya dalam Bahasa Melayu, bagi memastikan tahap keselamatannya sesuai. Kerajaan juga sedang memuktamadkan Rang Undang-Undang Tadbir Urus AI selepas proses konsultasi awam selesai, dengan perundangan itu dijangka dibentangkan sekitar 2027 bagi mewujudkan asas pembangunan dan penggunaan AI yang lebih bertanggungjawab.
