Ilustrasi teknologi AI ChatGPT digunakan untuk membuat email phishing.
Nextren.com - Perkembangan teknologi artificial intelligence (AI) semakin pesat sejak pengenalan chatbot serba bisa ChatGPT pada akhir tahun lalu.
AI ChatGPT adalah teknologi yang dapat membuka peluang baru dan juga menimbulkan ancaman keamanan yang lebih canggih.
ChatBot AI ChatGPT mampu melakukan banyak hal termasuk mensimulasikan percakapan manusia dengan bahasa yang natural.
Para ahli dan pengamat di bidang teknologi telah mengkhawatirkan dampak dari alat bantu pembuatan konten yang dihasilkan oleh AI terhadap keamanan jaringan sejak diperkenalkan pada November 2022.
Pasalnya, alat ini sangat efisien dan lebih sulit dideteksi daripada aktivitas yang dilakukan manusia.
Baca Juga: Pendiri OpenAI Khawatir ChatGPT Berpotensi Hilangkan Pekerjaan
Dalam konferensi keamanan Black Hat dan Defcon baru-baru ini, sebuah demonstrasi dari peretasan manusia dengan AI-as-a-service (Hacking Humans with AI as a Service) mengungkapkan bagaimana AI mampu membuat email phishing yang lebih baik dan pesan spear phishing yang lebih efektif dari manusia.
Para peneliti keamanan menggunakan platform GPT-4 OpenAI yang dikombinasikan dengan produk AI-as-a-service lainnya berfokus pada analisis kepribadian menghasilkan email phishing yang disesuaikan dengan latar belakang dan karakter kolega mereka.
Kemudian, para peneliti mengembangkan sebuah saluran yang dapat membantu menyempurnakan email sebelum mencapai target mereka.
Mengejutkannya,platform tersebut juga dapat secara otomatis memberikan informasi spesifik, seperti menyebutkan hukum/undang-undang Singapura ketika diinstruksikan untuk membuat konten yang ditujukan untuk masyarakat Singapura.
Baca Juga: GPT-4 Siap Gantikan ChatGPT, Lebih Canggih dan Bisa Bikin Video!
Pengembang ChatGPT secara tegas mengatakan bahwa teknologi AI buatannya memiliki kemampuan bawaan untuk menentang perintah tidak etis seperti melakukan penipuan.
Sistem ini tampaknya memiliki pagar pembatas bawaan yang dirancang untuk mencegah segala jenis kegiatan kriminal.
Namun, dengan beberapa penyesuaian, AI tersebut dapat menghasilkan email phishing yang nyaris sempurna yang menyerupai pesan dari manusia.
Hal ini dapat berarti lebih banyak masalah bagi pasar yang sangat rentan terhadap serangan siber seperti Indonesia.
Baca Juga: Serangan Ransomware di Indonesia Meningkat 30 Persen di 2022, Waspada!
Seiring dengan terus berkembangnya AI, perusahaan keamanan siber Palo Alto memprediksi bisnis dan individu akan terus menghadapi sejumlah tantangan keamanan siber AI.
Serangan yang didukung AI semakin menjadi bagian dari kehidupan sehari-hari.
Palo Alto merekomendasikan sektor bisnis, pemerintah, dan individu untuk mengandalkan teknologi AI dan ML untuk menghasilkan respons otomatis terhadap serangan-serangan tersebut.
Selain itu, secara khusus, diperlukan fokus yang cukup besar untuk menemukan keseimbangan antara mesin, manusia, dan pertimbangan etis.
(*)