Beberapa minggu yang lalu, seorang teman saya mendapat pesan dari bosnya:
"Hai Matt, saya sedang rapat melalui panggilan konferensi sekarang, tidak bisa bicara di telepon tapi beritahu saya jika Anda menerima pesan saya. Terima kasih [nama bos]."
Jika tidak jelas, pesan tersebut adalah phishing. Ada beberapa petunjuk yang menunjukkan hal itu: ada beberapa masalah spasi yang janggal, aneh untuk menandatangani teks, dan tidak biasa bahwa bosnya perlu berbicara dengan Matt dengan segera-tidak melalui telepon.
Sekasar apa pun phishing itu, masih lebih baik daripada banyak penipuan yang dikirim melalui email: si penipu mengetahui nama Matt, nomor teleponnya, dan untuk siapa dia bekerja. Para penipu dapat menggunakan fakta-fakta tersebut untuk membuat iming-iming yang lebih kredibel dan membuat seseorang mengklik sebuah tautan, mengunduh sebuah file, atau menyerahkan informasi sensitif.
Phishing tetap menjadi salah satu penyebab utama pelanggaran keamanan siber. Itu bukan karena pelaku ancaman bernostalgia dengan penipuan lama: itu karena phishing masih bekerja.
Yang menjadi masalah, peluncuran ChatGPT dan bot lainnya dapat menjadi umpan phishing yang lebih cerdas, lebih banyak, dan lebih efektif.
Selama sebulan terakhir, ChatGPT telah menjadi pemberitaan utama: guru khawatir tentang hal itu, will.i.am mereferensikannya di Davos, dan bahkan ada saran tentang cara menggunakannya untuk menerapkan teknologi kencan online.
ChatGPT adalah "chatbot A.I. mutakhir" yang satu itu New York Times jurnalis menyebutnya sebagai "secara sederhana, chatbot kecerdasan buatan terbaik yang pernah dirilis ke publik." Dikembangkan oleh OpenAI, ia memiliki kemampuan untuk menghasilkan teks seperti manusia.
Meskipun alat ini mungkin memiliki banyak Kooky digunakan, beberapa ahli keamanan siber khawatir tentang apa yang akan dilakukan oleh ChatGPT yang akan memberdayakan para pelaku ancaman. CyberArk melaporkan bahwa bot tersebut telah menciptakan "untaian baru malware polimorfik."
Yang lain khawatir tentang penggunaan yang lebih kasar - tetapi tetap efektif: menggunakan kemampuan bahasa alami untuk membuat umpan phishing yang lebih meyakinkan.
Penulis manusia dan chatbot dapat digabungkan untuk membuat umpan phishing yang efektif karena masing-masing memiliki kekuatan yang unik.
Para penulis memahami rekayasa sosial dan tahu bagaimana cara membuat pesan yang menarik dan meyakinkan target yang dituju. Mereka juga dapat memahami konteks dan referensi budaya yang akan membuat pesan lebih meyakinkan bagi para penerima.
Di sisi lain, chatbot, seperti model bahasa, memahami dan menghasilkan bahasa manusia, yang memungkinkan mereka untuk meniru gaya dan nada organisasi yang sebenarnya. Mereka juga dapat menghasilkan pesan yang dipersonalisasi dalam skala besar, yang meningkatkan peluang untuk mengelabui penerima.
Jika digabungkan, penulis manusia dapat membuat pesan phishing yang menarik bagi target, dan chatbot dapat membuatnya dalam skala besar dan mempersonalisasikannya untuk setiap penerima. Hal ini membuat pesan phishing menjadi lebih meyakinkan dan meningkatkan peluang keberhasilan.
Menurut kami, kombinasi pelaku ancaman dan bot ini bisa menjadi masalah yang nyata-tetapi kami juga memiliki beberapa ide tentang cara mengatasinya. Hubungi kami untuk mempelajari lebih lanjut.
Apa pun yang menurunkan penghalang masuk dapat menjadi ancaman yang signifikan. Pada saatnya nanti, pelaku ancaman dapat mengajari bot untuk memanfaatkan kata sandi atau menargetkan email dari pembobolan data.
"Meskipun ChatGPT adalah layanan offline, yang saya khawatirkan adalah menggabungkan akses Internet, otomatisasi, dan AI untuk menciptakan serangan lanjutan yang terus-menerus," kata CISO RSA Rob Hughes.
"Kami telah melihat betapa gigihnya serangan bom yang cepat mengikis perhatian pengguna," lanjut Hughes. "Dengan chatbot, Anda bahkan tidak memerlukan spammer untuk membuat pesan lagi. Anda dapat menulis skrip yang berbunyi 'Kenali data Internet dan terus kirimkan pesan kepada si anu dan si itu hingga mereka mengklik tautan. Mengalihkan operasi ke bot yang tidak keluar, tidak menyerah, dan bekerja pada ratusan pengguna secara bersamaan benar-benar dapat mengubah sifat serangan phishing dengan memungkinkan alat spear-phishing terdistribusi yang mudah digunakan."
Chatbots, Penipuan telepon deepfake, atau botnetapakah penjahat menggunakan file audio, email, atau media lain, format dan alat di baliknya tidak terlalu penting.
Yang penting adalah bahwa kami sedang mengembangkan alat bantu AI yang mungkin akan menghasilkan ancaman baru yang semakin cerdas lebih cepat daripada yang dapat dihasilkan oleh penjahat manusia - dan menyebarkan ancaman tersebut lebih cepat daripada yang dapat ditanggapi oleh personel keamanan siber.
Satu-satunya cara agar organisasi dapat mengikuti laju perubahan adalah dengan mengendalikan bot dengan menggunakan bot: prinsip-prinsip dasar yang sama yang memungkinkan ChatGPT menulis lelucon atau makalah yang semakin baik juga dapat melatih sistem keamanan untuk mengenali dan merespons perilaku yang mencurigakan.
Mesin risiko seperti RSA® Risiko AI dapat menggunakan pengumpulan data, pencocokan perangkat, deteksi anomali, dan analisis perilaku untuk memeriksa upaya akses. Risk AI melihat konteks permintaan akses-siapa yang meminta sumber daya, kapan mereka membuat permintaan, perangkat apa yang mereka gunakan, dan sinyal lainnya-untuk menentukan dan merespons risiko secara real-time.
Pada akhirnya, kemampuan tersebut membantu tim keamanan membuat lebih banyak, informasi yang lebih baik, lebih cerdas, dan keputusan keamanan yang lebih baik.
Bukan hanya penggunaan AI yang berbahaya yang dapat menimbulkan ancaman keamanan siber bagi organisasi: penggunaan AI yang disengaja oleh perusahaan, termasuk otomatisasi proses robotik (RPA), dapat mengambil lebih banyak keputusan dengan lebih cepat daripada yang dapat dilakukan oleh manusia secara individu.
Demikian juga, badai yang sempurna dari lingkungan multi-cloud dan manajemen identitas yang tidak memadai akan meningkatkan kegagalan keamanan cloud dan membuat organisasi terpapar pada lebih banyak risiko, sehingga menyebabkan 75% kegagalan keamanan cloud pada tahun 2023
Sekali lagi, organisasi membutuhkan solusi yang dapat menyesuaikan dengan masalah yang ada: RSA® Tata Kelola & Siklus Hidup dapat mengotomatiskan hampir semua hal: solusi ini dapat secara otomatis memasukkan pengguna dengan hak yang tepat, menerapkan kebijakan joiner-mover-leaver, dan mengotomatiskan penyediaan, pemantauan, dan pelaporan.
Hubungi kami untuk mempelajari lebih lanjut tentang penggunaan AI di IAM.
Bot yang selalu aktif yang diprogram untuk melakukan phishing; skrip RPA yang berjalan tanpa ada yang mengawasi; singa, harimau, dan beruang: akan selalu ada ancaman lain.
"Tim keamanan siber tidak selalu dapat memprediksi apa ancaman berikutnya atau dari mana ancaman itu berasal," ujar Hughes.
"Jangan fokus pada berita utama. Fokuslah pada apa yang bisa Anda kendalikan: mengedukasi pengguna Anda, menggunakan autentikasi multi-faktor, dan bergerak menuju zero trust. Semua itu adalah beberapa cara terbaik untuk melindungi diri Anda dari ancaman yang kita ketahui hari ini dan tetap terlindungi dari ancaman yang akan datang esok hari."
###
