Kecuali jika Anda telah melakukan retret di beberapa lokasi yang jauh tanpa akses internet selama beberapa bulan terakhir, kemungkinan besar Anda sangat menyadari betapa banyak hype dan ketakutan yang ada di sekitar ChatGPT, chatbot kecerdasan buatan (AI) dikembangkan. oleh OpenAI. Mungkin Anda pernah melihat artikel tentang akademisi dan guru yang mengkhawatirkan hal itu akan membuat menyontek lebih mudah dari sebelumnya. Di sisi lain, Anda mungkin pernah melihat artikel yang menginjili semua aplikasi potensial ChatGPT.
Alternatifnya, Anda mungkin tergelitik oleh beberapa contoh orang yang lebih esoteris yang menggunakan alat ini. Satu pengguna, misalnya, membuatnya menulis panduan instruksi untuk menghapus sandwich selai kacang dari VCR dengan gaya Alkitab King James. Yang lain memintanya untuk menulis lagu dengan gaya Nick Cave; penyanyi itu kurang tertarik dengan hasilnya.
Namun di tengah semua hype dan diskusi itu, belum ada cukup perhatian yang diberikan pada risiko dan manfaat yang dihadirkan alat AI seperti ChatGPT di arena keamanan siber.
Memahami ChatGPT
Untuk mendapatkan gambaran yang lebih jelas tentang seperti apa risiko dan manfaat tersebut, penting untuk mendapatkan pemahaman yang lebih baik tentang apa itu ChatGPT dan kemampuannya.
ChatGPT (sekarang dalam versi terbarunya, ChatGPT-4, dirilis pada 14 Maret 2023) adalah bagian dari rangkaian alat AI yang lebih besar yang dikembangkan oleh perusahaan OpenAI yang berbasis di AS. Meskipun secara resmi disebut chatbot, itu tidak cukup untuk menutupi keserbagunaannya. Dilatih menggunakan teknik pembelajaran yang diawasi dan penguatan, ia dapat melakukan jauh lebih banyak daripada kebanyakan chatbot. Sebagai bagian dari tanggapannya, ia dapat menghasilkan konten berdasarkan semua informasi yang dilatihkan padanya. Informasi itu mencakup pengetahuan umum serta bahasa dan kode pemrograman. Akibatnya, ia dapat, misalnya, mensimulasikan seluruh ruang obrolan; mainkan permainan seperti tic-tac-toe; dan mensimulasikan ATM.
Lebih penting lagi, untuk bisnis dan organisasi besar lainnya, ini dapat membantu meningkatkan layanan pelanggan bisnis melalui perpesanan yang lebih personal dan akurat. Ia bahkan dapat menulis dan men-debug program komputer. Beberapa dari mereka, dan fitur lainnya, berarti bahwa itu bisa menjadi sekutu dan ancaman keamanan siber.
Pendidikan, penyaringan, dan penguatan pertahanan
Sisi positifnya, ada banyak hal yang bisa dikatakan untuk ChatGPT. Salah satu peran paling berharga yang bisa dimainkannya juga salah satu yang paling sederhana: menemukan phishing. Organisasi dapat menanamkan kebiasaan pada karyawannya di mana mereka menggunakan ChatGPT untuk menentukan apakah ada konten yang tidak mereka yakini sebagai phishing atau dibuat dengan niat jahat.
Itu penting karena, untuk semua kemajuan teknologi yang dibuat dalam beberapa tahun terakhir, serangan rekayasa sosial seperti phishing tetap menjadi salah satu bentuk kejahatan dunia maya yang paling efektif. Faktanya, penelitian menunjukkan bahwa, dari serangan siber yang berhasil diidentifikasi di Inggris Raya pada tahun 2022, 83 persen melibatkan beberapa bentuk phishing.
Tentu saja, ada banyak cara lain yang dapat digunakan ChatGPT untuk mendukung upaya keamanan siber. Ini dapat, misalnya, memberikan bantuan kepada lebih banyak pekerja keamanan junior, apakah itu dalam mengkomunikasikan masalah apa pun yang mungkin mereka miliki atau membantu mereka lebih memahami konteks dari apa yang seharusnya mereka kerjakan pada titik tertentu. Itu juga dapat membantu tim yang kekurangan sumber daya menyusun ancaman terbaru dan dalam mengidentifikasi kerentanan internal.
Orang jahat juga menggunakannya
Tetapi bahkan ketika profesional keamanan siber mengeksplorasi cara menggunakan ChatGPT untuk keuntungan mereka, penjahat dunia maya juga demikian. Mereka mungkin, misalnya, memanfaatkan kemampuannya untuk menghasilkan kode berbahaya. Alternatifnya, mereka mungkin menggunakannya untuk menghasilkan konten yang tampaknya dibuat oleh manusia, berpotensi digunakan untuk mengelabui pengguna agar mengeklik tautan berbahaya, tanpa disadari mengarah pada konsekuensi yang berbahaya.
Beberapa bahkan menggunakan ChatGPT untuk secara meyakinkan meniru asisten AI yang sah di situs web perusahaan, membuka jalan baru di medan pertempuran rekayasa sosial. Ingat, keberhasilan penjahat dunia maya sangat bergantung pada kemampuan untuk menargetkan sebanyak mungkin kerentanan, sesering dan secepat mungkin. Alat AI seperti ChatGPT memungkinkan mereka melakukan itu dengan bertindak sebagai asisten supercharged yang dapat membantu membuat semua aset yang diperlukan untuk kampanye berbahaya.
Gunakan alat yang tersedia
Maka harus jelas bahwa, jika penjahat dunia maya menggunakan ChatGPT dan alat AI lainnya untuk meningkatkan serangan mereka, tim keamanan Anda juga harus menggunakannya untuk mendukung upaya keamanan dunia maya Anda. Untungnya, Anda tidak harus melakukannya sendiri.
Penyedia keamanan yang tepat tidak hanya terlibat dalam penelitian terus-menerus tentang bagaimana penjahat dunia maya menggunakan teknologi terbaru untuk meningkatkan serangan mereka, tetapi juga bagaimana teknologi tersebut dapat digunakan untuk meningkatkan deteksi, pencegahan, dan pertahanan ancaman. Dan dengan kerusakan yang dapat dilakukan oleh serangan keamanan siber terhadap infrastruktur penting Anda, itu adalah sesuatu yang juga harus mereka beritahukan secara proaktif kepada Anda.
ObrolanGPT-4
Dengan rilis terbaru ChatGPT (ChatGPT-4), OpenAI telah menyediakan model percakapan terbaru dan terkuat, juga memperkenalkan lebih banyak kontrol untuk mencegah penyalahgunaannya. Kami bertanya kepada ChatGPT “Apa yang dapat mencegah aktor jahat menggunakan ChatGPT dengan niat jahat” dan inilah jawabannya:
Jadi ChatGPT melanjutkan dan menyebutkan semua tindakan yang telah diambil OpenAI untuk mencegah penyalahgunaannya. OpenAI di blog rilis ChatGPT-4 menjelaskan bagaimana model ini seharusnya lebih aman daripada pendahulunya: “Kami menghabiskan 6 bulan untuk membuat GPT-4 lebih aman dan lebih selaras. GPT-4 82 persen lebih kecil kemungkinannya untuk menanggapi permintaan konten yang tidak diizinkan dan 40 persen lebih mungkin menghasilkan tanggapan faktual daripada GPT-3.5 pada evaluasi internal kami”.
Jadi semua menunjukkan bahwa langkah-langkah yang tepat terus ditingkatkan untuk menghindari penyalahgunaan, tetapi seperti yang kita semua tahu orang jahat akan terus menemukan cara untuk mengatasi keterbatasan tersebut karena model lebih banyak digunakan dan dipahami.
Kredit gambar: [email protected]/depositphotos.com
JP Perez-Etchegoyen adalah CTO Onapsis.
