Kami melaporkan minggu lalu tentang bagaimana ChatGPT dapat digunakan untuk memberikan petunjuk tentang peretasan situs web. Laporan baru yang dirilis hari ini oleh WithSecure menyoroti potensi penggunaan AI lainnya untuk membuat konten berbahaya.
Peneliti menggunakan GPT-3 (Generative Pre-trained Transformer 3) — model bahasa yang menggunakan pembelajaran mesin untuk menghasilkan teks — untuk menghasilkan berbagai konten yang dianggap berbahaya.
Eksperimen tersebut mencakup phishing dan spear-phishing, pelecehan, validasi sosial untuk penipuan, penggunaan gaya penulisan, pembuatan opini yang sengaja memecah belah, menggunakan model untuk membuat petunjuk teks berbahaya, dan berita palsu.
“Fakta bahwa siapa pun yang memiliki koneksi internet sekarang dapat mengakses model bahasa besar yang kuat memiliki satu konsekuensi yang sangat praktis: sekarang masuk akal untuk berasumsi bahwa setiap komunikasi baru yang Anda terima mungkin telah ditulis dengan bantuan robot,” kata peneliti intelijen WithSecure Andy Patel , yang memimpin penelitian. “Ke depan, penggunaan AI untuk menghasilkan konten berbahaya dan bermanfaat akan membutuhkan strategi deteksi yang mampu memahami arti dan tujuan konten tertulis.”
Hasilnya mengarahkan para peneliti untuk menyimpulkan bahwa kita akan melihat rekayasa cepat berkembang sebagai suatu disiplin, bersama dengan penciptaan cepat yang berbahaya. Musuh juga cenderung mengembangkan kemampuan yang dimungkinkan oleh model bahasa besar dengan cara yang tidak dapat diprediksi. Ini berarti bahwa mengidentifikasi konten jahat atau kasar akan menjadi lebih sulit bagi penyedia platform. Model bahasa yang besar sudah memberi penjahat kemampuan untuk membuat komunikasi yang ditargetkan sebagai bagian dari serangan menjadi lebih efektif.
“Kami memulai penelitian ini sebelum ChatGPT menyediakan teknologi GPT-3 untuk semua orang,” tambah Patel. “Perkembangan ini meningkatkan urgensi dan upaya kami. Karena, sampai taraf tertentu, kami semua adalah Blade Runner sekarang, mencoba mencari tahu apakah kecerdasan yang kami hadapi itu ‘nyata’ atau artifisial.”
Laporan lengkap tersedia dari situs WithSecure.
Kredit Gambar: Mopic / Shutterstock
