Sebuah makalah penelitian baru dari ShadowDragon meneliti bagaimana AI, seperti ChatGPT, digunakan untuk menyebarkan kebencian dan informasi yang salah melalui ulasan palsu dan deepfake.
Ditulis oleh Nico Dekens, direktur intelijen, inovasi pengumpulan di ShadowDragon, makalah ini membahas cara mengidentifikasi materi buatan AI secara online yang dengan sengaja menyebarkan informasi palsu atau lebih buruk.
Menggunakan pesan kesalahan yang dihasilkan saat pengguna membuat permintaan yang melanggar persyaratan layanan dan/atau sesuatu yang tidak dapat dilakukan oleh ChatGPT, ShadowDragon telah dapat menemukan ulasan palsu yang dihasilkan AI, pesan media sosial, ujaran kebencian, blog palsu dan banyak lagi.
Penelitian juga menemukan bahwa ChatGPT sering berbohong tentang tugas tertentu yang diberikan. Dengan kata lain, itu membuat kesalahan dan kemudian berbohong tentangnya.
Salah satu masalah yang disoroti oleh makalah tersebut adalah penggunaan ChatGPT untuk menghasilkan ulasan palsu di situs belanja. Karena telah dilatih pada kumpulan data ulasan yang besar, ia dapat membuat ulasan baru yang tampaknya ditulis oleh orang sungguhan. Ulasan palsu ini dapat digunakan untuk memanipulasi opini konsumen, merugikan pesaing, dan menipu pelanggan.
Penelitian pribadi Dekens serta percakapan dengan penyelidik intelijen sumber terbuka (OSINT) lainnya telah membantu merumuskan pencarian khusus untuk memungkinkan penyelidikan lebih dalam tentang penyalahgunaan ChatGPT untuk niat buruk atau salah.
Dekens menyimpulkan, “ChatGPT telah terbukti berbohong, dan pemeriksaan fakta tambahan serta validasi selalu diperlukan. Kita dapat menggunakan teknik pencarian OSINT tradecraft untuk menemukan dan mengekspos konten palsu, palsu, atau menyinggung yang dihasilkan ChatGPT, dan kita dapat menggunakan informasi tersebut untuk berporos ke akun pengguna dan platform yang menghosting dan menyebarkan bagian yang salah dari konten yang dihasilkan AI ini.”
Anda bisa mendapatkan makalah penelitian lengkap, dengan saran untuk menemukan yang palsu, dari blog ShadowDragon.
Kredit gambar: Skorzewiak/depositphotos.com
