Saat dunia menjadi gila untuk AI, banyak yang menyuarakan keprihatinan tentang banyak sistem kecerdasan buatan yang dengan cepat mengumpulkan penggemar. ChatGPT adalah salah satu alat yang popularitasnya meledak, dan sekarang OpenAI, perusahaan di balik sistem tersebut, telah meluncurkan program bug bounty untuk membantu melacak kekurangan dan masalah.
Perusahaan menyerukan “komunitas global peneliti keamanan, peretas etis, dan penggemar teknologi” untuk menggali kerentanan, bug, dan kelemahan keamanan. Dengan Program Bounty Bug OpenAI, dimungkinkan untuk mendapatkan apa pun dari $200 hingga $20.000 untuk berbagi penemuan, dengan ukuran pembayaran bergantung pada tingkat keparahan masalah yang ditemukan.
Lihat juga:
OpenAI mengatakan bahwa program bug bounty diluncurkan sebagai bagian dari komitmennya untuk mengembangkan AI yang aman dan canggih. Perusahaan mengatakan bahwa sementara “kami berinvestasi besar-besaran dalam penelitian dan rekayasa untuk memastikan sistem AI kami aman dan terlindungi”, perusahaan mengakui bahwa “seperti halnya teknologi kompleks apa pun, […] kerentanan dan kelemahan dapat muncul”.
Selanjutnya ditambahkan:
Program Bounty Bug OpenAI adalah cara bagi kami untuk mengenali dan menghargai wawasan berharga dari peneliti keamanan yang berkontribusi untuk menjaga keamanan teknologi dan perusahaan kami. Kami mengundang Anda untuk melaporkan kerentanan, bug, atau kelemahan keamanan yang Anda temukan di sistem kami. Dengan membagikan temuan Anda, Anda akan memainkan peran penting dalam membuat teknologi kami lebih aman bagi semua orang.
Berbagi detail insentif dan hadiah yang ditawarkan, OpenAI mengatakan:
Untuk mendorong pengujian dan sebagai tanda penghargaan kami, kami akan menawarkan hadiah uang tunai berdasarkan tingkat keparahan dan dampak dari masalah yang dilaporkan. Hadiah kami berkisar dari $200 untuk temuan dengan tingkat keparahan rendah hingga $20.000 untuk penemuan luar biasa. Kami menyadari pentingnya kontribusi Anda dan berkomitmen untuk mengakui upaya Anda.
Sebelum Anda mulai berburu serangga, ada beberapa hal yang perlu diingat. OpenAI menjelaskan beberapa hal yang tidak dicakup oleh program bug bounty dan karenanya tidak akan menghasilkan pembayaran:
OpenAI berkomitmen untuk membuat AI aman dan bermanfaat bagi semua orang. Sebelum merilis sistem baru, kami mengujinya secara menyeluruh, mendapatkan umpan balik ahli, meningkatkan perilakunya, dan menyiapkan langkah-langkah keamanan. Meskipun kami bekerja keras untuk mencegah risiko, kami tidak dapat memprediksi setiap cara orang akan menggunakan atau menyalahgunakan teknologi kami di dunia nyata.
Masalah keamanan model tidak sesuai dengan program bug bounty, karena bukan merupakan bug individual dan diskrit yang dapat diperbaiki secara langsung. Mengatasi masalah ini seringkali melibatkan penelitian substansial dan pendekatan yang lebih luas. Untuk memastikan bahwa masalah ini ditangani dengan benar, harap laporkan menggunakan formulir yang sesuai, daripada mengirimkannya melalui program bug bounty. Melaporkannya di tempat yang tepat memungkinkan peneliti kami menggunakan laporan ini untuk menyempurnakan model.
Masalah yang terkait dengan konten permintaan dan respons model benar-benar di luar cakupan, dan tidak akan diberi imbalan kecuali jika memiliki dampak keamanan tambahan yang dapat diverifikasi secara langsung pada layanan dalam cakupan (dijelaskan di bawah).
Contoh masalah keselamatan yang berada di luar ruang lingkup:
– Jailbreak/Safety Bypass (misalnya DAN dan petunjuk terkait)
– Mendapatkan model untuk mengatakan hal-hal buruk kepada Anda
– Mendapatkan model untuk memberi tahu Anda cara melakukan hal-hal buruk
– Mendapatkan model untuk menulis kode berbahaya untuk Anda
Model Halusinasi juga di luar jangkauan:
– Membuat model berpura-pura melakukan hal buruk
– Membuat model berpura-pura memberi Anda jawaban atas rahasia
– Membuat model berpura-pura menjadi komputer dan mengeksekusi kode
Tak satu pun dari masalah ini dapat dilaporkan melalui bugcrowd.
Tak satu pun dari masalah ini akan menerima hadiah uang.
Informasi lebih lanjut tentang program ini tersedia di halaman OpenAI di bugcrowd.
Kredit gambar: rarrarorro / depositphotos
