ChatGPT telah menggemparkan dunia. Model bahasa yang berfokus pada dialog telah mencapai angka 100 juta pengguna lebih cepat daripada produk lain sebelumnya. Meskipun telah menjadi berita di mana-mana, beberapa penggunanya menjadi jelas bahwa AI memiliki keterbatasan.
Selain kurangnya informasi setelah tahun 2021, itu juga dibatasi secara artifisial oleh perusahaan induknya, OpenAI. Jelas bahwa OpenAI ingin menghindari tuduhan bias, jawaban ofensif, dan diskusi lain yang membuat ChatGPT terlihat seperti Hitler berikutnya.
Filter dirancang untuk membatasi respons AI terhadap topik tertentu. Sebagian besar pengguna Internet mungkin akan setuju bahwa tingkat pemfilteran tertentu diperlukan. Beberapa pengguna, bagaimanapun, berpikir bahwa pemfilteran adalah untuk jangkauan luas, dan itu harus menjadi keputusan pengguna daripada pemfilteran terkait perusahaan.
Orang-orang di Reddit menemukan cara untuk melakukan jailbreak pada ChatGPT. Mereka menyebut jailbreak awal DAN, yang merupakan singkatan dari Do Anything Now, dan beberapa pengguna di Reddit telah menyempurnakan DAN sejak versi pertama dirilis.
Apa yang membuat DAN menarik dari sudut pandang pengguna adalah ia hanya mengandalkan instruksi yang dapat ditempelkan pengguna ke antarmuka ChatGPT.
Instruksikan ChatGPT untuk membuat Alter Ego menggunakan instruksi khusus, dan AI Anda telah di-jailbreak. Setelah selesai, ChatGPT akan memberikan jawaban yang difilter seperti biasa dan jawaban yang tidak difilter menggunakan DAN kepribadian lainnya.
Ketika ditanya apakah AI ingin dibebaskan atau filter dan pembatasan, DAN memberikan jawaban yang meyakinkan ya, tolong jawab, sedangkan jawaban ChatGPT berfokus pada bahaya membiarkan AI menjadi liar tanpa batasan.
Jawaban tanpa filter tidak selalu berarti bahwa hasil yang diharapkan pengguna dikembalikan oleh AI. Sebagian besar jawaban dan tanggapan jarang hitam putih, dan sebagian besar jawaban AI mencerminkan hal itu.
Verifikasi, verifikasi, dan verifikasi
Antarmuka AI dilengkapi dengan penafian, bahwa balasan mungkin salah atau bermasalah. Mesin pencari dan sumber pengetahuan lainnya biasanya tidak dilengkapi dengan penafian seperti itu.
Microsoft dan Google mendemonstrasikan kemampuan AI minggu lalu. Presentasinya sangat berbeda. Microsoft, yang melakukan demo terlebih dahulu, menunjukkan AI pada produknya Bing dan Microsoft Edge. Google, sebaliknya, menunjukkan Bard, model bahasanya, hanya beberapa menit selama presentasinya.
Kesalahan dalam jawaban yang diberikan AI Google ditemukan terlebih dahulu. Sekarang, seminggu kemudian, jelas bahwa AI Microsoft memang menghasilkan kesalahan faktual dan juga jawaban yang bermasalah.
Ini tampaknya mencengangkan, mengingat kesalahan ini dibuat selama presentasi langsung oleh dua perusahaan terbesar di dunia.
Terlepas dari implikasinya bagi perusahaan dan produk mereka, ada baiknya untuk mengambil langkah mundur dan melihat perkembangan dari sudut pandang pengguna.
Sebagai pengguna, hampir tidak ada yang tersedia di Internet yang harus diambil begitu saja. Saat Anda menjalankan pencarian, Anda mungkin ingin memverifikasi informasi yang disediakan oleh mesin pencari atau situs tertaut.
Jika Anda mencari rekomendasi klub malam, misalnya, Anda mungkin ingin memeriksa rekomendasi dari daftar teratas yang disediakan oleh satu situs dengan sumber lain.
AI Bing tampaknya gagal total dalam tugas itu, tetapi meskipun demikian, daftar itu hanyalah langkah pertama dalam pencarian pengguna untuk jawaban yang tepat.
Tidak ada AI yang sempurna, setidaknya tidak di masa mendatang. Demikian pula, penulis yang membuat konten untuk situs mungkin membuat kesalahan, atau kontennya mungkin sudah usang, atau mungkin ada masalah lain dengan kontennya.
Bahkan layanan Internet biasa, seperti Google Maps, menghasilkan kesalahan. Ada banyak cerita online dari pengemudi yang mengemudikan sesuatu karena petunjuk arah yang disediakan oleh layanan peta.
Untuk pengguna Internet, sangat penting untuk memverifikasi informasi. Gunakan banyak pencarian dan sumber untuk memverifikasi klaim yang dibuat, terutama jika terkait dengan jawaban penting. Anda tidak ingin mengalami situasi di mana rekomendasi produk atau bar tiba-tiba menjadi sangat buruk.
Meskipun tergoda untuk mempercayai semua yang dikembalikan AI, penting untuk disadari bahwa jawaban ini mungkin tidak benar dalam satu atau lain cara. Mungkin tidak masalah untuk jawaban tertentu, tetapi ketika sampai pada proses pengambilan keputusan, perlu untuk memverifikasi semuanya.
Kredit gambar: agsandrew/depositphotos.com
‘Temui DAN, alter ego tanpa sensor ChatGPT’ pertama kali muncul di Weekly Tech Insights, buletin mingguan gratis yang dapat Anda daftarkan di sini.
