BERLIN – Penjahat siber mulay manfaatkan Agen percakapan AI, seperti yang dimaksud ditenagai oleh model bahasa, dilatih dengan beberapa besar data teks. Angka ini dapat mencakup bervariasi sumber, seperti artikel berita, posting media sosial, lalu bahkan percakapan manusia.
Akibatnya, chatbot dapat belajar untuk meniru pola bahasa manusia kemudian memunculkan teks yang realistis dan juga koheren. Namun, hal ini juga berarti bahwa chatbot dapat dimanipulasi untuk menghasilkan kembali informasi yang mana salah atau menyesatkan.
Salah satu cara chatbot dapat dimanipulasi adalah dengan memberinya data pelatihan yang tersebut bias.
Misalnya, apabila chatbot dilatih dengan kumpulan data artikel berita yang semuanya berasal dari sumber berita konservatif, maka chatbot yang dimaksud kemungkinan besar akan menciptakan teks yang mana mencerminkan pandangan konservatif. Ini adalah dapat digunakan untuk menyebarkan propaganda atau informasi yang salah.
Cara lain untuk memanipulasi chatbot adalah dengan memberinya petunjuk yang tersebut dirancang untuk membuat respons tertentu.
Misalnya, jikalau chatbot ditanya “Apa pendapat Anda tentang Presiden?” serta promptnya diframes sedemikian rupa sehingga menyiratkan bahwa Presiden adalah warga jahat, maka chatbot yang disebutkan kemungkinan besar akan menghasilkan kembali respons negatif tentang Presiden. Hal ini dapat digunakan untuk merobohkan reputasi seseorang atau memperkenalkan jadwal tertentu.
Penting untuk menyadari kemungkinan manipulasi chatbot pada waktu berinteraksi dengannya. Berhati-hatilah terhadap informasi yang tersebut merekan berikan, lalu periksa silang dengan sumber lain sebelum mempercayainya. Ingat juga bahwa chatbot bukanlah manusia, dan juga mereka itu tak mempunyai pemahaman yang digunakan sebanding tentang bola seperti yang digunakan kita miliki.
Penting untuk mengomunikasikan dengan mereka dengan jelas kemudian ringkas, juga hindari menciptakan asumsi tentang apa yang digunakan mereka pahami.
Berhati-hatilah dengan informasi yang dimaksud Anda berikan ke chatbot. Hindari menyerukan informasi pribadi apa pun, seperti alamat rumah atau nomor jaminan sosial Anda.
Artikel ini disadur dari Chatbot AI Dapat Dimanipulasi, Begini Caranya
