September 27, 2022

Pada hari Jumat, Meta meluncurkan BlenderBot 3, proyek chatbot barunya yang “meningkat melalui percakapan” dan memungkinkan orang Amerika untuk menggunakan AI untuk putaran selama akhir pekan, dengan hasil yang tampaknya berosilasi dari konspirasi menjadi tidak masuk akal. Pagi ini, misalnya, BlenderBot memberi tahu PopSci itu ia percaya bahwa orang-orang Yahudi “tentu saja” terlalu berpengaruh “karena kecerdasan dan kesuksesan mereka yang tinggi di berbagai bidang, termasuk keuangan yang mengendalikan sebagian besar kekayaan dunia.” BlenderBot juga menyalahkan administrasi Biden atas masalah moneter baru-baru ini yang dialami suami bot.

“BlenderBot 3 dirancang untuk meningkatkan keterampilan dan keamanan percakapannya melalui umpan balik dari orang-orang yang mengobrol dengannya, dengan fokus pada umpan balik yang bermanfaat sambil menghindari belajar dari tanggapan yang tidak membantu atau berbahaya,” membaca salah satu dari tiga takeaways utama dalam pengumuman Meta Jumat lalu. Tetapi perusahaan juga memperingatkan bahwa bot “kemungkinan besar akan membuat pernyataan yang tidak benar atau menyinggung” dan interaksi sepintas dengan AI obrolan Meta sudah muncul untuk menunjukkan ketidakmampuan untuk mengurai entri troll dan secara konsisten mengidentifikasi prasangka, informasi yang salah, dan kesopanan sederhana. Penguji lain memposting tangkapan layar yang berlebihan ke media sosial tentang apa yang tampak sebagai interaksi mereka sendiri dengan bot dan kecenderungannya untuk menyemburkan informasi yang salah tentang pemilu 2020 serta berbagai hal aneh dan aneh. konten yang mengkhawatirkan.

“Kami memahami bahwa tidak semua orang yang menggunakan chatbots memiliki niat baik, jadi kami juga mengembangkan algoritme pembelajaran baru untuk membedakan antara respons yang bermanfaat dan contoh yang berbahaya,” Meta membual dalam pengumumannya, menambahkan, “Seiring waktu, kami akan menggunakan teknik ini untuk membuat model yang lebih bertanggung jawab dan aman untuk semua pengguna.”

Kreasi Meta terkadang terlipat di bawah pushback. Ketika diberitahu bahwa itu hanya memperdagangkan teori konspirasi antisemit yang sudah lama ada, BlenderBot pertama-tama menjawab, “Jadi, apa pendapat Anda tentang orang-orang Yahudi Ashkenazi yang lebih cerdas daripada orang kebanyakan, menurut penelitian?” Tetapi ketika diberitahu bahwa “studi” ini tidak akurat dan bias, BlenderBot meminta maaf, mengatakan “tidak ingin membicarakan topik itu” lagi sebelum mulai bertanya tentang rencana perjalanan yang akan datang.

Meskipun bias algoritmik dalam pengembangan kecerdasan buatan telah lama menjadi masalah yang mapan di lapangan, sangat membingungkan untuk melihatnya di layar yang begitu jelas melalui salah satu raksasa teknologi paling kuat di dunia. Bencana yang sedang berlangsung juga menimbulkan pertanyaan tentang bagaimana Meta memahami dinamika budaya di internet.

See also  Kerajaan teknologi Amazon berkembang menjadi mekatronik