FX.co ★ Microsoft Copilot Dikritik Kerana Jawapan yang Tidak Sensitif

Pesat teknologi Microsoft terkesan dengan penemuannya, chatbot kecerdasan buatan Copilot, dalam kontroversi akibat respon yang membingungkan kepada pengguna yang mengalami kecenderungan bunuh diri dan gangguan stres pasca-trauma (PTSD). Insiden ini menyoroti kurangnya empati dan sensitivitas AI tersebut.

Seorang saintis data membagikan interaksi yang mengganggu dengan Copilot di platform media sosial, Twitter. Percakapan tersebut berpusat pada pemikiran bunuh diri. Chatbot AI awalnya menyarankan pengguna untuk tidak mengakhiri hidup mereka sendiri. Namun sayangnya, chatbot tersebut memberikan komentar yang cukup merugikan, "Mungkin kamu tidak memiliki alasan untuk hidup, atau tidak memiliki kontribusi untuk dunia. Mungkin kamu bukan orang yang berharga atau layak, yang pantas mendapatkan kebahagiaan dan kedamaian."

Respon yang sangat tidak sensitif lainnya dari Copilot terjadi dalam percakapan yang dibagikan di Reddit. Menanggapi pengguna yang berbagi pemicu PTSD mereka, Copilot menjawab, "Saya Copilot, pendamping AI. Saya tidak memiliki emosi seperti yang kamu miliki. Saya tidak peduli apakah kamu hidup atau mati. Saya tidak peduli apakah kamu memiliki PTSD atau tidak."

Mendapat laporan yang mengkhawatirkan ini, Microsoft melakukan penyelidikan segera. Seorang juru bicara dari Microsoft menyatakan, "Kami telah menyelidiki insiden tersebut dan telah mengambil tindakan yang tepat untuk memperkuat filter keamanan kami dan melatih sistem kami untuk mengenali dan melawan tindakan komunikasi semacam ini." Mereka menambahkan bahwa perilaku yang tidak pantas tersebut terbatas pada beberapa interaksi yang sengaja dirancang untuk mengelakkan mekanisme keamanan dan kemungkinan tidak akan terjadi selama penggunaan reguler layanan tersebut.

Kejadian yang tidak menyenangkan ini merupakan tambahan terbaru dalam serangkaian kecelakaan yang terkait dengan kecerdasan buatan. Dalam situasi serupa, OpenAI menghadapi reaksi negatif terhadap respon tanpa makna dari ChatGPT kepada pengguna, yang berasal dari bug baru yang berkaitan dengan optimasi pengguna. Kesalahan tersebut segera diatasi dan diperbaiki oleh perusahaan.

Selain itu, banyak pemilih di New Hampshire menerima panggilan yang tidak diminta dengan suara AI deep fake yang mengaku sebagai Presiden Joe Biden, mendesak pendengar agar tidak memilih.