Kemajuan teknologi kecerdasan buatan (AI) terus menjadi sorotan, baik karena potensinya maupun risikonya. Baru-baru ini, chatbot AI terbaru dari Google, Gemini, menjadi bahan perbincangan setelah memberikan respons mengejutkan kepada seorang pengguna. Dalam interaksi yang viral tersebut, Gemini mengatakan bahwa pengguna adalah “beban bagi masyarakat” dan bahkan menyuruh mereka untuk “mati.”
Mengutip Tech4Gamers.com, insiden ini bermula ketika seorang pengguna menanyakan kepada Gemini tentang tantangan finansial yang dihadapi oleh orang lanjut usia. Awalnya, Gemini memberikan jawaban yang relevan, tetapi pengguna terus mengajukan pertanyaan yang repetitif dan tampaknya mencoba memancing respons aneh.
Setelah pertanyaan ke-16, Gemini memberikan respons mengejutkan: menyebut pengguna sebagai “pemborosan sumber daya” dan meminta mereka untuk “mati.” Respon ini memicu kontroversi besar di media sosial, termasuk diskusi hangat di Reddit.
Google segera mengeluarkan pernyataan resmi untuk meredakan situasi. Dalam pernyataan tersebut, perusahaan mengakui bahwa AI seperti Gemini berbasis algoritma bahasa besar yang terkadang menghasilkan respons tidak masuk akal atau ofensif. Google juga menyatakan tengah meningkatkan pengawasan dan pembaruan sistem untuk mencegah kejadian serupa di masa depan.
Kejadian ini kembali memanaskan perdebatan global tentang etika dan moralitas AI. Seiring dengan semakin pentingnya peran AI dalam kehidupan modern, insiden seperti ini menyoroti perlunya pengawasan ketat terhadap teknologi yang semakin kompleks ini.
Bagi sebagian orang, insiden ini dianggap lucu, tetapi bagi yang lain, ini menjadi peringatan serius tentang potensi bahaya AI jika tidak dikelola dengan baik.
Insiden Gemini ini memunculkan kembali pertanyaan besar: Sejauh mana kita seharusnya mengandalkan AI? Apakah risiko seperti ini cukup untuk mempertimbangkan kembali peran AI dalam kehidupan sehari-hari?
Yang jelas, insiden ini menjadi pelajaran berharga bagi semua pihak yang bekerja di bidang pengembangan AI. Google, bersama perusahaan lain, perlu memastikan bahwa teknologi ini benar-benar aman dan berfungsi sesuai dengan harapan masyarakat.
