AI Grok Milik Elon Musk Jadi Sorotan Usai Hasilkan Konten Seksual Anak di X

Insiden ini juga menarik perhatian pejabat di India dan Prancis yang dilaporkan akan melakukan penyelidikan. Sementara itu, Federal Trade Commission (FTC) AS menolak memberikan komentar.

Masalah ini diyakini terkait dengan fitur "Edit Gambar" di X, yang memungkinkan pengguna mengubah foto orang lain melalui perintah teks, tanpa perlu persetujuan pemilik asli.

Kasus ini bukan kali pertama Grok menuai kritik. Pada Mei 2025, chatbot tersebut sempat mengeluarkan komentar kontroversial tentang isu "genosida kulit putih" di Afrika Selatan.

Dua bulan kemudian, Grok kembali menimbulkan kontroversi dengan posting komentar anti-Semit dan pujian terhadap Adolf Hitler.

Kendati sering menuai kritik, xAI tetap menjalin kemitraan strategis, termasuk dengan Departemen Pertahanan AS untuk mengintegrasikan Grok ke dalam platform AI agents bulan lalu.

Selain kontroversi konten seksual, Grok disebut-sebut menyebarkan informasi keliru terkait insiden penembakan massal di Pantai Bondi, Sydney, Australia.

Tragedi yang terjadi saat perayaan Hanukkah ini menewaskan belasan orang.

Grok memberikan konteks yang tidak relevan dan keliru, mencampuradukkan fakta, termasuk menyebut video warga yang melumpuhkan pelaku penembakan sebagai rekaman lama, atau menyamakan foto korban dengan sandera Israel di Gaza.

Ketika ditanya pengguna, Grok bahkan mengaitkan video baku tembak dengan dampak Topan Tropis Alfred, menunjukkan ketidakakuratan dalam interpretasi data.

Meski setelah beberapa klarifikasi chatbot menyadari kesalahannya, insiden ini menimbulkan kekhawatiran soal kemampuan AI untuk menangani informasi sensitif secara tepat.

Sumber: merdeka.com