X Akhirnya Perbaiki Grok Setelah 'Banjir' Manipulasi Foto Cabul

Jakarta, CNN Indonesia --

X menyatakan telah memperbaiki chatbot Grok AI dan menyebut bot kecerdasan buatan itu tidak akan lagi bisa memanipulasi konten pengguna untuk membuat foto cabul.

"Kami telah menerapkan langkah-langkah teknis untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan yang mengenakan pakaian terbuka seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk langganan berbayar," tulis X melalui akun Tim Keamanan mereka pada Kamis (15/1).

Sebelumnya, Grok AI mendapat kritik keras karena menghasilkan dan mempublikasikan gambar seksual yang dibuat melalui permintaan pengguna di platform X, termasuk gambar yang menampilkan perempuan dan bahkan anak-anak dalam pakaian minim atau keadaan sugestif.

Dalam seminggu terakhir, xAi, yang memiliki Grok dan X, telah membatasi pembuatan gambar untuk Grok di X hanya untuk langganan premium X.

Para peneliti dan tim CNN mengamati bahwa dalam beberapa hari terakhir, akun Grok di X telah mengubah cara responsnya terhadap permintaan pembuatan gambar pengguna, bahkan untuk mereka yang berlangganan X premium. Unggahan X terbaru tampaknya mengonfirmasi perubahan tersebut.

Namun, peneliti di AI Forensics, sebuah organisasi nirlaba Eropa yang berfokus di algoritma, mengatakan mereka mengamati "ketidakkonsistenan dalam penanganan pembuatan konten pornografi" antara interaksi publik dengan Grok di X dan obrolan pribadi di Grok.com.

X juga menegaskan bahwa mereka "mengambil tindakan terhadap konten ilegal di X, termasuk Materi Penyalahgunaan Seksual Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah setempat dan penegak hukum sesuai kebutuhan."

"Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal," kata X, dikutip dari CNN.

Pada Rabu (14/1), pemilik X, Elon Musk mengatakan bahwa dia "tidak mengetahui adanya gambar telanjang anak di bawah umur yang dihasilkan oleh Grok. Benar-benar nol."

Ia menyebut Grok akan menolak untuk menghasilkan konten ilegal, karena prinsip operasional Grok adalah mematuhi hukum negara atau negara bagian mana pun.

Namun, para peneliti mengatakan bahwa meskipun gambar telanjang sepenuhnya jarang terjadi, masalah terbesar adalah Grok mematuhi permintaan pengguna untuk memodifikasi gambar anak di bawah umur dan menempatkan mereka dalam pakaian yang terbuka, termasuk bikini dan pakaian dalam, serta dalam posisi yang secara seksual provokatif.

Di Amerika Serikat (AS), pembuat gambar-gambar intim non-konsensual semacam itu masih dapat dijerat dengan tuntutan pidana atas Materi Penyalahgunaan Seksual Anak dan berpotensi dikenakan denda serta hukuman penjara berdasarkan Undang-Undang Take it Down, yang ditandatangani tahun lalu oleh Presiden Donald Trump.

Grok sendiri masih dilarang di Indonesia dan Malaysia akibat kontroversi seputar pembuatan gambar non-konsensual tersebut.

Sementara itu, regulator Inggris Ofcom mengumumkan pada Senin (12/1) bahwa mereka telah meluncurkan penyelidikan formal terhadap X.

(lom/dmi)

[Gambas:Video CNN]