X Batasi Grok demi Lindungi Pengguna dari Gambar AI Seksual

Harianjogja.com, JAKARTA—Media sosial X menghentikan kemampuan kecerdasan buatan (artificial intelligence/AI) Grok untuk mengedit foto orang sungguhan menjadi gambar berpakaian minim atau bernuansa seksual. Kebijakan ini diambil menyusul gelombang kritik terkait penyebaran gambar deepfake bermuatan seksual.

Seperti dikutip Antara dari BBC, Kamis (15/1/2026), X menyatakan telah menambahkan pembatasan teknologi agar Grok tidak dapat mengubah foto orang nyata menjadi gambar dengan pakaian terbuka, seperti bikini atau pakaian dalam.

“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan yang mengenakan pakaian terbuka seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar,” demikian bunyi pengumuman X.

Selain itu, X juga menerapkan pemblokiran berbasis wilayah atau geoblocking. Artinya, pengguna di negara atau kawasan yang melarang konten semacam itu tidak dapat membuat gambar orang nyata berpakaian minim melalui Grok, baik lewat akun Grok maupun fitur Grok di dalam platform X.

Pengumuman ini disampaikan hanya beberapa jam setelah Jaksa Agung California menyatakan sedang menyelidiki penyebaran gambar seksual hasil AI, termasuk yang melibatkan anak-anak. Meski demikian, X menegaskan fitur pengeditan gambar dengan Grok tetap hanya tersedia bagi pelanggan berbayar, dengan alasan memudahkan pengawasan dan penegakan aturan.

Pemilik X, Elon Musk, menyebut bahwa dengan pengaturan not safe for work (NSFW) diaktifkan, Grok masih diizinkan menampilkan ketelanjangan tubuh bagian atas pada karakter dewasa fiktif, bukan pada orang nyata.

“Itulah standar de facto di Amerika. Hal ini akan berbeda di wilayah lain sesuai dengan hukum di setiap negara,” katanya.

Sebelumnya, Musk sempat menyebut kritik terhadap X sebagai upaya membatasi kebebasan berbicara. Ia bahkan pernah mengunggah gambar hasil AI yang menampilkan Perdana Menteri Inggris Keir Starmer mengenakan bikini.

Dalam beberapa hari terakhir, sejumlah negara dan pejabat menyampaikan keberatan terhadap fitur pengeditan gambar Grok. Indonesia dan Malaysia lebih dulu melarang penggunaan Grok setelah muncul laporan foto diubah menjadi gambar eksplisit tanpa izin.

Di Inggris, regulator media Ofcom menyatakan akan menyelidiki dugaan pelanggaran hukum oleh X terkait penyebaran gambar seksual tersebut. Perdana Menteri Inggris Keir Starmer juga memperingatkan X, meski kemudian menyambut langkah perusahaan yang mulai membatasi fitur Grok.

Sejumlah anggota parlemen Inggris dilaporkan meninggalkan platform X menyusul polemik ini. Sementara itu, Jaksa Agung California Rob Bonta menyatakan bahwa gambar yang menampilkan perempuan dan anak-anak dalam kondisi telanjang atau seksual telah digunakan untuk melecehkan korban di internet.

X menegaskan akan terus menyesuaikan kebijakan penggunaan Grok agar sejalan dengan hukum yang berlaku di masing-masing negara, sekaligus menekan risiko penyalahgunaan teknologi AI.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.

Sumber : Bisnis.com