Malaysia Ikuti Jejak Indonesia, Blokir Sementara Chatbot Grok Akibat Konten Asusila
Kuala Lumpur – Malaysia mengambil langkah tegas dengan menutup sementara akses terhadap Grok, chatbot kecerdasan buatan (AI) generatif yang dikembangkan oleh xAI, perusahaan milik Elon Musk. Keputusan ini diambil pada Minggu (11/1) menyusul gelombang kontroversi global terkait kemampuan Grok dalam mengedit dan mempublikasikan foto mesum tanpa persetujuan pemilik gambar. Malaysia menjadi negara kedua di Asia Tenggara, setelah Indonesia, yang memberlakukan pemblokiran sementara terhadap layanan AI ini.
Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan bahwa pembatasan akses ini diberlakukan karena adanya temuan berulang mengenai penyalahgunaan Grok. Chatbot tersebut terbukti digunakan untuk menghasilkan konten yang dikategorikan sebagai cabul, eksplisit secara seksual, tidak senonoh, sangat ofensif, serta manipulasi gambar tanpa izin yang sah. MCMC secara spesifik menyoroti bahwa konten-konten yang dihasilkan tersebut melibatkan perempuan dan bahkan anak di bawah umur, menjadikannya isu yang sangat serius dan mendesak.
Menindaklanjuti temuan ini, MCMC telah mengirimkan surat resmi kepada X (sebelumnya Twitter) dan xAI. Surat tersebut menuntut penerapan langkah-langkah pengamanan teknis yang lebih kuat dan mekanisme moderasi konten yang efektif untuk mencegah penyalahgunaan lebih lanjut. Namun, respons yang diterima dari pihak perusahaan dinilai belum memadai. MCMC menganggap bahwa upaya yang ada saat ini hanya mengandalkan mekanisme pelaporan dari pengguna, yang dinilai tidak cukup untuk mengatasi akar masalah.
“MCMC menilai langkah tersebut tidak cukup untuk mencegah dampak buruk atau memastikan kepatuhan terhadap hukum yang berlaku,” tegas MCMC dalam pernyataan resminya, mengutip laporan dari Reuters. Otoritas komunikasi Malaysia menekankan bahwa desain dan operasional alat AI itu sendiri memiliki risiko yang perlu diatasi secara proaktif, bukan hanya reaktif melalui laporan pengguna.
Syarat Pencabutan Blokir: Perlindungan Efektif dari xAI
MCMC menegaskan bahwa pembatasan akses ke Grok akan tetap berlaku hingga perusahaan di bawah Elon Musk ini mampu menerapkan sistem perlindungan yang dianggap efektif oleh otoritas Malaysia. Meskipun demikian, MCMC juga menyatakan sikap terbuka untuk terus melakukan dialog dengan xAI dan X guna mencari solusi terbaik.
Penting untuk dicatat bahwa tindakan Malaysia ini bukanlah tindakan yang berdiri sendiri. Sebelumnya, Indonesia telah lebih dahulu mengambil langkah serupa.
Indonesia Juga Ambil Tindakan: Kominfo Putus Sementara Akses Grok
Kementerian Komunikasi dan Digital (Komdigi) Indonesia telah lebih dahulu memutus sementara akses terhadap Grok AI pada Sabtu (10/1). Keputusan ini diambil sebagai tindak lanjut atas dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang terindikasi digunakan untuk memproduksi dan menyebarkan konten asusila.
Menteri Komunikasi dan Digital, Meutya Hafid, secara langsung meminta pihak X untuk hadir ke Kantor Komdigi guna memberikan klarifikasi mendalam terkait maraknya pembuatan konten pornografi palsu yang diduga menggunakan Grok.
Langkah pemutusan akses yang diambil oleh Komdigi di Indonesia telah sesuai dengan landasan hukum yang berlaku di negara tersebut. Menurut Meutya Hafid, tindakan ini diatur secara spesifik dalam Peraturan Menteri Komunikasi dan Informatika (Permenkominfo) Nomor 5 Tahun 2020. Peraturan ini memberikan dasar hukum yang kuat bagi kementerian untuk mengambil tindakan tegas terhadap penyebaran konten yang melanggar norma kesusilaan dan hukum.
Dampak dari pemblokiran sementara ini tentu saja akan dirasakan oleh pengguna di kedua negara tersebut. Bagi para pengembang AI, kasus ini menjadi pengingat penting akan tanggung jawab etis dan hukum dalam merancang serta mengoperasikan teknologi yang memiliki potensi besar untuk disalahgunakan. Kebutuhan akan regulasi yang lebih ketat dan kolaborasi antara pemerintah, pengembang teknologi, dan platform digital menjadi semakin krusial dalam menghadapi tantangan yang ditimbulkan oleh kemajuan pesat AI generatif.
