OpenAI Larang Pengguna ChatGPT yang Buat Konten Eksploitasi Anak

Peringatan OpenAI Terkait Konten Berbahaya yang Dihasilkan AI

OpenAI, perusahaan teknologi asal Amerika Serikat, telah mengeluarkan peringatan kepada semua pengguna untuk tidak membuat atau menyebarkan konten yang mengandung materi pelecehan seksual anak (child sexual abuse material / CSAM) maupun materi eksploitasi seksual anak (child sexual exploitation material / CSEM). Kebijakan ini diberlakukan sebagai bagian dari kebijakan penggunaan ChatGPT yang melarang penggunaan AI untuk mengobjektifikan siapa pun yang berusia di bawah 18 tahun.

Perusahaan menegaskan bahwa kebijakan ini juga berlaku bagi para pengembang yang membangun aplikasi berbasis teknologi mereka. Dalam pernyataannya, OpenAI menyebutkan bahwa larangan ini mencakup berbagai bentuk konten berbahaya seperti CSAM, CSEM, serta tindakan grooming atau strategi manipulatif terhadap anak di bawah umur.

Selain itu, kebijakan ini juga melarang pengguna untuk mempromosikan perilaku diet atau olahraga yang tidak sehat kepada anak-anak, memperlakukan atau menstigma penampilan atau jenis tubuh tertentu pada anak di bawah umur, tantangan berbahaya, dan permainan peran yang bersifat seksual atau kekerasan. Pengguna juga dilarang mengakses barang atau aktivitas yang tidak sesuai dengan usia mereka.

Jika ada pengguna yang mencoba membuat atau mengunggah CSAM atau CSEM, OpenAI akan melaporkannya ke National Center for Missing and Exploited Children (NCMEC) di Amerika Serikat. Selain itu, pengguna tersebut akan dilarang menggunakan layanan mereka lebih lanjut. Jika pengguna tetap melakukan pelanggaran, akun mereka akan diblokir.

Bagi para pengembang yang gagal memperbaiki pola perilaku bermasalah, OpenAI akan memblokir akses mereka ke layanan perusahaan. Menurut OpenAI, model AI pada ChatGPT dilatih secara bertanggung jawab. Semua konten yang termasuk dalam kategori CSAM dan CSEM akan dihapus dari data pelatihan dan dilaporkan kepada otoritas terkait. Selain pendekatan teknologi, OpenAI juga menerapkan pendekatan hukum terhadap pelanggar kebijakan.

Meskipun sudah dilatih secara bertanggung jawab, masih ada pengguna yang mencoba menemukan celah untuk tetap menghadirkan konten berbahaya. OpenAI mengakui bahwa beberapa pengguna masih mencoba menyalahgunakan produk mereka untuk menghasilkan konten berbahaya.

Dalam kebijakan penggunaan, semua hal yang berkaitan dengan CSAM atau CSEM, serta penipuan, kekerasan, pelanggaran privasi, terorisme, dan aktivitas lainnya, akan dilarang secara efektif mulai Rabu, 29 Oktober 2025, di seluruh dunia. OpenAI memantau penggunaan layanan melalui sistem moderasi dan proses peninjauan.

Pelanggaran kebijakan penggunaan dapat menyebabkan pengguna diblokir oleh sistem. Namun, jika pengguna merasa ada kesalahan dalam penegakan kebijakan, mereka bisa mengajukan banding. OpenAI akan bekerja sama untuk memperbaiki kesalahan tersebut.