KotakGame

OpenAI baru-baru ini memblokir sejumlah akun pengguna asal China yang memanfaatkan ChatGPT untuk men-debug dan mengedit kode alat pengawasan media sosial berbasis AI. Tindakan ini diambil setelah OpenAI menemukan aktivitas mencurigakan yang berpotensi melanggar kebijakan penggunaan mereka.

Operasi Peer Review: Pemantauan Sentimen Anti-China

Dalam sebuah kampanye yang dijuluki Peer Review, kelompok tersebut meminta ChatGPT membuat materi promosi untuk program yang dirancang memantau sentimen anti-China di berbagai platform seperti X, Facebook, YouTube, dan Instagram. Berdasarkan dokumen yang beredar, alat ini berfokus melacak seruan protes terhadap pelanggaran hak asasi manusia di China, dengan tujuan menyampaikan informasi tersebut kepada pihak berwenang.

Jejak Aktivitas yang Terungkap oleh OpenAI

Menurut laporan OpenAI, jaringan akun yang terlibat menunjukkan pola penggunaan yang konsisten dengan jam kerja di China daratan. Permintaan diajukan dalam bahasa Mandarin dengan volume dan variasi yang menyerupai interaksi manual alih-alih otomatisasi.

"Operator menggunakan model kami untuk mengoreksi klaim bahwa wawasan mereka dikirim ke kedutaan besar China di luar negeri dan agen intelijen yang memantau protes di Amerika Serikat, Jerman, dan Inggris," ujar OpenAI, dikutip dari Engadget (23 Februari 2025).

Baca ini juga :

» Perintah Xi Jinping: Sistem Refund E-Commerce di China Dirombak Total
» Nvidia Rugi Rp 92 Triliun Akibat Larangan Ekspor Chip AI H20 ke China
» Intel Mulai Kehilangan Pangsa Pasar CPU di China, AMD Kian Menguat!
» Rusia dan China Kembangkan Teknologi untuk Menghadapi Dominasi Starlink
» ChatGPT Hasilkan 700 Juta Gambar dalam Sepekan, OpenAI Kewalahan Penuhi Permintaan

Keterlibatan Model Open-Source dan Taktik Manipulasi

Peneliti utama OpenAI, Ben Nimmo, menyatakan bahwa ini adalah pertama kalinya perusahaan menemukan penggunaan AI semacam ini. Ia mengungkapkan bahwa sebagian besar kode untuk alat pengawasan tersebut berbasis pada versi sumber terbuka dari model Llama milik Meta.

"Pelaku ancaman terkadang memberi kita gambaran tentang aktivitas mereka di bagian lain internet melalui cara mereka memanfaatkan model AI kami," kata Nimmo kepada The New York Times.

Selain itu, kelompok ini dilaporkan menggunakan ChatGPT untuk membuat tinjauan kinerja akhir tahun, termasuk mengklaim keberhasilan dalam menulis email phishing atas nama klien di China.

OpenAI Perketat Kebijakan dan Larangan Akun

OpenAI menegaskan bahwa penilaian dampak dari aktivitas ini memerlukan masukan dari berbagai pemangku kepentingan, termasuk operator model open-source yang mungkin memiliki wawasan lebih dalam.

Secara terpisah, OpenAI juga mengonfirmasi pemblokiran akun lain yang menggunakan ChatGPT untuk membuat konten media sosial yang menyerang Cai Xia, seorang ilmuwan politik pembangkang asal China yang kini tinggal di AS. Tak hanya itu, kelompok ini dilaporkan membuat artikel berbahasa Spanyol yang mengkritik Amerika Serikat dan menyebarkannya melalui media di Amerika Latin, sering kali dikaitkan dengan individu atau perusahaan asal China.

Selain berita utama di atas, KotakGame juga punya video menarik yang bisa kamu tonton di bawah ini.