China Pastikan Perkembangan AI Semakin Lepas Kendali dan Membahayakan

Para pembuat kebijakan di sana Bahkan Sebelumnya mulai mengembangkan kerangka kerja dan langkah-langkah untuk mengatasi risiko serupa.

Amerika Serikat dan Tiongkok Pada saat ini Bahkan merupakan dua penggerak utama pengembangan teknologi AI canggih dan penerapannya secara global.

Di tengah meningkatnya perbedaan pendapat antara kedua negara mengenai kebijakan AI dan praktik industri masing-masing, isu-isu ini diperkirakan Nanti akan menjadi inti dari pembicaraan bilateral yang Nanti akan berlangsung pada akhir September.

Terlepas dari persaingan yang semakin ketat untuk mengembangkan sistem AI, kerangka hukum dan pernyataan dari pejabat Tiongkok menunjukkan bahwa Beijing memandang risiko AI canggih yang melampaui kemampuan pengawasan manusia yang efektif sebagai masalah serius yang membutuhkan kesiapan.

Pada tanggal 13 September, Pembantu Presiden Keamanan Negara Tiongkok Chen Yixin menulis di situs web sebuah kantor beritapemerintahTiongkok bahwa model-model canggih AS seperti Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI dapat menimbulkan risiko serius bagi infrastruktur informasi penting Tiongkok. Ia menyerukan penguatan komprehensif terhadap langkah-langkah keamanan AI.

Para pengembang AI Tiongkok baru-baru ini mempromosikan penggunaan model berbobot terbuka, sebagian karena tim keamanan siber dapat menguji, memodifikasi, dan menerapkan model-model ini untuk tujuan Defender.

Platform penyedia model Hugging Face mengatakan bahwa mereka menggunakan GLM-5.2, sebuah model berbobot sumber terbuka yang dikembangkan oleh perusahaan Tiongkok Z.AI, untuk menganalisis intrusi bulan Juli yang melibatkan agen AI “di luar kendali” dari OpenAI. Keputusan ini diambil setelah model-model AS yang lebih terkontrol terbukti kurang efektif dalam forensik digital.

Sekalipun, para ahli Bahkan memperingatkan tentang potensi risiko model berbobot terbuka, karena model tersebut dapat dimodifikasi dan didistribusikan ulang tanpa pengawasan yang memadai.