AI技術の悪用を一掃し、是正する」という特別行動は、中央インターネット情報局(CNIO)が全国に展開する特別行動である。
2025年4月、中央インターネット情報弁公室は、3ヶ月間の全国的な特別作戦「AI技術濫用の排除-是正」を展開する通達を出した。
この特別作戦は2つのフェーズに分かれており、AI技術のガバナンスと違法コンテンツの是正に重点を置いている:
フェーズ1:AIテクノロジー・ソース・ガバナンスの強化
以下の6つのカテゴリーに焦点を当てている:
違法なAI製品:届出をしていない、違法な機能を提供する(例:「ワンクリック脱衣」)、他人のプライバシーを侵害する(例:声や顔のクローンを作る)。
問題のあるチュートリアルやツールの販売:顔や声を変える偽装のためのチュートリアルの普及、音声合成装置や顔変更ツールの販売など。
トレーニング・コーパスの不正:侵害または違法なソースからのデータの使用、管理メカニズムの確立の失敗。
脆弱なセキュリティ対策:監査メカニズムの欠如、非準拠アカウントの管理、プラットフォームによるAPIアクセスサービスの非効率的な監督。
合成含有量の不記載:合成含有量を詳細に表示しなかったため、一般消費者が情報の信憑性を誤って判断することになった。
主要分野におけるリスク:医療や金融といった機密性の高い分野のAIには、専門的なセキュリティ監査や誤解を招くようなサービスがない。
フェーズII:AIによる違法で望ましくない情報の生産と流布の是正
以下の7つのカテゴリーに焦点を当てている:
AI風説の流布:時事問題、社会的ホットスポット、災害事件などに関する風説を捏造し、公式発表を装って発表すること。
不正確な情報の公開:虚偽の内容を編集してつなぎ合わせる、古いニュースを蒸し返す、疑似科学を広める。
ポルノや下品なコンテンツの生成:AIストリップ、ソフトポルノ画像、ホラー画像、スモールポルノなど。
他人のなりすまし:AIによる顔のすり替え、詐欺目的で公人になりすます音声クローン、故人になりすます。
ネットワーク水武装活動に従事:AIバッチ操作アカウント、ブラッシング交通制御コメント、偽の熱を作成します。
非準拠のAIアプリやサービス:偽のウェブサイト、低俗なチャット、非準拠の増幅ツールなど。
未成年者の権利と利益の侵害:耽溺の誘発、未成年者向けの好ましくないコンテンツの流布。
目標:この特別行動を通じて、AI技術とコンテンツのガバナンスを包括的に改善し、違法使用を取り締まり、国民の合法的な権利と利益を保護する。
