中国は9月から、AIが生成したすべてのコンテンツに明確なフラグ付けを実施する
AIテキスト、オーディオ、ビデオ、画像、そしてバーチャルシーンでさえも、すべてラベル付けが必要になる。
中国共産党（CCP）の国家インターネット検閲機関は、すべてのAIが生成したコンテンツに、視聴者が明示的に見聞きできるラベルを付け、メタデータに埋め込むことを義務付けると発表したばかりだ。
中国サイバースペース管理局（CAC）は、人工知能が生成したコンテンツと合成コンテンツの識別に関する措置（機械翻訳）について、メディア向けの質疑応答（FAQのようなもの）の記録を公開したばかりだ。
我々は、CACの草案が現れた昨年9月に、この政策の動きの最初の兆候を見た。
この規制は2025年9月1日に発効し、すべてのサービスプロバイダー（すなわちAI LLM）に対して、「生成・合成されたコンテンツに明示的なラベルを追加する 」ことを強制する。
この指令には、テキスト、画像、動画、音声、さらには仮想シーンなど、あらゆる種類のデータが含まれる。
それ以外にも、アプリストアに、ホストしているアプリが規制に従っているかどうかを確認するよう命じている。
ユーザーは、「社会的関心や産業上の必要性 」のために、ラベルのないAI生成コンテンツを求めることはできる。
ただし、生成アプリはこの要件をユーザーに繰り返し説明し、追跡を容易にするために情報を記録しなければならない。
AIが生成したラベルとメタデータを追加する責任は、このエンドユーザーの個人または団体にある。
CACはまた、これらのAIラベルの悪意ある削除、改ざん、偽造、隠蔽を、これらの行為の実行を助けるツールの提供を含めて違法としている。
これは明らかに、AIが生成したコンテンツのAIラベルとメタデータを削除することが禁止されていることを意味するが、人間が作成したデータにこの識別子を追加することも禁止されている。
中国共産党はCACを通じて、この法律の適用により偽情報の拡散をコントロールし、インターネットユーザーがAIが生成したコンテンツに惑わされるのを防ぐことを目的としている。現
時点では、違反者に対する罰則は定められていないが、中国政府による法的措置の脅威は常にある。
AI技術の開発と利用をコントロールしようとする法律はこれが初めてではなく、EUは2024年に人工知能法を制定している。
特にCACは、中国国境内のインターネットを制限・管理するグレート・ファイアウォールを管理していることで知られているため、多くの人がCACのこの動きに否定的な反応を示すかもしれない。
とはいえ、この動きは、特にAI LLMがより高度になるにつれて、あらゆる人からの誤った情報を減らすのに役立つだろう。
人工的に生成されたコンテンツが明確に表示されるようにすることで、人々は自分が見たり聞いたりしているのが実際の出来事なのか、それともどこかのサーバー・ファームの機械によって作り出されたものなのかを、より簡単に判断できるようになるだろう。
解説：
中国政府がAIが生成したコンテンツにフラグを立てることを義務付ける。
あまり良い印象のない中国政府ですが、これは良いことだと思います。
現在の生成AIがもたらしている混乱はエンドユーザーに自由を与えても使いこなすことができず混乱しか生まないということです。
おそらく、イニシアティブをとるために欧米でも似たような仕組みができると思いますので、そういう意味でも良い政策だと思います。
立てるフラグが改ざん不可能なデジタル透かしであるならばなおよいです。
ディープフェイクポルノや詐欺など多種多様な迷惑行為に全力で使われているAIですが、どこかで歯止めをかけない限り、社会が正常に回らなくなるところまで来ています。
AIの負の側面ですが、あまりにもその性能が絶大であるために、人の悪意も途方もなく加速させてしまいます。
自分が被害者になった時に嫌な思いをしないためにも生成AIが生成するコンテンツには削除不可能なデジタル透かしを入れる必要があると思います。
これに反対な人は犯罪者だけでしょう。