安全性責任ある AI 2026年更新

ウォーターマーク

定義

AI が生成したテキストに、統計的に検出可能な隠れた信号を埋め込み、あとから機械が作成したものだと識別できるようにする技術です。

Kirchenbauer et al.（2023）は、言語モデルが生成するテキスト向けのウォーターマークを提案しました。各トークンを生成する前に、疑似ランダムに選ばれた「グリーン」トークンの集合が、サンプリング時にわずかに優遇されます。この偏りは読み手には見えませんが、モデルにアクセスしなくても短いテキストから統計的に検出でき、後段のツールが AI 生成の可能性が高いコンテンツを判別できるようになります。

ウォーターマークは、出所の証明や不正利用の検出に向けた技術的アプローチの一つですが、言い換え（パラフレーズ）に対する頑健性については議論が続いています。

参考文献

この定義の根拠となる一次資料、査読済み資料、アーカイブ資料です。

A Watermark for Large Language Models

Kirchenbauer, J., Geiping, J., Wen, Y., Katz, J., Miers, I., & Goldstein, T. (2023). Proceedings of the 40th International Conference on Machine Learning (ICML 2023).

出典 arXiv:2301.10226