안전성책임 있는 AI 2026년 업데이트

워터마킹

정의

AI가 생성한 텍스트에 통계적으로 탐지 가능한 숨겨진 신호를 심어, 나중에 기계가 만든 글임을 식별할 수 있게 하는 기술입니다.

Kirchenbauer et al.(2023)은 언어 모델 텍스트용 워터마크를 제안했습니다. 각 토큰을 생성하기 전에 의사 난수로 정한 “초록색” 토큰 집합이 샘플링 과정에서 약간 더 선택되도록 하는 방식입니다. 이 편향은 독자 눈에는 보이지 않지만, 모델에 접근하지 않고도 짧은 텍스트 구간만으로 통계적으로 탐지할 수 있어, 이후 단계의 도구가 AI 생성 가능성이 높은 콘텐츠를 표시할 수 있습니다.

워터마킹은 출처 확인과 오용 탐지를 위한 기술적 접근법 중 하나이며, 패러프레이징에 얼마나 견고한지에 대해서는 논쟁이 계속되고 있습니다.

참고문헌

이 정의의 근거가 된 1차 자료, 동료 심사 자료 및 기록 자료입니다.

A Watermark for Large Language Models

Kirchenbauer, J., Geiping, J., Wen, Y., Katz, J., Miers, I., & Goldstein, T. (2023). Proceedings of the 40th International Conference on Machine Learning (ICML 2023).

출처 arXiv:2301.10226