السلامةالذكاء الاصطناعي المسؤول تحديث 2026

العلامة المائية

التعريف

تضمين إشارة مخفية قابلة للكشف إحصائيًا في النصوص المولَّدة بالذكاء الاصطناعي، بحيث يمكن لاحقًا التعرّف عليها بوصفها من إنتاج الآلة.

اقترح Kirchenbauer et al. (2023) علامة مائية لنصوص النماذج اللغوية: قبل توليد كل رمز، تُفضَّل مجموعة شبه عشوائية من الرموز «الخضراء» تفضيلًا طفيفًا أثناء أخذ العينات. هذا الانحياز غير مرئي للقرّاء، لكنه قابل للكشف إحصائيًا من مقطع نصي قصير دون الحاجة إلى الوصول إلى النموذج، ما يتيح للأدوات اللاحقة الإشارة إلى المحتوى المرجّح أنه مولَّد بالذكاء الاصطناعي.

العلامة المائية إحدى المقاربات التقنية لتتبّع المصدر واكتشاف إساءة الاستخدام، مع نقاش مستمر حول مدى صمودها أمام إعادة الصياغة.

المراجع

مصادر أولية ومحكّمة وأرشيفية لهذا التعريف.

A Watermark for Large Language Models

Kirchenbauer, J., Geiping, J., Wen, Y., Katz, J., Miers, I., & Goldstein, T. (2023). Proceedings of the 40th International Conference on Machine Learning (ICML 2023).

المصدر arXiv:2301.10226