Anthropic החלה באופן רשמי להטמיע סימון מים (watermarking) בטקסט לאורך משפחת מודלי Claude שלה, במטרה לשפר את השקיפות של הבינה המלאכותית ולעמוד ברגולציות מתהוות. בעוד שהחברה מבטיחה אינטגרציה חלקה, מתעורר ויכוח גובר בנוגע להשפעה על הדיוק הלשוני ולהשלכות המשפטיות של כתיבה המזוהה כתוצר של בינה מלאכותית.

המכניקה של סימון מים חמקני

הגישה של Anthropic מבוססת על המתודולוגיה של SynthID-Text של Google DeepMind. בניגוד לסימון מים מסורתי, שעשוי להוסיף תוויות גלויות או תווים נסתרים של Unicode, מערכת זו פועלת ברמה ההסתברותית של מודל השפה הגדול (LLM). היא פועלת באמצעות כוונון עדין של מקור האקראיות המשמש במהלך בחירת הטוקנים (tokens). על ידי התאמת ההסתברות של בחירות מילים מסוימות, המערכת יוצרת תבנית הניתנת לזיהוי סטטיסטי על ידי תוכנות ייעודיות, מבלי לשנות את המראה הוויזואלי של הטקסט.

Anthropic טוענת כי לתהליך זה אין השפעה מדידה על היצירתיות או על קריאות הפלט של Claude. כדי לצמצם סיכונים בסביבות בעלות דיוק גבוה, החברה מציינת כי סימון המים הוא "דליל" יותר בקטעים עמוסי עובדות, שבהם אוצר המילים מוגבל על ידי נחיצות סמנטית.

הביקורת הלשונית: דיוק מול יצירת תבניות

למרות הבטחותיה של Anthropic, מבקרי טכנולוגיה בולטים כמו John Gruber מ-Daring Fireball טוענים כי הטענה ל"חוסר תפיסה" היא פגומה. ליבת הטיעון נשענת על ניואנסים סמנטיים: אין שתי מילים נרדפות שהן חליפיות באופן מושלם. אם אלגוריתם סימון המים נותן עדיפות לטוקן מסוים כדי לשמור על תבנית סטטיסטית, הוא עלול לוותר על מילה מדויקת יותר לטובת מילה "נכונה" מבחינה סטטיסטית עבור סימון המים.

Gruber מציע כי הדבר עלול להוביל לירידה עדינה באיכות הטקסט, ומציין כי המדדים הנוכחיים המשמשים לאימות מערכות כמו SynthID — כג as דירוגי "thumbs-up/down" של משתמשים — אינם מספיקים. סביר להניח שמשתמש לא יעניש מודל על כך שבחר ב-"grey" במקום ב-"overcast", גם אם האחרונה מספקת עומק סגנוני טוב יותר, מה שאומר ש"איכות" הטקסט עלולה להישחק בדרכים שסטנדרטים רגילים אינם מצליחים לתפוס.

השלכות משפטיות והטבע ה"דביק" של הסימונים

ההטמעה מציגה מורכבויות משמעותיות עבור מגזרים מקצועיים, במיוחד ענף המשפט. לפי Artificial Lawyer, בעוד שרוב הלקוחות אינם מתעניינים בסיוע של בינה מלאכותית, היכולת להוכיח מעורבות של AI הופכת לנטל משפטי במקרים שבהם השימוש ב-AI אסור במפורש על ידי שופט או לקוח.

אתגר טכני קריטי הוא ה"עמידות" (persistence) של סימני המים הללו. מכיוון שהסימונים מוטמעים בטקסט עצמו, הם יכולים להתפשט דרך מסמכים. חוזה שנכתב על ידי אדם ומכיל סעיף שנוצר על ידי AI יישא את סימון המים הזה איתו, מה שעלול "לזהם" תבניות עתידיות. יתרה מכך, ככל שאנשי מקצוע משתמשים במספר מודלי LLM, מסמכים עשויים להכיל בסופו של דבר סימוני מים חופפים מספקים שונים, מה שיוצר סיוט פורנזי עבור ביקורות שקיפות.

ציות ועקיפה

המהלך מונע במידה רבה מהצורך לציית ל-EU AI Act, אם כי Anthropic מיישמת את התכונה באופן גלובלי כדי למנוע פיצול אזורי. כל מודלי Claude ששוחררו לאחר ה-2 באוגוסט כבר תומכים בסימון מים, כאשר מודלים ישנים יותר מתוכננים לעבור התאמה רטרואקטיבית. עם זאת, היעילות של המערכת נותרה שנויה במחלוקת; כלים כמו Declaude כבר משמשים להסרת הסימונים הללו באמצעות ניסוח מחדש (paraphrasing), מה שמרמז שבעוד שסימון מים עשוי לספק את הרגולטורים, הוא עלול להתקשות לעצור עקיפה מכוונת.

נקודות מרכזיות

  • זיהוי הסתברותי: Anthropic משתמשת בשיטה בסגנון SynthID שמשנה את רמת האקראיות בבחירת הטוקנים במקום להוסיף תווים גלויים, מה שהופך את סימון המים לניתן לזיהוי סטטיסטי אך נסתר ויזואלית.
  • פשרות באיכות: מבקרים טוענים כי כפיית בחירות מילים מסוימות כדי לשמור על תבנית סימון מים מקריבה מטבעה דיוק סמנטי וניואנס סגנוני.
  • אחריות משפטית: הטבע ה"דביק" של סימני המים פירושו שטקסט שנוצר על ידי AI יכול לשאת תבניות ניתנות לזיהוי למסמכים עתידיים, מה שיוצר סיכוני שקיפות עבור משרדי עורכי דין ותעשיות מפוקחות מאוד.