התכונה החדשה ביותר של Google Earth מבוססת בינה מלאכותית יוצרת (generative AI) מבטיחה דרך חדשה לצפייה באתרים היסטוריים ובצמיחת ערים. יחד עם זאת, היא פותחת את תיבת פנדורה של דיסאינפורמציה דיגיטלית. על ידי מתן אפשרות למשתמשים לעצב מחדש תצלומי לוויין ותצלומי תלת-ממד באמצעות הנחיות טקסט (text prompts), הפלטפורמה הופכת הפקת תוכן "מעוות מציאות" לקלה מאוד.

הכוח והסכנה של Nano Banana 2

Google השיקה את התכונה ברחבי העולם בגרסת הווב של Google Earth, הפועלת על מודל "Nano Banana 2". המסמכים של Google משווקים אותה ככלי עבור מתכננים והיסטוריונים כדי לדמיין פרויקטים של נדל"ן או חורבות עתיקות. בפועל, הכלי מתגלה כבלתי צפוי הרבה יותר.

היוצר הדיגיטלי Henk van Ess מ-Digital Digging כבר הראה כיצד המודל יכול להוליד תמונות רגישות ומעוררות פרובוקציה באופן קיצוני. באמצעות מספר הנחיות פשוטות, הוא יצר סצנה של "פליטים ליד הגבול המקסיקני" ובור פצצה לצד בית חולים בעזה. התמונות הללו מעוגנות בגאוגרפיה אמיתית, בניגוד להזיות ברורות כמו ספינקס המאוחד עם פסל החירות, ולכן הן מציבות סיכון גדול יותר להפצת שקרים גיאופוליטיים.

המאבק על סימון מים דיגיטלי (Digital Watermarking)

Google הגיבה על ידי הוספת הגנות טכניות רבות. כל תמונת Nano Banana נושאת כעת סימן מים דיגיטלי מסוג SynthID. Google מנחה את המשתמשים לסרוק תמונה חשודה באמצעות אפליקציית Gemini או Google Lens כדי לסמן תוכן שנוצר על ידי AI, ואף להוסיף תג "@verifyai" ב-Gemini לקבלת עזרה.

אך ההגנות לא התגלו כחסינות מפני כדורים. Van Ess הטעה את גלאי ה-AI של Hive באמצעות סרטון ששוכלל על ידי AI ומקורו ב-Google Earth, מה שמראה שסימן המים לבדו אינו יכול לעצור גורמים נחושים. האירוע מדגיש מרוץ חימוש גואה בין מודלים יוצרים לבין הגלאים שנועדו לפקח עליהם.

למה זה חשוב למערכת האקולוגית של ה-AI

הוויכוח סביב Google Earth שופט אור על "פער מציאות" המתקרב בתעשיית ה-AI. ככל שהמודלים עוברים מאמנות מסוגננת למניפולציה של נתוני "ground truth" (אמת קרקעית) — כמו תצלומי לוויין, למשל — הסיכונים קופצים מהיבטים אסתטיים להיבטים קיומיים.

מפתחים ומנהיגי טכנולוגיה צריכים לקבל זאת כאזהרה. כאשר AI מפעיל כלים שאנשים בוטחים בהם לצורך אמת אובייקטיבית, סימן מים דיגיטלי מציע רק שכבת הגנה אחת. Van Ess ומומחים אחרים טוענים שהתרופה האמינה היחידה היא אימות חוצה-פלטפורמות: השוואת הפלטים של Google Earth עם מקורות אורביטליים מהימנים כמו Sentinel-2 או Landsat. ככל שה-AI היוצר משתלב עמוק יותר במיפוי וניווט, היכולת להבחין בין רינדור סינתטי לבין לכידה אמיתית תהפוך למיומנות ליבה של אוריינות דיגיטלית.

נקודות מפתח

  • דיסאינפורמציה בעלת סיכון גבוה: Nano Banana 2 יכול לייצר דימויים היפר-ריאליסטיים ורגישים שמעצבים מחדש את התפיסה הציבורית של סכסוכים גיאופוליטיים.
  • מגבלות סימון המים: סימן המים SynthID של Google עוזר, אך הדגמות מראות שעדיין ניתן לעקוף גלאי AI, ולכן ההגנות הטכניות אינן מספיקות.
  • הצורך באימות ממקורות מרובים: על המשתמשים לבצע הצלבה של תצלומי לוויין מול נתונים אורביטליים משניים מפלטפורמות כמו Sentinel-2 או Landsat כדי לאשר את האותנטיות שלהם.

שורה תחתונה

Nano Banana 2 של Google מעניק למשתמשים לגיטימיים כלי ויזואליזציה עוצמתיים, אך הוא גם מעניק לכל אחד מברשת לצייר נרטיבים גיאופוליטיים כוזבים על קנבס בקנה מידה עולמי. סימן מים בלתי נראה רומז על מקור סינתטי; הוא אינו מבטיח אותו. עד שהזיהוי ישתפר ובדיקות ממקורות מרובים יהפכו לשגרתיות, הצופים חייבים להטיל ספק בכל תמונת לוויין מרשימה שמופיעה פתאום משום מקום.