עד 2026 משערים מומחים, כ-90% מהמדיה ברשתות החברתיות ייווצרו באמצעות AI. אבל כבר היום נעשה שימוש חסר-תקדים בבינה מלאכותית כדי ליצור מדיה מזויפת לצרכי מערכות בחירות או עימותים בינלאומיים. כדי להתמודד עם האיומים הללו, הקים מיכאל מטיאס יחד עם עמיתיו מחידה 8200 ואוניברסיטת סטנפורד את חברת הסטראט-אפ Clarity במטרה לנסות ולבלום את המדיה המזויפת רגע לפני שהיא מופיעה על המסכים שלנו.
"בעולם שבו 90% אחוז מהתוכן ברשתות יווצר על-ידי AI, כל אחד מאיתנו ייקח חלק בעל כורחו במתקפת סייבר ברגע שיצפה, יגיב או ישתף סרטון שאינו אמיתי."
כבר היום יש לא מעט חברות שמתמחות בייצור והפצה של דיפ פייק, ונראה כי התחום הזה עוד רק בראשית דרכו. "עולם ה-AI מושך מיליוני דולרים וכל יום מוקמות עוד חברות שמגבירות את התחרות וכך גם את רמת האיכות והנגישות. כולם כבר שמעו על זה שישנן חברות שפועלות כדי שבעוד כמה שנים לכולנו יהיה אווטאר שיוכל להחליף אותנו בשיחות זום, ושנציג הבנק שלנו יוחלף בדמות וירטואלית שנראית ונשמעת כמוהו בדיוק. יהיו לכך הרבה השלכות חיוביות – אבל אף אחד לא מדבר על סכנות הסייבר האפשריות והעובדה שבעולם וירטואלי, גם נהיה חשופים מדי יום לעשרות ומאות הונאות וירטואליות.
מתקפה למשל של אלפי סרטונים בבת אחת ללא מערכת הגנה ראויה, יכולה להכריע בחירות, למוטט חברות ולהוביל אנשים ומדינות להחלטות גורליות
מיכאל מטיאס מספר:
"במהלך השירות שלי ב-8200, זיהיתי כיצד השילוב בין סייבר ובינה מלאכותית הולך להשפיע בקרוב מאוד על מערכות פיננסיות, ביטחוניות ומדיניות בצורה חסרת תקדים.
ככל שאתה חוקר את הנושא יותר – אתה מבין שהסייבר הוא כבר היום אחד מהאיומים הגדולים שניצבים בפני הדמוקרטיה והתפתחות הבינה המלאכותית היא הקטר שיאפשר להוציא לפועל מתקפות סייבר רחבות בכל מקום בעולם. לצערנו, הגענו למצב שלמרות שהמתקפות האלו הם כבר חלק בלתי נפרד מהיומיום – עדיין לא היה אף מנגנון אבטחה יעיל שינסה להתמודד איתם. לכן הקמנו את Clarity".
מיכאל הוא הבן של יוסי מטיאס, המשמש כיום כסגן נשיא בגוגל העולמית ומנכ״ל מרכז המחקר והפיתוח של גוגל בישראל. " גדלתי בבית שבו ה-AI הוא חלק מהשיח היומיומי. בזמן שאבא שלי הוביל פרויקטים של בינה מלאכותית בגוגל, אמא שלי שימשה כמשנה ליועצת המשפטית והביאה לבית את המישור המדיני. החיבור בין שני העולמות הוביל אותי לחקור את השפעות ה-AI על מדינות דמוקרטיות ולבסוף להקים יחד עם פרופסורים מסטנפורד המומחים דווקא למשטרים דמוקרטים את החברה".
מאז הוקמה החברה ב-2022, Clarity משמשת מוסדות פיננסיים, צבאיים וממשלתיים כמו גם גופי תקשורת ואנשי ציבור בכירים, כדי לזהות מניפולציות של AI בסרטוני וידאו, תמונות, אודיו ולאמת את מהימנותם. בכך, החברה מסייעת למנוע הפצת מידע שגוי שמטרתו להנדס תודעה ציבורית, וחמור מכך – למנוע הונאות, מתקפות פישינג וחדירות מידע למנגנונים רגישים מרמת הפרט ועד למדינה.
אחד האתגרים העיקריים איתו החברה מתמודדת הוא איום ה-"דיפ-פייק" – תכני וידאו ושמע שנראים ונשמעים אמינים לחלוטין על-אף שבפועל לא קרו מעולם. "תכני דיפ-פייק הם למעשה אחד מסוגי המתקפות שהתעצמו עקב השילוב של סייבר ובינה מלאכותית. אם בעבר היה מאוד קשה לערוך תכנים באמצעות פוטושופ או תוכנות אחרות, היום כל אדם שיש לו מחשב יכול להשתמש בפלטפורמות ה-AI כדי לייצר באופן חינמי ומהיר מספר בלתי-נגמר של תוכן מזויף".
היום צריך רק 30 שניות של הקלטה קולית כדי לייצר דיפ-פייק מושלם לכל בן אדם. כבר היום אנחנו עדים למקרים רבים בהם אנשים מקבלים שיחות טלפון לכאורה מקולגה או מהבוס שלהם, שמבקש מהם לעשות פעולות בעלות השלכות מרחיקות לכת. בארצות הברית אפילו התפשטה מגפה בה הורים מקבלים שיחות טלפון מילדיהם שזועקים בקולם כי הם נחטפו ולאחר מכן יוצר הדיפ-פייק דורש כופר מההורים המבוהלים".
"אירועים כאלו נוגעים בעיקר לפרט, אולם הם יכולים גם לסכן ארגונים ואף להוות איום על ביטחון המדינה. זה כבר קרה במלחמת רוסיה-אוקראינה כשהופץ ברשת סרטון של זלנסקי המורה למפקדי הצבא להניח את נשקם, או כשיועצו האישי של הנשיא עלה לשיחה עם שגריר ארה"ב ברוסיה, ורק לאחר עשר דקות במהלם הצדדים החליפו מידע רגיש התברר כי מדובר בדיפ-פייק והשגריר בכלל לא נמצא על הקו. כמו שזה קרה שם, זה יכול לקרות בכל מקום אחר".
אנחנו בעיצומו של מרוץ חימוש בינלאומי – ומי שלא ימגן את עצמו מפני איומי הדיפ-פייק, עלול למצוא את עצמו במוקדם או במאוחר בצד המותקף. לכן, כמו שצ'ק-פוינט פרצו דרך כשיצרו את ה-Firewall לרשתות התקשורת, עכשיו העולם זקוק לחברות שיספקו לו Firewall לאיומי הדיפ-פייק".
זוהי בדיוק רשת ההגנה שחברת Clarity מספקת ללקוחותיה – מטמיעה מערכות הגנה מתקדמות ומספקת להן יתרון טכנולוגי המאפשר להן להיות תמיד "צעד אחד לפני" המפגעים. מבין 15 עובדי החברה כיום, ניתן למנות לא מעט יוצאי צ'ק פוינט כמו גם אנשי מודיעין ישראליים.
