מהמחקר עולה כי מדיה שנוצרה על ידי AI מובילה להונאות בעולם האמיתי, גניבת זהות ופגיעה בעסקים
דאלאס, 9 ביולי 2025 – ענקית הסייבר הבינלאומית טרנד מיקרו (Trend Micro) פרסמה היום מחקר חדש בשם Deepfake it ’til You Make It: A Comprehensive View of the New AI Criminal Toolset החושף את היקף ועומק פשעי הסייבר המופעלים באמצעות טכנולוגיית דיפ פייק. ככל שכלי הבינה המלאכותית הג'נרטיבית הופכים לחזקים, נגישים וזולים יותר, פושעי הסייבר מאמצים אותם במהירות לצורך ביצוע מתקפות – החל מהונאות עסקיות, דרך סחיטה וכלה בגניבת זהות.
המחקר מדגים כיצד טכנולוגיית הדיפ פייק עברה משלב ה"הייפ" אל שלב הניצול הממשי בעולם האמיתי, תוך ערעור האמון הדיגיטלי, חשיפת חברות לסיכונים חדשים והאצה של מודלים עסקיים בקרב פושעי סייבר.
לדברי מיכאל קונדרשין, ארכיטקט פתרונות סייבר בטרנד מיקרו: "מדיה שנוצרת באמצעות בינה מלאכותית אינה רק איום עתידי – מדובר באיום עסקי ממשי. אנו עדים למקרים של התחזות למנהלים בכירים בעזרת דיפ פייק, תהליכי גיוס משובשים, ומנגנוני הגנה פיננסיים שנעקפים בקלות מדאיגה. המחקר הזה הוא קריאת השכמה – אם עסקים לא יערכו מראש ובאופן יזום לעידן הדיפ פייק, הם ישארו מאחור. בעולם שבו לא ניתן עוד להאמין במה שאנחנו רואים – יש לבנות את האמון הדיגיטלי מחדש, מהיסוד."
פרסום
המחקר מצא כי שחקני איומים אינם נדרשים עוד למומחיות טכנית עמוקה כדי להוציא לפועל מתקפות משכנעות. במקום זאת, הם משתמשים בפלטפורמות מדף ליצירת וידאו, אודיו ותמונות – רבות מהן בכלל מיועדות ליוצרי תוכן – לצורך הפקת דיפ פייק ריאליסטיים שמטעים הן צרכנים פרטיים והן ארגונים. הכלים הללו זולים, קלים לשימוש והם הולכים ומשתכללים, עד כדי כך שהם מצליחים לעקוף מערכות אימות זהות ובקרות אבטחה.
המחקר מתאר אקוסיסטם פלילי מתרחב, שבו נעשה שימוש בטכנולוגיות אלו לצורך ביצוע הונאות משכנעות, כולל:
- הונאות מנכ"ל (CEO fraud) נעשות קשות יותר לזיהוי, כאשר התוקפים משתמשים בדיפ פייק קוליים או ויזואליים כדי להתחזות למנהלים בכירים בשיחות בזמן אמת.
- תהליכי גיוס עובדים נפגעים עקב מועמדים מזויפים שמשתמשים בבינה מלאכותית כדי לעבור ראיונות ולהשיג גישה לא מורשית למערכות פנימיות.
- חברות שירותים פיננסיים חוות עלייה חדה בניסיונות דיפ פייק לעקוף את תהליך ההכרות עם הלקוח, מה שמאפשר הלבנת הון תוך שימוש במסמכים מזויפים.
העולם התחתון הפלילי סוחר באופן פעיל במדריכים, ערכות כלים ושירותים שמיועדים לפשט את ביצוע הפעולות האלו. החל מספרי הוראות צעד‑אחר‑צעד לעקיפת תהליכי קליטה, ועד לכלים מוכנים להחלפת פנים – רף הכניסה לפעילות הזו נמוך מאי פעם.
פרסום
ככל שהונאות מבוססות דיפ פייק הופכות נפוצות ומתוחכמות יותר, ארגונים נקראים לנקוט צעדים יזומים להפחתת החשיפה לסיכון ולהגנה על העובדים והעסקים שלהם. צעדים אלו כוללים: הדרכת עובדים על סיכוני הנדסה חברתית, בחינה מחדש של תהליכי אימות זהות, וחיפוש אחר פתרונות לזיהוי מדיה סינתטית.
