תוכן סינתטי ודיפפייק (synthetic media, deepfake)

דיפפייק: האם תמונה או קול משכנעים מוכיחים שאירוע התרחש?

סרטון קצר מציג אדם מוכר אומר משפט מפתיע. התמונה והקול נראים אמינים, אבל המראה לבדו אינו מספיק כדי לקבוע שהאירוע קרה.

מהו תוכן סינתטי?

תוכן סינתטי הוא תמונה, שמע או וידאו שנוצרו או שונו באמצעים דיגיטליים. "דיפפייק" משמש לרוב לתוכן שמדמה אדם או אירוע באופן שעלול להטעות. לא כל תוכן סינתטי נועד להטעות: איור, דיבוב מורשה והמחשה לימודית יכולים להיות לגיטימיים. NIST מציע חומר לציבור על בחינת מדיה דיגיטלית.

למה קשה לזהות?

כלי יצירה יכולים לייצר פרטים חזותיים וקוליים משכנעים. מנגד, גם צילום אמיתי יכול להיראות מוזר בגלל דחיסה, תאורה או עריכה רגילה. לכן "יש שש אצבעות" או "הקול נשמע לי מוזר" אינם מבחן אמין בפני עצמם.

קיבלתם הודעה קולית שמבקשת להעביר כסף בדחיפות. לפני פעולה, צרו קשר עם האדם בערוץ מוכר ובדקו את הבקשה בנפרד. אותו עיקרון חל גם על סרטון ויראלי: חפשו מקור ראשון, תאריך, הקשר ודיווחים עצמאיים.

מה כדאי לעשות?

עצרו לפני שיתוף או פעולה, במיוחד כשהתוכן מעורר לחץ. בדקו מי פרסם אותו במקור, האם קיימת גרסה מלאה והאם יש אימות נוסף. כלי זיהוי אוטומטיים יכולים לסייע, אך אין להסתמך על תוצאה אחת כעל הוכחה מוחלטת.

הבדיקה החשובה היא של הטענה והמקור, לא רק של המראה.