מזונות חשובים
- Deep Nostalgia היא תוכנית חדשה המאפשרת לך להנפשת תמונות ישנות.
- הטכנולוגיה מראה עד כמה קל ליצור סרטונים של אנשים שעושים דברים שהם בעצם לא עשו בחיים האמיתיים.
- טכנולוגיה מזויפת עמוקה כבר כל כך מתוחכמת שקשה לדעת אם סרטון וידאו אמיתי או שנוצר ממוחשב, אומר מומחה אחד.
היזהר מתוכנות חדשות שיכולות ליצור מה שנקרא "זיופים עמוקים", שבהן ניתן לדמות סרטונים של אנשים אמיתיים, מזהירים מומחים.
Deep Nostalgia, שיצא על ידי חברת MyHeritage, נמצא במגמות ברשתות החברתיות, כאשר משתמשים מחייה את כולם ממלחינים מפורסמים ועד קרובי משפחה מתים. התוכנה גוררת תגובות מעורבות, כאשר חלק מהאנשים מרוצים מהיצירות, ואחרים מוצאים אותן מפחידות. הטכנולוגיה מראה עד כמה קל ליצור סרטונים של אנשים שעושים דברים שהם בעצם לא עשו בחיים האמיתיים.
"טכנולוגיית Deepfake נעשית מתוחכמת ומסוכנת יותר", אמר אהרון לוסון, עוזר מנהל מעבדת הטכנולוגיה והמחקר של SRI International (STAR), בראיון באימייל. "זה נובע חלקית מהטבע של בינה מלאכותית. היכן שטכנולוגיה 'מסורתית' דורשת זמן ואנרגיה אנושית כדי להשתפר, בינה מלאכותית יכולה ללמוד מעצמה.
"אבל היכולת של בינה מלאכותית לפתח את עצמה היא חרב פיפיות", המשיך לוסון. "אם בינה מלאכותית נוצרה כדי לעשות משהו מיטיב, נהדר. אבל כאשר בינה מלאכותית מיועדת למשהו זדוני כמו זיופים עמוקים, הסכנה היא חסרת תקדים."
תוכנה מביאה חיים לתמונות
אתר Genealogy MyHeritage הציג את מנוע האנימציה בחודש שעבר. הטכנולוגיה, הידועה בשם Deep Nostalgia, מאפשרת למשתמשים להנפיש תמונות דרך אתר MyHeritage. חברה בשם D-ID עיצבה אלגוריתמים עבור MyHeritage המשחזרים באופן דיגיטלי את התנועה של פנים אנושיות. התוכנה מיישמת את התנועות על תצלומים ומשנה את הבעות הפנים כדי לזוז כפי שפנים אנושיות נוהגות לעשות, לפי אתר MyHeritage.
Nostalgia עמוקה מראה שטכנולוגיה מזויפת עמוקה הופכת נגישה יותר, אמר ליאור שמיר, פרופסור למדעי המחשב באוניברסיטת קנזס סטייט בראיון באימייל. זה מתקדם במהירות ומבטל אפילו את ההבדלים העדינים בין הווידאו והאודיו המזויפים לאמיתיים.
"חלה גם התקדמות משמעותית לקראת זיוף עמוק בזמן אמת, כלומר סרטונים מזויפים עמוקים משכנעים נוצרים בזמן תקשורת וידאו", אמר שמיר."לדוגמה, אפשר לקיים פגישת זום עם אדם מסוים, תוך כדי ראייה ושמיעה של קולו של אדם אחר לגמרי."
יש גם מספר הולך וגדל של זיופים עמוקים מבוססי שפה, אמר ג'ייסון קורסו, מנהל מכון סטיבנס לבינה מלאכותית במכון הטכנולוגי של סטיבנס, בראיון באימייל. "יצירת פסקאות שלמות של טקסט מזויף עמוק לקראת אג'נדה ספציפית היא די קשה, אבל ההתקדמות המודרנית בעיבוד שפה טבעית עמוקה מאפשרת זאת", הוסיף.
איך לזהות זיוף עמוק
בעוד שטכנולוגיית זיהוי זיוף עמוק נמצאת עדיין בשלבי התחלה, יש כמה דרכים שבהן תוכל לזהות אחת, אמר קורסו, החל מהפה.
"השונות במראה הפנימי של הפה כאשר מישהו מדבר היא גבוהה מאוד, מה שמקשה על הנפשה משכנעת", הסביר קורסו. "אפשר לעשות את זה, אבל זה קשה יותר משאר הראש.שימו לב כיצד סרטוני Deep Nostalgia אינם מדגימים יכולת לתצלום לומר 'אני אוהב אותך' או ביטוי אחר במהלך היצירה העמוקה המזויף. פעולה זו תדרוש פתיחה וסגירה של הפה, דבר שקשה מאוד ליצירת זיוף עמוק."
Ghosting הוא עוד מתנה, הוסיף קורסו. אם אתה רואה טשטוש סביב קצוות הראש, זה תוצאה של "תנועה מהירה או פיקסלים מוגבלים הזמינים בתמונת המקור. אוזן עלולה להיעלם חלקית לרגע, או שיער יכול להיות מטושטש במקום שלא היית מצפה ממנו", הוא אמר.
אתה גם יכול לשים לב לשונות צבע כשאתה מנסה לזהות סרטון מזויף עמוק, כגון קו חד על הפנים, עם צבעים כהים יותר בצד אחד ובהירים יותר בצד השני.
"אלגוריתמי מחשב יכולים לעתים קרובות לזהות את דפוסי העיוות הללו", אמר שמיר. "אבל אלגוריתמים מזויפים עמוקים מתקדמים במהירות. זה בלתי נמנע שיידרשו חוקים נוקשים כדי להגן מפני זיוף עמוק ומהנזק שהם יכולים לגרום בקלות."
