מזונות חשובים
- מחקר חדש מגלה שאנשים לא יכולים להפריד בין תמונות שנוצרו בינה מלאכותית לבין תמונות אמיתיות.
- המשתתפים דירגו תמונות שנוצרו בינה מלאכותית כאמינות יותר.
- מומחים מאמינים שאנשים צריכים להפסיק לסמוך על כל מה שהם רואים באינטרנט.
הפתגם 'לראות זה להאמין' כבר לא רלוונטי בכל הנוגע לאינטרנט, ומומחים אומרים שזה לא ישתפר בקרוב.
מחקר שנערך לאחרונה מצא שתמונות של פרצופים שנוצרו על ידי בינה מלאכותית (AI) לא רק היו מציאותיות מאוד לצילום, אלא שהן גם נראו טובות יותר מפרצופים אמיתיים.
"ההערכה שלנו לגבי הפוטוריאליזם של פנים מסונתזות בינה מלאכותית מצביעה על כך שמנועי סינתזה עברו דרך העמק המדהים, ומסוגלים ליצור פרצופים שאי אפשר להבחין בהם ומהימנים יותר מפרצופים אמיתיים", ציינו החוקרים.
האדם הזה לא קיים
החוקרים, ד ר סופי נייטינגייל מאוניברסיטת לנקסטר ופרופסור האני פאריד מאוניברסיטת קליפורניה, ברקלי, ערכו את הניסויים לאחר שהכירו באיומים המתוקשרים של זיופים עמוקים, החל מכל מיני הונאה מקוונת ועד ממריצה. מסעות פרסום של דיסאינפורמציה.
"אולי הכי מזיק היא התוצאה שבעולם דיגיטלי שבו ניתן לזייף כל תמונה או סרטון, אפשר להטיל ספק באותנטיות של כל הקלטה לא נוחה או לא רצויה", טענו החוקרים.
הם טענו שבעוד שהייתה התקדמות בפיתוח טכניקות אוטומטיות לזיהוי תוכן מזויף עמוק, הטכניקות הנוכחיות אינן יעילות ומדויקות מספיק כדי לעמוד בקצב התמידי של תוכן חדש המועלה באינטרנט.משמעות הדבר היא שצרכני התוכן המקוון צריכים למיין את האמיתי מהמזוייף, מציע הצמד.
Jelle Wieringa, תומך למודעות אבטחה ב- KnowBe4, הסכים. הוא אמר ל-Lifewire באימייל שקשה מאוד להילחם בזיופים עמוקים בעצמם ללא טכנולוגיה מיוחדת. "[טכנולוגיות ממתן] עשויות להיות יקרות וקשות ליישום בתהליכים בזמן אמת, ולעתים קרובות מזהים זיוף עמוק רק לאחר מעשה."
עם הנחה זו, החוקרים ביצעו סדרה של ניסויים כדי לקבוע אם משתתפים אנושיים יכולים להבחין בין פנים מסונתזות עדכניות לבין פנים אמיתיות. בבדיקות שלהם, הם גילו שלמרות הכשרה כדי לסייע בזיהוי זיופים, שיעור הדיוק השתפר רק ל-59%, עלייה מ-48% ללא הכשרה.
זה הוביל את החוקרים לבדוק אם תפיסות של מהימנות יכולות לעזור לאנשים לזהות תמונות מלאכותיות. במחקר שלישי הם ביקשו מהמשתתפים לדרג את מהימנות הפנים, רק כדי לגלות שהדירוג הממוצע לפרצופים סינתטיים היה 7.7% יותר מהימן מהדירוג הממוצע של פרצופים אמיתיים. המספר אולי לא נשמע כמו הרבה, אבל החוקרים טוענים שהוא מובהק סטטיסטית.
זיופים עמוקים יותר
זיופים עמוקים כבר היוו דאגה גדולה, וכעת המים הועלו עוד יותר על ידי מחקר זה, מה שמרמז שתמונות מזויפות באיכות גבוהה כאלה יכולים להוסיף מימד חדש לגמרי להונאות מקוונות, למשל, על ידי סיוע ביצירת עוד לשכנע פרופילים מזויפים מקוונים.
"הדבר היחיד שמניע את אבטחת הסייבר הוא האמון שיש לאנשים בטכנולוגיות, בתהליכים ובאנשים שמנסים לשמור על בטיחותם", שיתף וירינגה. "זיופים עמוקים, במיוחד כשהם הופכים לפוטו-ריאליסטיים, מערערים את האמון הזה, ולפיכך, את האימוץ והקבלה של אבטחת סייבר. זה יכול להוביל לחוסר אמון באנשים בכל מה שהם רואים."
כריס Hauk, אלוף פרטיות הצרכנים ב-Pixel Privacy, הסכים. בהחלפת דוא"ל קצרה, הוא אמר ל-Lifewire שזיוף עמוק פוטוריאליסטי עלול לגרום ל"הרס" באינטרנט, במיוחד בימים אלה שבהם ניתן לגשת לכל מיני חשבונות באמצעות טכנולוגיית זיהוי תמונה.
פעולת תיקון
למרבה המזל, גרג קון, מנהל IoT, Prosegur Security, אומר שיש תהליכים שיכולים למנוע אימות כה הונאה. הוא אמר ל-Lifewire באימייל שמערכות אישורים מבוססות בינה מלאכותית תואמות אדם מאומת לרשימה, אבל לרבים יש אמצעי הגנה מובנים כדי לבדוק אם יש "חיות".
"סוגי מערכות אלו יכולים לדרוש ולהנחות משתמש לבצע משימות מסוימות כגון חיוך או להפנות את הראש שמאלה, ואז ימינה. אלו דברים שפנים שנוצרו באופן סטטי לא יכלו לבצע", שיתף Kuhn.
החוקרים הציעו קווים מנחים להסדרת יצירתם והפצתם כדי להגן על הציבור מפני תמונות סינתטיות. בתור התחלה, הם מציעים לשלב סימני מים מושרשים עמוק ברשתות סינתזת התמונות והווידאו עצמן כדי להבטיח שניתן לזהות באופן אמין את כל המדיה הסינתטית.
עד אז, פול בישוף, תומך פרטיות ועורך מחקר infosec ב-Comparitech, אומר שאנשים לבד."אנשים יצטרכו ללמוד לא לסמוך על פרצופים באינטרנט, בדיוק כפי שכולנו (בתקווה) למדנו לא לסמוך על שמות תצוגה באימיילים שלנו", אמר בישוף ל-Lifewire בדוא"ל.
