מזונות חשובים
- העוזרת הקולית Alexa של Amazon יכולה להעתיק קול עם דקה אחת של אודיו.
- אתה יכול לבקש מאלכסה לקרוא סיפור בקולו של הורה מת.
- זה אותו רעיון כמו זיופים עמוקים, המשמש רק לכוחות הטוב.
הגימיק האחרון של Amazon Alexa הוא ללמוד לחקות את קולו של אדם אהוב שמת, כדי שיוכלו לדבר איתך מעבר לקבר.
אלכסה צריכה רק דקה של אודיו מדובר כדי לחקות קול בצורה משכנעת.אמזון רואה בזה תכונה מנחמת שיכולה להביא אותך לקשר עם אנשים אהובים, אבל זו יכולה להיות גם חוויה די מצמררת. וזה מראה כמה קל ליצור אודיו מזויף עמוק מספיק טוב כדי לשטות בנו, אפילו כשהקול הוא כזה שאנחנו מכירים היטב.
"אמזון בהחלט נכנסה לטריטוריה די ייחודית ומוזרה עם הכרזתה שאלקסה תוכל בקרוב ללמוד ולאחר מכן להשתמש בקול של קרובי משפחה מתים בקרוב", אמר ביל מאן, מומחה לפרטיות ב-Restore Privacy. Lifewire באמצעות דואר אלקטרוני. "עבור אנשים מסוימים, זה לא מפחיד בכלל. למעשה, זה יכול להיות די נוגע ללב."
Ghost in the Machine
כחלק מכנס re:MARS השנתי שלה, אמזון מציגה את התכונה בסרטון קצר. בו, ילד שואל את אלקסה אם סבתא יכולה להמשיך לקרוא לו את "הקוסם מארץ עוץ", היצירה החביבה על כל ילד וילדים ברשות הרבים. וזה רגע די נוגע ללב. קשה שלא להרגיש רגשות אנושיים כשסבתא מתחילה לקרוא.
"בני אדם נאבקים בתמותה, במיוחד בתרבות המערבית. במשך מאות שנים ניסינו למצוא דרכים להנצחת המתים, ממסכות מוות, דרך קווצות שיער, לתמונות ישנות ועד לצפייה בסרטים ישנים", אנדרו סלפק., פרופסור למדיה חברתית באוניברסיטת פלורידה, אמר ל-Lifewire בדוא"ל. "Deepfakes משתמש בטכנולוגיה העדכנית ביותר כדי ליצור מסכת מוות חדשה של אדם אהוב שנפטר. אבל, בהתאם לנקודת המבט של האדם, האם זה מפחיד או דרך להנציח ולהחזיק מישהו שאתה אוהב אחרי שהוא מת?"
אבל מזכרת מורי יכולה להיות גם מנחמת וגם מצמררת. חבר של בן משפחה מת, ובכל זאת אתה עדיין יכול לשמוע אותם מדברים. זה לא עוזר שלאלקסה יש היסטוריה של התנהגות מוזרה, ולפעמים מפחידה. ב-2018, כשכותב הדעות של NYT, פרהאד מנג'ו, נכנס למיטה, אמזון אקו שלו "החל ליילל, כמו ילד שצורח בחלום סרט אימה."
זמן קצר לאחר מכן, אמזון הכירה שאלכסה לפעמים צחקה בקול, שיחד עם בני נוער ומרתפים, הוא סרט אימה 101.
אפשר רק לתהות איך אתה עלול להרגיש אם אלכסה תעשה את אותם הטריקים בקולה של סבתא.
זיוף עמוק
הקלות לכאורה שבה אלכסה לומדת לחקות קול מובילה אותנו לשימושים מרושעים יותר של שיבוט קול: זיופים עמוקים.
"שמע Deepfake אינו חדש, גם אם הוא מעט מובן ומעט ידוע. הטכנולוגיה זמינה במשך שנים כדי ליצור מחדש את הקול של אדם עם אינטליגנציה מלאכותית ולמידה עמוקה תוך שימוש במעט אודיו בפועל מהאדם, " אומר סלפק. "טכנולוגיה כזו עלולה להיות גם מסוכנת והרסנית. אדם מופרע יכול לשחזר את קולו של חבר או חברה מתה ולהשתמש באודיו החדש כדי לומר דברים מעוררי שנאה ופוגעים."
זה רק בהקשר של Alexa. אודיו מזויף עמוק יכול ללכת הרבה מעבר לזה, לשכנע אנשים שפוליטיקאים בולטים מאמינים בדברים שהם לא מאמינים בהם, למשל.אבל מצד שני, ככל שנתרגל לזיופים העמוקים האלה - אולי בצורה של קולות אלקסה האלה - כך נהיה ספקנים יותר לגבי הזיופים המרושעים יותר. אז שוב, בהתחשב בכמה קל להפיץ שקרים בפייסבוק, אולי לא.
Amazon לא אמרה אם התכונה הזו מגיעה לאקסה או שהיא רק הדגמה טכנולוגית. אני די מקווה שכן. הטכנולוגיה היא במיטבה כשמשתמשים בה בצורה הומניסטית כמו זו, ולמרות שהתגובה הקלה היא לקרוא לזה מצמרר, כמו שסלפק אומר, זה באמת לא כל כך שונה מצפייה בסרטונים ישנים או האזנה להודעות קוליות שמורות, כמו דמות בתוכנית טלוויזיה עם תסריט בעצלתיים.
ואם הטכנולוגיה לזיופים עמוקים זמינה בקלות, למה שלא נשתמש בה כדי לנחם את עצמנו?
