מזונות חשובים
- טוויטר מקווה לתקן את מה שמשתמשים מכנים הטיה גזעית בתוכנת התצוגה המקדימה של התמונות שלהם.
- הקריאה של ענקית הטכנולוגיה עשויה להיות ההתחשבנות התרבותית שהתעשייה צריכה לטפל בבעיות של גיוון.
- חוסר הגיוון של Tech פוגע ביעילות ההתקדמות הטכנולוגית שלה.
טוויטר אמורה לפתוח בחקירה על אלגוריתם חיתוך התמונות שלה לאחר שזה הפך לנושא מגמתי שגרם לשיחה גדולה יותר בנושאי גיוון בתעשיית הטכנולוגיה.
הצעד של המדיה החברתית עלה לכותרות לאחר שמשתמשים גילו הטיה גזעית לכאורה באלגוריתם התצוגה המקדימה שלו. התגלית התרחשה לאחר שמשתמש הטוויטר קולין מדלנד השתמש בפלטפורמה כדי לקרוא לכישלונו של זום לזהות את עמיתיו השחורים שהשתמשו בטכנולוגיית המסך הירוק, אך במופע גדול של אירוניה, הוא גילה שאלגוריתם חיתוך התמונות של טוויטר התנהג בצורה דומה והפחית את סדר העדיפויות של פרצופים שחורים.
בהחלט, זו בעיה ענקית עבור כל מיעוט, אבל אני חושב שיש גם בעיה הרבה יותר רחבה.
משתמשים אחרים נכנסו למגמה שעוררה סדרה של ציוצים ויראליים המראים שהאלגוריתם נותן עדיפות עקבית לפרצופים לבנים ובעלי עור בהיר יותר, החל מאנשים ועד דמויות מצוירות ואפילו כלבים. כישלון זה מעיד על תנועה תרבותית גדולה יותר בתעשיית הטכנולוגיה שלא הצליחה לתת דין וחשבון לקבוצות מיעוט באופן עקבי, שגלשה לצד הטכני.
"זה גורם למיעוטים להרגיש נורא, כאילו הם לא חשובים, וזה יכול לשמש לדברים אחרים שעלולים לגרום נזק חמור יותר בהמשך הקו", אריק למד-מילר, פרופסור למדעי המחשב באוניברסיטה מסצ'וסטס, אמר בראיון טלפוני."לאחר שהחלטתם למה ניתן להשתמש בתוכנה וכל הנזקים שעלולים להתרחש, אז אנחנו מתחילים לדבר על הדרכים למזער את הסיכוי שדברים יקרו."
קנרית על ציר הזמן
טוויטר משתמש ברשתות עצביות כדי לחתוך אוטומטית תמונות המוטמעות בציוצים. האלגוריתם אמור לזהות פרצופים לתצוגה מקדימה, אך נראה שיש לו הטיה לבנה ניכרת. דוברת החברה ליז קלי צייצה תגובה לכל החששות.
קלי צייצה בטוויטר, "תודה לכל מי שהעלה את זה. בדקנו את ההטיה לפני שליחת הדגם ולא מצאנו עדות להטיה גזעית או מגדרית בבדיקה שלנו, אבל ברור שיש לנו עוד ניתוח כדי עשה זאת. אנו נפתח את העבודה שלנו בקוד כדי שאחרים יוכלו לבדוק ולשכפל."
מחבר שותף של הספר הלבן "טכנולוגיות זיהוי פנים בטבע: קריאה למשרד פדרלי", Learned-Miller היא חוקרת מובילה בנושא העודפים של תוכנת למידה בינה מלאכותית מבוססת פנים.הוא דן כבר שנים בהשפעה השלילית הפוטנציאלית של תוכנת לימוד תמונה, ודיבר על החשיבות של יצירת מציאות שבה ההטיות הללו ממוכזות כמיטב יכולתן.
אלגוריתמים רבים לטכנולוגיית זיהוי פנים משתמשים בערכות התייחסות לנתונים, הידועים לעתים קרובות בתור ערכות אימון, שהן אוסף של תמונות המשמשות לכוונון עדין של ההתנהגות של תוכנות ללימוד תמונות. בסופו של דבר זה מאפשר ל-AI לזהות בקלות מגוון רחב של פרצופים. עם זאת, קבוצות ההתייחסות הללו עשויות להיות חסרות מאגר מגוון, מה שמוביל לבעיות כמו אלו שחוו צוות טוויטר.
"בהחלט, זו בעיה ענקית עבור כל מיעוט, אבל אני חושב שיש גם בעיה הרבה יותר רחבה", אמר למד-מילר. "זה קשור לחוסר גיוון במגזר הטכנולוגי ולצורך בכוח רגולטורי ריכוזי כדי להראות את השימושים הנכונים של תוכנה חזקה מסוג זה המועדת לשימוש לרעה ולהתעללות."
הטכנולוגיה חסרה גיוון
טוויטר אולי היא חברת הטכנולוגיה העדכנית ביותר בגוש החיתוך, אבל זו רחוקה מלהיות בעיה חדשה. תחום הטכנולוגיה נותר תחום לבן ברובו, הנשלט תמידית על ידי גברים, וחוקרים מצאו שהיעדר הגיוון גורם לשכפול של חוסר איזון מערכתי היסטורי בתוכנה שפותחה.
בדוח משנת 2019 של מכון AI Now של אוניברסיטת ניו יורק, חוקרים גילו שאנשים שחורים מהווים פחות מ-6 אחוזים מכוח העבודה בחברות הטכנולוגיה המובילות במדינה. באופן דומה, נשים מהוות רק 26 אחוז מהעובדים בתחום - נתון נמוך מחלקן ב-1960.
זה גורם למיעוטים להרגיש נורא, כאילו הם לא חשובים, וניתן להשתמש בו לדברים אחרים שעלולים לגרום לנזק חמור יותר בהמשך הקו.
למראית עין, נושאי ייצוג אלה עשויים להיראות ארציים, אבל בפועל, הנזק שנגרם יכול להיות עמוק. חוקרים בדו ח AI Now Institute מצביעים על כך שזה קשור באופן סיבתי לבעיות בתוכנה שאינה מתחשבת לעתים קרובות באוכלוסיות שאינן לבנים ולא גברים.בין אם מדובר במכשירי סבון אינפרא אדום שלא מצליחים לזהות עור כהה יותר או שתוכנת הבינה המלאכותית של אמזון לא מצליחה להבדיל בין פנים נשיות לאלו של עמיתיהם הגברים, כישלון בטיפול בגיוון בתעשיית הטכנולוגיה מוביל לכישלון הטכנולוגיה להתמודד עם עולם מגוון.
"יש הרבה אנשים שלא חשבו על הנושאים ולא באמת מבינים איך הדברים האלה יכולים לגרום לנזק ועד כמה הנזקים האלה משמעותיים", הציע Learned-Miller לגבי למידת תמונה בינה מלאכותית. "אני מקווה שמספר האנשים הזה הולך ומצטמצם!"
