מזונות חשובים
- הטיה אלגוריתמית מזיקה לבני נוער שמבלים זמן רב באינטרנט, אומרים מומחים.
- משתמשי טוויטר נתקלו לאחרונה בבעיה שבה פרצופים שחורים נמחקו לטובת פנים לבנים.
- המוח המתפתח של בני נוער עשוי להיות רגיש במיוחד להשפעות המזיקות של הטיה אלגוריתמית, אומרים חוקרים.
הדעה הקדומה שנטמעת בטכנולוגיה מסוימת, המכונה הטיה אלגוריתמית, עלולה להזיק לקבוצות רבות, אבל מומחים אומרים שהיא מזיקה במיוחד לבני נוער.
הטיה אלגוריתמית, כאשר מערכות מחשב מציגות תוצאות עם דעות קדומות, היא בעיה הולכת וגוברת. משתמשי טוויטר מצאו לאחרונה דוגמה להטיה בפלטפורמה כאשר אלגוריתם זיהוי תמונות שחותך תמונות חתך פרצופים שחורים לטובת פנים לבנים. החברה התנצלה על הבעיה, אך טרם פרסמה תיקון. זוהי דוגמה להטיה שעומדת בפני בני נוער כשהם נכנסים לאינטרנט, דבר שהם עושים יותר מכל קבוצת גיל אחרת, אומרים מומחים.
"רוב בני הנוער אינם מודעים לכך שחברות המדיה החברתית מפעילה אותם כדי לקדם תוכן ספציפי שהם חושבים שמשתמשים יאהבו [כדי] לגרום להם להישאר זמן רב ככל האפשר בפלטפורמה", ד"ר מאי- Ly Nguyen Steers, עוזר פרופסור בבית הספר לאחיות באוניברסיטת Duquesne, החוקר שימוש במדיה חברתית בקרב מתבגרים/סטודנטים במכללות, אמר בראיון באימייל.
"גם אם יש רמה מסוימת של מודעות לגבי האלגוריתם, ההשפעה של אי קבלת מספיק לייקים והערות היא עדיין חזקה ויכולה להשפיע על ההערכה העצמית של בני נוער", הוסיף Steers.
Developing Brains
הטיה אלגוריתמית עלולה להשפיע על בני נוער בדרכים בלתי צפויות מכיוון שקליפת המוח הקדם-מצחית שלהם עדיין מתפתחת, הסבירה מיקאלה פיסאני, מדעני מידע ראשי ב-Rootstrap בראיון באימייל.
ההשפעה של אי קבלת מספיק לייקים ותגובות עדיין חזקה ויכולה להשפיע על ההערכה העצמית של בני נוער.
"בני נוער פגיעים במיוחד לתופעת 'המפעל החברתי', שבו אלגוריתמים יוצרים אשכולות חברתיים בפלטפורמות מקוונות, מה שמוביל לחרדה ודיכאון אם לא ייענו לצרכי האישור החברתי של בני הנוער", אמר פיסאני. "אלגוריתמים מפשטים בהתבסס על נתונים לא מושלמים קודמים, המובילים לייצוג יתר של סטריאוטיפים על חשבון גישות ניואנסיות יותר ליצירת זהות.
"בנקודת המבט הרחבה יותר, נותר לנו גם לשאול, כחברה, אם אנחנו רוצים אלגוריתמים שיעצבו את מסעות בני הנוער שלנו לבגרות, והאם המערכת הזו בכלל תומכת במקום לחנוק צמיחה אישית אינדיבידואלית?"
בגלל הבעיות האלה, יש צורך הולך וגובר לזכור בני נוער בעת עיצוב אלגוריתמים, אומרים מומחים.
"בהתבסס על קלט של מומחי התפתחות, מדעני נתונים ותומכי נוער, ניתן לבנות מדיניות של המאה ה-21 סביב פרטיות נתונים ועיצוב אלגוריתמי גם מתוך מחשבה על הצרכים המיוחדים של מתבגרים", דוקטור אבריאל אפס-דארלינג. סטודנט בהרווארד, כתב לאחרונה. "אם במקום זאת נמשיך להמעיט או להתעלם מהדרכים שבהן בני נוער פגיעים לגזענות אלגוריתמית, הנזקים צפויים להדהד לאורך הדורות הבאים."
Combating Bias
עד שיהיה פתרון, כמה חוקרים מנסים למצוא דרכים להפחית את הנזק שנגרם לצעירים על ידי אלגוריתמים מוטים.
"ההתערבויות התמקדו בגרימת בני נוער לזהות שדפוסי המדיה החברתית שלהם משפיעים לרעה על בריאותם הנפשית ומנסים להמציא אסטרטגיות למתן זאת (למשל, שימוש מופחת במדיה החברתית), " אמר Steers.
"חלק מהסטודנטים שראיינו ציינו שהם מרגישים נאלצים ליצור תוכן כדי להישאר "רלוונטיים", גם אם הם לא רוצים לצאת או לפרסם", המשיכה. "עם זאת, הם מרגישים שהם צריכים ליצור תוכן כדי לשמור על הקשרים שלהם עם העוקבים או החברים שלהם."
התשובה האולטימטיבית יכולה להיות הסרת הטיה אנושית ממחשבים. אבל מכיוון שמתכנתים הם רק בני אדם, זה אתגר קשה, אומרים מומחים.
פתרון אפשרי אחד הוא לפתח מחשבים מבוזרים ומתוכנתים לשכוח דברים שלמדו, אומר ג'ון סוויט, קצין טכנולוגיה ראשי בחברת הרובוטיקה KODA.
"באמצעות רשת מבוזרת, הנתונים והניתוח של הנתונים הללו נאספים ומנתחים ממספר נקודות", אמר Suit בראיון באימייל. "הנתונים נאספים ומעובדים לא מעיבוד מוח אחד של AI בגבולות האלגוריתם שלו, אלא מאות או אפילו אלפים.
"כאשר הנתונים נאספים ומנתחים, "מסקנות" ישנות או נתונים מיותרים נשכחים. באמצעות מערכת זו, אלגוריתם שאולי התחיל בהטיה בסופו של דבר יתקן ויחליף את ההטיה הזו אם יתברר כשגוי."
למרות שהטיה עשויה להיות בעיה עתיקת יומין, ייתכן שיש דרכים להילחם בה, לפחות באינטרנט. עיצוב מחשבים שמשילים את הדעות הקדומות שלנו הוא הצעד הראשון.
