מזונות חשובים
- התוכנה האוטומטית להגבלת גיל של YouTube היא סיבה לדאגה עבור תוכן LGBTQ+ בפלטפורמה.
- החברה ספגה מחלוקת בנוגע ליוצרי תוכן LGBTQ+ המחזקים ספק.
- הטיות בלמידת מכונה נותנות אמון ברעיון שהיישום הלא מושלם שלה של מסננים עשוי להגביל את הגישה שלא בצדק.
עם היסטוריה של מיקוד לא הוגן ליוצרי תוכן LGBTQ+ בתהליך הניהול שלו, הטכנולוגיה החדשה של YouTube מבוססת בינה מלאכותית נתפסת כצעד הבא מטריד עבור ענקית הטכנולוגיה.
בבלוג הרשמי של YouTube בשבוע שעבר, פלטפורמת שיתוף הסרטונים חשפה תוכניות לשחרור תוכנה אוטומטית חדשה כדי "להחיל באופן עקבי יותר מגבלות גיל" על סרטונים שנחשבים בלתי הולמים עבור צופים צעירים יותר.
המונעת מהחששות האחרונים לגבי ילדים באפליקציה, המערכת החדשה מבוססת על תוכנת בינה מלאכותית למידת מכונה עם יכולת לוותר על מנחים אנושיים לתהליך אוטומטי יותר. הנושא? המערכות האוטומטיות של YouTube הואשמו בכך שהם מייחדים את התוכן והיוצרים של LGBTQ+ רק עבור קיים.
גם אם זה לא זדוני, מה שאני לא חושב שזה כן, זה חוסר קלט מקולות מגוונים - או לפחות חוסר כבוד.
"למידת מכונה נוצרת על ידי בני אדם, ואפשר שההטיות הללו טבועות בה או נלמדות על ידי המכונה עצמה", אמר היוטיובר רואן אליס בראיון טלפוני עם Lifewire. "ההטיה שלו לגבי תוכן [LGBTQ+] ניכרה בחוויות הקודמות של YouTubers [LGBTQ+], ולא ראיתי עדויות לכך שנעשה משהו כדי לעצור את זה."
בייבי, עכשיו יש לנו דם רע
Ellis היא יוטיוברית שיוצרת תוכן חינוכי עם נטייה פמיניסטית וקווירית, ובשנת 2017 היא פרסמה סרטון על מצב מוגבל של החברה. כפריצה ראשונית לניהול תוכן אוטומטי, מצב זה אפשר למשתמשים לסנן מראש "תוכן פוטנציאלי למבוגרים" מהצעות חיפוש והמלצות.
צבר למעלה מ-100,000 צפיות, היא מאמינה שהיה מאמץ מודע למנוע מהערוץ שלה הגבלה בשל התנגדותה הקולנית נגד החריגה של הצעד החדש של YouTube לקראת מתינות. למשתמשים אחרים בפלטפורמה לא היה כל כך מזל, והם גרמו ליוטיוב לדעת זאת.
תביעה ייצוגית נגד YouTube הוגשה באוגוסט 2019 על ידי קבוצה של שמונה יוצרי LGBTQ+ שהאשימו את חברת עמק הסיליקון בהגבלת יצרני ותכנים קוויריים וטרנסים. התביעה טוענת שהאתר משתמש ב"פרקטיקות של רגולציה, הפצה ומונטיזציה של תוכן בלתי חוקיים המטילים סטיגמה, מגבילים, חוסמים, מוציאים ממון ופוגעים כלכלית בתובעים הלהט"בים ובקהילת הלהט"ב הגדולה יותר."זה עדיין עושה את דרכו בבתי המשפט בקליפורניה.
למידת מכונה נוצרת על ידי בני אדם, ואפשר שההטיות הללו טבועות בה או נלמדות על ידי המכונה עצמה.
ביוני של אותה שנה, הפלטפורמה זכתה למבול של תשומת לב תקשורתית לאחר שסירבה לנזוף במהירות בפרשן השמרני הפופולרי, סטיבן קראודר, על קמפיין הטרדה הומופובי בן חודשים נגד העיתונאי והמנחה של ווקס קרלוס מאזה. זה חיזק את מה שאמר אליס הוא דפוס עם הפלטפורמה המקוונת של התעלמות מהאתגרים הייחודיים שעומדים בפני יוצרים קווירים. חוסר האמון של יוצרי LGBTQ+ ביכולת של YouTube להופיע עבורם אינו מוצדק.
"אני לא חושבת שהם הבינו את הצורך שתהיה שקיפות בכל הנוגע לנושאים חברתיים ולהבטחת שוויון", אמרה. "יש עדיין ילדים בכל העולם שגדלו עם הרעיון שלהיות הומו זה לא בסדר, וכשהם מתחילים להטיל ספק באמונה הזו, אבל מוצאים שהיא נסגרת על ידי חיפוש בטוח או הגבלה, זה יחזק את הרעיון הזה שזה הוא שגוי, לא הולם, מבוגר, סוטה ומלוכלך."
נכשל בלמידה אוטומטית
עם ההיסטוריה המטופשת שלה לגבי יוצרי תוכן LGBTQ+ בפלטפורמה שלה, הדאגות לגבי יישום היכולת של תוכנת למידת המכונה להבחין בנורמות גבוהות יותר עדיין עולות. דון היידר, מנכ ל מרכז מרקקולה לאתיקה יישומית, טוען שפוטנציאל האיוולת הוא סיכון גדול מכדי להמר.
"קשה להאמין שבינה מלאכותית יכולה לשלוט ביעילות על תוכן ממספר מדינות עם נורמות וסטנדרטים תרבותיים שונים", כתב בראיון באימייל. "בינה מלאכותית נתפסת לעתים קרובות מדי כתשובה לשאלות מורכבות. בשלב זה, בינה מלאכותית והדרך בה היא נוצרת נאבקת להתמודד עם משימות פשוטות אפילו, שלא לדבר על כל ניהול תוכן בכל רמת מורכבות."
YouTube החליטה על שימוש בטכנולוגיית בינה מלאכותית בגלל היעדר מתינות עקבית של מנחים אנושיים, לפי הבלוג שלה. הגברת השימוש שלה במסננים ממוחשבים להורדת סרטונים שנחשבים לא מתאימים הפכה לנורמה, ויישום אותם נהלים עבור מדיניות הגבלת הגיל שלו נתפס כצעד הבא הגיוני.
כחברה המבקשת לשפר בהדרגה את התהליכים שלה לאחר ביקורת ארוכת שנים בנוגע ליחסיה לצרכנים ילדים, החלטה זו אינה מפתיעה.
אני לא חושב שהם הבינו את הצורך שתהיה שקיפות בכל הקשור לנושאים חברתיים והבטחת שוויון.
ילדים הפכו לדמוגרפיה מרכזית עבור אתר שיתוף הסרטונים. באוגוסט, חברת ניתוח הווידאו הדיגיטלי Tubular מצאה כי מלבד סרטוני מוזיקה, תוכן המיועד לילדים עמד בראש רשימת סוף החודש של הסרטונים הנצפים ביותר ב-YouTube.
האינטרס של החברה בהגנה על מעצמת הכוח הרווחית והמתפתחת הזו בפלטפורמה הגיוני. עם זאת, הכלים המשמשים לאכיפת הגנה זו נותרים לא נוחים עבור אלה שכבר מצאו את עצמם במורד הזרם של הליכי הממתן של החברה.
"הדאגה שלי היא שזה יגרום נזק רב ולא יגן על בני נוער [להט"ב+] הזקוקים לתוכן אינפורמטיבי, כנה וישר שהרבה יוטיוברים [להט"בים] עשויים לספק, אבל יסומן במערכת שלו כלא הולם, "אמר אליס."גם אם זה לא זדוני, מה שאני לא חושב שכן, זה חוסר קלט מקולות מגוונים - או לפחות חוסר כבוד.
"אנחנו רואים את זה כל הזמן בטכנולוגיה. כשאתה מסתכל על זיהוי פנים שלא מצליח להבדיל בין פרצופים שחורים שונים, או כשאנחנו מסתכלים על הרפואה ורואים שתרופות נבדקו רק על מין מסוים. אלה הן שיחות גדולות יותר, ו-YouTube אינו פטור מכך."