מזונות חשובים
- כלי תוכנה חדש מאפשר לבינה מלאכותית לנטר תגובות באינטרנט לגילוי דברי שטנה.
- AI נדרש כדי למתן תוכן אינטרנט בגלל נפח החומר העצום שעולה על היכולות האנושיות.
- אבל כמה מומחים אומרים שניטור בינה מלאכותית של דיבור מעורר חששות בפרטיות.
ככל שדברי שטנה מקוונים מתגברים, חברה אחת אומרת שאולי יש לה פתרון שאינו מסתמך על מנחים אנושיים.
סטארטאפ בשם Spectrum Labs מספק טכנולוגיית בינה מלאכותית לספקי פלטפורמות כדי לזהות ולסגור בורסות רעילות בזמן אמת. אבל מומחים אומרים שניטור בינה מלאכותית מעלה גם בעיות פרטיות.
"ניטור AI מצריך לעתים קרובות הסתכלות על דפוסים לאורך זמן, מה שמחייב לשמור את הנתונים", אמר דייוויד מודי, שותף בכיר ב-Schellman, חברה להערכת ציות לאבטחה ולפרטיות, בראיון ל-Lifewire. "נתונים אלה עשויים לכלול נתונים שהחוקים סימנו כנתוני פרטיות (מידע אישי מזהה או PII)."
עוד דברי שטנה
Spectrum Labs מבטיחה פתרון היי-טק לבעיה עתיקת היומין של דברי שטנה.
"בממוצע, אנחנו עוזרים לפלטפורמות להפחית את מאמצי ניהול התוכן ב-50% ולהגדיל פי 10 את זיהוי התנהגויות רעילות", טוענת החברה באתר שלה.
Spectrum אומר שהיא עבדה עם מכוני מחקר עם מומחיות בהתנהגויות מזיקות ספציפיות כדי לבנות למעלה מ-40 מודלים לזיהוי התנהגות. פלטפורמת ניהול התוכן Guardian של החברה נבנתה על ידי צוות של מדעני נתונים ומנחים כדי "לתמוך בהגנה על קהילות מפני רעילות."
יש צורך הולך וגובר בדרכים להילחם בדיבורי שטנה מכיוון שאי אפשר לאדם לנטר כל פיסת תעבורה מקוונת, דילן פוקס, מנכ ל AssemblyAI, סטארט-אפ המספק זיהוי דיבור ויש לו לקוחות מעורבים בניטור שנאה נאום, אמר ל-Lifewire בראיון באימייל.
"יש כ-500 מיליון ציוצים ביום רק בטוויטר", הוסיף. "גם אם אדם אחד יוכל לבדוק ציוץ כל 10 שניות, טוויטר יצטרך להעסיק 60 אלף אנשים כדי לעשות זאת. במקום זאת, אנו משתמשים בכלים חכמים כמו AI כדי להפוך את התהליך לאוטומטי."
בניגוד לאדם, בינה מלאכותית יכולה לפעול 24/7 ואולי להיות שוויונית יותר מכיוון שהיא נועדה ליישם את הכללים שלה באופן אחיד על כל המשתמשים מבלי שאמונות אישיות יפריעו, אמר פוקס. יש גם עלות לאותם אנשים שצריכים לפקח ולתת תוכן.
"הם יכולים להיחשף לאלימות, שנאה ומעשים מלוכלכים, שעלולים להזיק לבריאותו הנפשית של אדם", אמר.
Spectrum היא לא החברה היחידה שמבקשת לזהות דברי שטנה מקוונים באופן אוטומטי. לדוגמה, סנטר מלזיה השיקה לאחרונה מעקב מקוון שנועד למצוא דברי שטנה בקרב גולשים ברשת מלזיה. התוכנה שפיתחו בשם Tracker Benci משתמשת בלמידה חישובית כדי לזהות דברי שטנה באינטרנט, במיוחד בטוויטר.
האתגר הוא איך ליצור מרחבים שבהם אנשים יכולים באמת לעסוק אחד בשני בצורה בונה.
דאגות פרטיות
בעוד שפתרונות טכנולוגיים כמו ספקטרום עשויים להילחם בדיבור שנאה מקוון, הם גם מעלים שאלות לגבי כמה מחשבי שיטור צריכים לעשות.
יש השלכות של חופש הביטוי, אבל לא רק עבור הדוברים שהפוסטים שלהם יוסרו כדברי שטנה, אמרה אירינה רייקו, מנהלת אתיקה באינטרנט במרכז Markkula לאתיקה יישומית באוניברסיטת סנטה קלרה, ל-Lifewire באימייל ראיון.
"התרת הטרדה בשם 'חופש הביטוי' דחפה את המטרות של דיבור כזה (במיוחד כשהן מכוונות לאנשים מסוימים) להפסיק לדבר - כדי לנטוש לחלוטין שיחות ופלטפורמות שונות", אמר רייקו."האתגר הוא איך ליצור מרחבים שבהם אנשים יכולים באמת לעסוק זה בזה בצורה בונה."
ניטור דיבור AI לא אמור להעלות בעיות פרטיות אם חברות משתמשות במידע זמין לציבור במהלך הניטור, אמר פוקס. עם זאת, אם החברה קונה פרטים על האופן שבו משתמשים מקיימים אינטראקציה בפלטפורמות אחרות כדי לזהות מראש משתמשים בעייתיים, הדבר עלול לעורר חששות בפרטיות.
"זה בהחלט יכול להיות קצת אזור אפור, תלוי באפליקציה", הוא הוסיף.
ג'סטין דייויס, מנכ"ל Spectrum Labs אמר ל-Lifewire בדוא"ל שהטכנולוגיה של החברה יכולה לסקור 2 עד 5,000 שורות של נתונים בתוך שברירי שנייה. "הכי חשוב, טכנולוגיה יכולה להפחית את כמות התוכן הרעיל שמנחים אנושיים נחשפים אליו", אמר.
אנחנו עשויים להיות על סף מהפכה בניטור AI בניטור דיבור וטקסט אנושיים באינטרנט. התקדמות עתידית כוללת יכולות ניטור עצמאיות ואוטונומיות טובות יותר כדי לזהות צורות לא ידועות בעבר של דברי שטנה או כל דפוס אחר שניתן לצנזר שיתפתח, אמר מודי.
AI גם תוכל לזהות דפוסים בדפוסי הדיבור הספציפיים ולקשר מקורות ופעילויות אחרות שלהם באמצעות ניתוח חדשות, הגשות ציבוריות, ניתוח דפוסי תנועה, ניטור פיזי ואפשרויות רבות אחרות, הוא הוסיף.
אבל כמה מומחים אומרים שבני אדם תמיד יצטרכו לעבוד עם מחשבים כדי לנטר דברי שטנה.
"AI לבד לא יעבוד", אמר רייקו. "יש לזהות אותו ככלי אחד לא מושלם שיש להשתמש בו יחד עם תגובות אחרות."
תיקון 25/1/2022: ציטוט נוסף של ג'סטין דייוויס בפסקה החמישית מהסוף כדי לשקף הודעת דוא ל לאחר פרסום.
