מזונות חשובים
- חברת תוכנה אוספת מידע על מדיה חברתית כדי ליצור פרופילים שניתן להשתמש בהם כדי לזהות אנשים המהווים סיכוני אבטחה.
- Voyager Labs חתמה עסקה משמעותית עם סוכנות ממשלתית יפנית.
- אבל מומחים מזהירים שאפשר לרמות תוכנה לחיזוי בינה מלאכותית.
המידע המקוון שלך יכול לשמש כדי לחזות אם אתה עלול לבצע פשע.
על פי הדיווחים Voyager Labs אוספת מידע על מדיה חברתית כדי ליצור פרופילים שניתן להשתמש בהם כדי לזהות אנשים המהווים סיכוני אבטחה.זה חלק ממאמץ הולך וגובר להשתמש בבינה מלאכותית (AI) כדי לחקור פושעים פוטנציאליים. אבל כמה מומחים אומרים שהתנועה מלאה בבעיות פוטנציאליות.
"קשה מאוד לחזות התנהגות אנושית", אמר מת'יו קאר, חוקר אבטחה בקבוצת Atumcell, בראיון למייל ל-Lifewire. "אנחנו אפילו לא מסוגלים לחזות את ההתנהגות שלנו, שלא לדבר על של מישהו אחר. אני חושב שזה אפשרי שבינה מלאכותית תוכל לשמש בעתיד למטרה זו, אבל אנחנו רחוקים מלהיות מסוגלים לעשות זאת כיום."
יצירת פרופילים
כפי שדיווח ה-Guardian לאחרונה, משטרת לוס אנג'לס בחנה את השימוש בתוכנת חיזוי פשע של וויאג'ר לאב. החברה גם הודיעה כי חתמה עסקה משמעותית עם סוכנות ממשלתית יפנית.
ההסכם היפני מספק לסוכנות הממשלתית פלטפורמת חקירה מבוססת בינה מלאכותית המנתחת כמויות אדירות של מידע מכל מקור, כולל נתונים פתוחים ועמוקים.
"אני שמח שאנחנו משתפים פעולה במאבק נגד טרור ופשע", אמרה דיוויה קנגרוט, מנהלת APAC ב-Voyager Labs, במהדורת החדשות. "באמצעות פתרונות המודיעין החדשניים של Voyager Lab, הלקוחות שלנו מקבלים יכולות ייחודיות לזהות ולשבש איומים פוטנציאליים באופן יזום. אנו מביאים שכבות נוספות של תובנות חקירה עמוקות תוך שימוש בשילוב של AI, Machine Learning ו-OSINT כדי לחשוף שבילים נסתרים, מידע שהופר, ושחקנים גרועים."
לא כל כך חכם?
אבל בראיון באימייל, מאט הייזי, המייסד השותף של Ferret.ai, שמשתמשת גם בבינה מלאכותית כדי לחזות עבריינים, הטיל ספק בכמה מהטענות של וויאג'ר לאבס.
"האם יש קשר ברור בין, נגיד, רישום מעצר והתנהגות פלילית עתידית, כמו שיש כתם שחור בבדיקה לבין התפתחות של גידול?" הוא אמר. "תחשוב על כל הבלבול הפוטנציאלי שנכנס למעצר הזה - באיזו שכונה האדם גר, הכמות והאיכות, אפילו ההטיות, של המשטרה באותו אזור.גילו של האדם, מינו, המראה הפיזי שלו, לכל אלה יש השפעות מצטלבות על הסבירות שלאדם זה יהיה רישום מעצר, מופרד לחלוטין מהנטייה האמיתית שלו לבצע את הפשע שאנו מנסים לחזות."
לנאשמים עם עורכי דין טובים יותר יש סיכוי גבוה יותר שיצליחו לדכא רשומות מלהיות זמינים לציבור, אמרה הייזי. סמכויות שיפוט מסוימות מגבילות שחרור של צילומי אגף או רישומי מעצר כדי להגן על הנאשם.
"המחשב ילמד על סמך הנתונים שאתה נותן לו וישלב את כל ההטיות שנכנסו לאיסוף הנתונים…"
"כל זה מוסיף הטיה נוספת לאלגוריתמים", הוסיף. "המחשב ילמד על סמך הנתונים שאתה נותן לו וישלב את כל ההטיות שנכנסו לאיסוף הנתונים בלמידה ובפרשנות."
היו כמה ניסיונות ליצור פשיעה המנבאת בינה מלאכותית, ולעתים קרובות עם תוצאות שערורייתיות, אמרה הייזי.
COMPAS, אלגוריתם שבו משתמשים אכיפת החוק כדי לחזות עבירות חוזרות, משמש לעתים קרובות בקביעת גזר דין וערבות. היא התמודדה עם שערורייה משנת 2016 בגלל הטיה גזעית, תוך שהיא מנבאת שהנאשמים השחורים מהווים סיכון גבוה יותר לחזרתיות ממה שהם עשו בפועל, ולהיפך עבור נאשמים לבנים.
מעל 1,000 טכנולוגים וחוקרים, כולל אקדמאים ומומחי בינה מלאכותית מהרווארד, MIT, גוגל ומיקרוסופט, התבטאו בשנת 2020 נגד מאמר שטען כי חוקרים פיתחו אלגוריתם שיכול לחזות פשיעה המבוססת אך ורק על פרצופו של אדם, ואמר שפרסום מחקרים כאלה מחזק הטיה גזעית קיימת במערכת המשפט הפלילי, ציינה הייזי.
סין היא השוק הגדול והצומח ביותר עבור סוג זה של טכנולוגיה, בעיקר בשל גישה נרחבת לנתונים פרטיים, עם יותר מ-200 מיליון מצלמות מעקב ומחקר בינה מלאכותית מתקדם המתמקד בנושא זה במשך שנים רבות, אמר הייזי..מערכות כגון CloudWalk Police Cloud משמשות כעת לניבוי ומעקב אחר פושעים ולאיתור רשויות אכיפת החוק.
"עם זאת, הטיות משמעותיות מדווחות גם שם", אמרה הייזי.
Heisie הוסיף שהחברה שלו אוצרת בקפידה את הנתונים שנכנסים ואינה משתמשת בצילומי צילום או ברישומי מעצר, "מתמקדת במקום זאת בקריטריונים אובייקטיביים יותר."
"ה-AI שלנו למד מהנתונים שנאספו, אבל חשוב מכך, הוא לומד גם מאנשים, שבעצמם מנתחים, אוצרים ומעריכים רשומות, ומספרים לנו על האינטראקציות שלהם עם אחרים", הוסיף. "אנחנו גם שומרים על שקיפות מלאה וגישה חופשית וציבורית לאפליקציה שלנו (במהירות שבה נוכל להכניס אותם לבטא), ותובנה מבורכת לגבי התהליכים והנהלים שלנו."
