מזונות חשובים
- אלגוריתמים של AI ולמידת מכונה צופים בהתנהגות אנושית ויכולים ללמוד לתמרן אותה, אומרים מומחים.
- חוקרים יצרו לאחרונה דרך למצוא ולנצל פגיעויות בדרכים שבהן אנשים עושים בחירות באמצעות AI.
- אלגוריתם המדיה החברתית המתוחכם ביותר כרגע הוא TikTok, אומר צופה אחד.
אלגוריתמים של בינה מלאכותית (AI) ולמידת מכונה לומדים יותר ויותר כיצד להשפיע על התנהגות המשתמשים, אומרים מומחים.
חוקרים בסוכנות המדע הלאומית של אוסטרליה יצרו לאחרונה דרך למצוא ולנצל פגיעויות בדרכים שבהן אנשים עושים בחירות באמצעות AI. המחקר האחרון הוא רק אחד מגל של מערכות מונעות בינה מלאכותית שנועדו לתמרן את קבלת ההחלטות האנושיות.
"אין סוף לדרכים הרבות שבהן בינה מלאכותית כבר משפיעה על התנהגות", קנטארו טויאמה, פרופסור בבית הספר למידע של אוניברסיטת מישיגן ומחבר הספר Geek Heresy: Rescuing Social Change from Cult of Technology, אמר בראיון באימייל.
"למעשה, אם אי פעם ביצעת חיפוש בגוגל ומעקב אחר קישור, הושפעת ממערכת בינה מלאכותית שניחשה את תחומי העניין שלך והחזירה תוצאות שלדעתה היו הכי רלוונטיות עבורך."
AI נגד בני אדם
במחקר האוסטרלי שפורסם במאמר לאחרונה, משתתפים אנושיים שיחקו משחקים נגד מחשב בניסויים שונים. בניסוי הראשון המשתתפים לחצו על תיבות בצבע אדום או כחול כדי לזכות בכסף.
ה-AI הצליח בכ-70% מהמקרים, למד את דפוסי הבחירה של המשתתף והנחה אותם לקראת בחירה ספציפית.
בניסוי אחר, המשתתפים צפו במסך ולחצו על כפתור כאשר הוצג להם סמל מסוים, או לא לחצו עליו כאשר הציעו לו סמל אחר. הבינה המלאכותית למדה לסדר מחדש את הסמלים, כך שהמשתתפים עשו שגיאות נוספות.
תוצאת הניסויים, סיכמו החוקרים, הייתה שבינה מלאכותית למדה מתגובות המשתתפים. לאחר מכן, המכונה זיהתה וכיוון פגיעויות בקבלת ההחלטות של אנשים. למעשה, הבינה המלאכותית יכולה לתמרן את המשתתפים לבצע פעולות מסוימות.
העובדה שבינה מלאכותית או למידת מכונה יכולים לתמרן אנשים לא צריכה להפתיע, אומרים משקיפים.
"AI משפיע על ההתנהגות שלנו מדי יום", אמרה תמרה שוורץ, פרופסור לאבטחת סייבר ומנהל עסקים במכללת יורק בפנסילבניה, בראיון באימייל.
"אנחנו שומעים כל הזמן על האלגוריתמים ביישומי מדיה חברתית כמו פייסבוק או טוויטר. אלגוריתמים אלה מפנים את תשומת הלב שלנו לתוכן קשור ויוצרים את אפקט 'תא הד', שבתורו משפיע על ההתנהגות שלנו."
TikTok צופה
אלגוריתם המדיה החברתית המתוחכם ביותר כרגע הוא TikTok, אמר שוורץ. האפליקציה מנתחת במה אתה מעוניין, כמה זמן אתה צופה במשהו וכמה מהר אתה מדלג על משהו, ולאחר מכן משפרת את ההצעות שלה כדי להמשיך לצפות.
"TikTok הרבה יותר ממכר מפלטפורמות אחרות בגלל אלגוריתם AI זה, שמבין מה אתה אוהב, איך אתה לומד ואיך אתה בוחר מידע", היא הוסיפה. "אנחנו יודעים את זה כי הזמן הממוצע שמשתמשים מבלים ב-TikTok הוא 52 דקות."
למניפולציה של התנהגות אנושית על ידי בינה מלאכותית עשויה להיות שימושים חיוביים, טען כריס ניקולסון, מנכ ל חברת AI Pathmind, בראיון באימייל. סוכנויות לבריאות הציבור, למשל, יכולות להשתמש בבינה מלאכותית כדי לעודד אנשים לקבל החלטות טובות יותר.
"עם זאת, מדיה חברתית, יצרני משחקי וידאו, מפרסמים ומשטרים אוטוריטריים מחפשים דרכים לתמרץ אנשים לקבל החלטות שאינן לטובתם, וזה ייתן להם כלים חדשים לעשות זאת," הוא הוסיף.
הבעיות האתיות עם התנהגות של AI המשפיעה על התנהגות הן לעתים קרובות בעיות ברמה, אמר טויאמה. בינה מלאכותית מאפשרת פרסום ממוקד שבו ניתן לנצל העדפות וחולשות בודדים.
"אפשר, למשל, למערכת בינה מלאכותית לזהות אנשים שמנסים להפסיק לעשן ולפלפל אותם במודעות סיגריות מפתות", הוסיף.
לא כולם מסכימים שמניפולציה של AI בהתנהגות אנושית היא בעייתית. פסיכולוגיה קלאסית ובינה מלאכותית צופים שניהם בנתונים, ציין ג'ייסון ג'יי קורסו, מנהל מכון סטיבנס לבינה מלאכותית, בראיון באימייל.
"מדענים אנושיים כנראה טובים יותר בלהכליל תצפיות ולזקק תיאוריות של התנהגות אנושית שעשויות להיות ישימות באופן רחב יותר, בעוד שמודלים של AI יהיו מתאימים יותר לזיהוי ניואנסים ספציפיים לבעיה", אמר קורסו.
"מנקודת מבט אתית, אני לא רואה הבדל בין אלה."
