מזונות חשובים
- חברות משתמשות יותר ויותר בבינה מלאכותית שמסבירה איך היא משיגה תוצאות.
- LinkedIn הגדילה לאחרונה את הכנסות המנויים שלה לאחר שימוש בבינה מלאכותית שניבאה לקוחות בסיכון לביטול ותיאר כיצד הגיעה למסקנותיה.
- נציבות הסחר הפדרלית אמרה שניתן לחקור בינה מלאכותית שאינה ניתנת להסבר.
אחד הטרנדים החדשים החמים ביותר בתוכנה יכול להיות בינה מלאכותית (AI) שמסבירה כיצד היא משיגה את התוצאות שלה.
בינה מלאכותית מוסברת משתלמת כאשר חברות תוכנה מנסות להפוך את הבינה המלאכותית למובנת יותר. לינקדאין הגדילה לאחרונה את הכנסות המנויים שלה לאחר שימוש בבינה מלאכותית שניבאה לקוחות בסיכון לביטול ותיארה כיצד הגיעה למסקנותיה.
"בינה מלאכותית ניתנת להסבר עוסקת ביכולת לסמוך על הפלט וגם להבין איך המכונה הגיעה לשם", אמר טראוויס ניקסון, מנכ"ל SynerAI ו-Chief Data Science, שירותים פיננסיים במיקרוסופט, בראיון ל-Lifewire..
"'איך?' היא שאלה שמוצגת למערכות בינה מלאכותיות רבות, במיוחד כאשר מתקבלות החלטות או מופקות תפוקות שאינן אידיאליות", הוסיף ניקסון. "מטיפול בגזעים שונים בצורה לא הוגנת ועד לטעות שראש קירח הוא כדורגל, אנחנו צריכים לדעת למה מערכות בינה מלאכותית מייצרות את התוצאות שלהן. ברגע שהבנו את ה'איך', זה ממצב חברות ויחידים לענות 'מה הלאה?'."
להכיר את AI
AI הוכיח את עצמו כמדויק ועושה סוגים רבים של תחזיות. אבל בינה מלאכותית מסוגלת לעתים קרובות להסביר איך היא הגיעה למסקנות שלה.
והרגולטורים שמים לב לבעיית ההסבר של AI. ועדת הסחר הפדרלית אמרה שניתן לחקור בינה מלאכותית שאינה ניתנת להסבר. האיחוד האירופי שוקל את העברת חוק הבינה המלאכותית, הכולל דרישות שמשתמשים יוכלו לפרש תחזיות בינה מלאכותית.
Linkedin היא בין החברות שחושבות שבינה מלאכותית ניתנת להסבר יכולה לעזור להגביר את הרווחים. לפני כן, אנשי המכירות של לינקדאין הסתמכו על הידע שלהם והקדישו כמויות עצומות של זמן בסינון נתונים לא מקוונים כדי לזהות אילו חשבונות צפויים להמשיך לעשות עסקים ובאילו מוצרים הם עשויים להתעניין במהלך חידוש החוזה הבא. כדי לפתור את הבעיה, לינקדאין התחילה תוכנית בשם CrystalCandle שמזהה טרנדים ועוזרת לאנשי מכירות.
בדוגמה אחרת, ניקסון אמר שבמהלך יצירת מודל לקביעת מכסות עבור צוות המכירות של חברה, החברה שלו הצליחה לשלב בינה מלאכותית ניתנת להסבר כדי לזהות אילו מאפיינים מצביעים על גיוס מכירות חדש מוצלח.
"עם הפלט הזה, הנהלת החברה הזו הצליחה לזהות אילו אנשי מכירות לשים ב'מסלול המהיר' ואילו מהם זקוקים לאימון, כל זאת לפני שהתעוררו בעיות גדולות", הוסיף.
שימושים רבים עבור AI ניתן להסבר
בינה מלאכותית מוסברת משמשת כעת כבדיקת בטן עבור רוב מדעני הנתונים, אמר ניקסון. החוקרים מריצים את המודל שלהם בשיטות פשוטות, מוודאים ששום דבר לא מקולקל לחלוטין, ואז שולחים את המודל.
"זה בין השאר משום שארגוני מדעי נתונים רבים ביצעו אופטימיזציה של המערכות שלהם סביב 'זמן על ערך' כ-KPI, מה שהוביל לתהליכים ממהרים ומודלים לא שלמים", הוסיף ניקסון.
אני חושש שהמכה מדגמים חסרי אחריות עלולה להחזיר את תעשיית הבינה המלאכותית בצורה רצינית.
אנשים לרוב לא משתכנעים מתוצאות שבינה מלאכותית לא יכולה להסביר. ראג' גופטה, קצין ההנדסה הראשי בקוגיטו, אמר בדוא ל שהחברה שלו סקרה לקוחות ומצאה שכמעט מחצית מהצרכנים (43%) תהיה בעלת תפיסה חיובית יותר של חברה ושל AI אילו חברות היו מפורשות יותר לגבי השימוש בהן. של הטכנולוגיה.
ולא רק נתונים פיננסיים מקבלים יד מסייעת מ-AI שניתן להסביר. תחום אחד שמרוויח מהגישה החדשה הוא נתוני תמונה, שבהם קל לציין אילו חלקים בתמונה האלגוריתם חושב שהם חיוניים ואיפה קל לאדם לדעת אם המידע הזה הגיוני, סמנתה קליינברג, פרופסור חבר בסטיבנס המכון הטכנולוגי ומומחה בבינה מלאכותית ניתנת להסבר, אמרו ל-Lifewire באימייל.
"הרבה יותר קשה לעשות את זה עם א.ק.ג או נתוני מוניטור סוכר רציף", הוסיף קליינברג.
ניקסון חזה שבינה מלאכותית שניתן להסביר תהיה הבסיס לכל מערכת בינה מלאכותית בעתיד. וללא AI שניתן להסביר, התוצאות עלולות להיות קשות, הוא אמר.
"אני מקווה שנתקדם בחזית הזו מספיק רחוק כדי לקבל AI בר-הסבר כמובנת מאליה בשנים הבאות ושאנחנו מסתכלים אחורה על התקופה ההיא היום מופתעים מכך שמישהו יהיה משוגע מספיק כדי לפרוס מודלים שהוא לא הבין, " הוא הוסיף."אם לא נפגוש את העתיד בדרך זו, אני חושש שהמכה מדגמים חסרי אחריות עלולה להחזיר את תעשיית הבינה המלאכותית בצורה רצינית."
