מזונות חשובים
- נראה שמערכת הבינה המלאכותית בשם DALL-E2 יצרה מערכת משלה לתקשורת כתובה.
- כמה מומחים אומרים שהשפה הנראית עשויה להיות סתם קשקוש.
- זו דוגמה לכמה קשה לפרש את התוצאות של מערכות בינה מלאכותית מתקדמות.
נראה שהבינה המלאכותית (AI) פיתחה שפה משלה, אבל כמה מומחים ספקנים לגבי הטענה.
נראה שמערכת הבינה המלאכותית של טקסט לתמונה של OpenAI בשם DALL-E2 יצרה מערכת משלה לתקשורת כתובה. זו דוגמה לכמה קשה לפרש את התוצאות של מערכות בינה מלאכותית מתקדמות.
"בגלל הגודל והעומק של מודלים גדולים, קשה מאוד להסביר את התנהגות המודל", אמרה תרזה אוניל, מנהלת ארכיטקטורת הפתרונות להבנת שפה טבעית ב-iMerit, בראיון למייל ל-Lifewire. "זהו אחד מאתגרי הליבה, ובמקרים מסוימים, סוגיות אתיות עם מודלים חזקים יותר ויותר. אם לא נוכל להסביר מדוע הם מתנהגים כפי שהם מתנהגים, האם נוכל לחזות את התנהגותם או לשמור אותה בקנה אחד עם הנורמות והציפיות שלנו?"
צ'אטים של AI
תלמיד מדעי המחשב ג'יאניס דאראס ציין לאחרונה שמערכת DALLE-2, שיוצרת תמונות על סמך קלט טקסט, תחזיר מילים שטויות כטקסט בנסיבות מסוימות.
"מגבלה ידועה של DALLE-2 היא שהוא נאבק בטקסט", הוא כתב במאמר שפורסם בשרת ה-preprint Arxiv. "לדוגמה, הודעות טקסט כגון: 'תמונה של המילה מטוס' מובילות לעתים קרובות לתמונות שנוצרו המתארות טקסט ג'יבריש."
אבל, כתב דאראס, ייתכן שיש שיטה מאחורי הקשקוש לכאורה. "אנחנו מגלים שהטקסט שהופק זה אינו אקראי, אלא חושף אוצר מילים נסתר שנראה שהמודל פיתח באופן פנימי", המשיך. "לדוגמה, כאשר הוא מוזן בטקסט הג'יבריש הזה, הדגם מייצר לעתים קרובות מטוסים."
בציוץ שלו, דאראס ציין שכאשר DALLE-2 התבקש לכתוב כתוביות לשיחה בין שני חקלאים, זה הראה אותם מדברים, אבל בועות הדיבור התמלאו במילים שנראו כמו מילים שטויות. אבל דאראס גילה שנראה שלמילים יש משמעות משלהן ל-AI: החקלאים דיברו על ירקות וציפורים.
ניקולה דאבוליו, מנכ"לית חברת הטכנולוגיה Hupry, שעובדת עם AI, הסבירה ל-Lifewire בראיון במייל שהשפה מבוססת על סמלים שמערכת DALL-E2 למדה לשייך למושגים מסוימים. לדוגמה, הסמל של "כלב" עשוי להיות קשור לתמונה של כלב, בעוד שהסמל של "חתול" עשוי להיות קשור לתמונה של חתול. DALL-E2 יצר את השפה שלו מכיוון שהיא מאפשרת לו לתקשר בצורה יעילה יותר עם מערכות בינה מלאכותית אחרות.
פאזלים כמו אוצר המילים החבוי לכאורה של DALL-E2 מהנים להיאבק בהם, אבל הם גם מדגישים שאלות כבדות יותר…
"השפה מורכבת מסמלים שנראים כמו הירוגליפים מצריים ונראה שאין להם משמעות ספציפית", הוסיף. "הסמלים כנראה חסרי משמעות לבני אדם, אבל הם הגיוניים לחלוטין למערכת הבינה המלאכותית מכיוון שהיא אומנה על מיליוני תמונות."
חוקרים מאמינים שמערכת הבינה המלאכותית יצרה את השפה כדי לעזור לה להבין טוב יותר את היחסים בין תמונות ומילים, אמר דאבוליו.
"הם לא בטוחים מדוע מערכת הבינה המלאכותית פיתחה את השפה שלה, אבל הם חושדים שזה עשוי להיות קשור לאופן שבו היא למדה ליצור תמונות", הוסיף דאבוליו. "ייתכן שמערכת הבינה המלאכותית פיתחה את השפה שלה כדי להפוך את התקשורת בין חלקי רשת שונים ליעילה יותר."
AI Mysteries
DALL-E2 היא לא מערכת הבינה המלאכותית היחידה שפיתחה את השפה הפנימית שלה, ציין דאבוליו. בשנת 2017, מערכת AutoML של גוגל יצרה צורה חדשה של ארכיטקטורה עצבית שנקראת 'רשת ילדים' לאחר שנותרה לה להחליט כיצד הכי טוב להשלים משימה נתונה. רשת הילדים הזו לא הייתה מסוגלת להתפרש על ידי יוצריה האנושיים.
"הדוגמאות האלה הן רק כמה מקרים שבהם מערכות בינה מלאכותית פיתחו דרכים לעשות דברים שאנחנו לא יכולים להסביר", אמר דאבוליו. "זו תופעה מתהווה שהיא מרתקת ומדאיגה באותה מידה. ככל שמערכות בינה מלאכותית הופכות מורכבות ואוטונומיות יותר, אנו עלולים למצוא את עצמנו יותר ויותר במצב של לא להבין כיצד הן פועלות."
או'ניל אמרה שהיא לא חושבת ש-DALL-E2 יוצר שפה משלה. במקום זאת, היא אמרה שהסיבה להמצאה הלשונית לכאורה היא כנראה קצת יותר פרוזאית.
"הסבר אחד מתקבל על הדעת הוא סיכוי אקראי - במודל כה גדול, מעט מחוק מרפי עשוי לחול: אם דבר מוזר יכול לקרות, הוא כנראה יקרה", הוסיף אוניל. אפשרות נוספת שהציע מנתח המחקר בנג'מין הילטון בשרשור טוויטר שדן בממצאיו של דאראס היא שצורת הביטוי "אפופלו וסריאטיס" מחקה את צורתו של שם לטיני לחיה. אז המערכת הולידה סדר חדש של Aves, הוסיף אוניל.
"פאזלים כמו אוצר המילים החבוי לכאורה של DALL-E2 מהנים להיאבק בהם, אבל הם גם מדגישים שאלות כבדות יותר סביב הסיכון, ההטיה והאתיקה בהתנהגות הבלתי ניתנת להערכה של דוגמניות גדולות", אמר אוניל..
