מזונות חשובים
- אל תדאג ש-AI יתפתח וישתלט על העולם, אומרים כמה מומחים.
- אבל בכיר לשעבר בגוגל אמר שבינה מלאכותית תעקוף את המודיעין האנושי.
- הסכנה האמיתית של AI היא היכולת שלה לחלק בני אדם, לפי אנליסט אחד.
האם בינה מלאכותית (AI) באה לכבוש אותנו?
בכיר לשעבר של גוגל, מו גאודט, אמר בראיון שנערך לאחרונה כי בינה מלאכותית תעקוף בקרוב את המודיעין האנושי, עם השלכות קשות על הציוויליזציה שלנו.כראיה, גאודאט טוען שהוא חזה בזרוע רובוט שעושה את מה שהוא תפס כמחווה מתגרה לחוקרי בינה מלאכותית. אבל כמה מומחים מתחננים להבדיל.
"בינה מלאכותית חסרת מספיק בתחומים רבים ומסתמכת במידה רבה על ביג דאטה ומעקב אנושי כדי לתדלק את מודל התוכנה שלה", אמר שון אובריאן, עמית אורח בפרויקט חברת המידע בבית הספר למשפטים של ייל, ל-Lifewire ב- ראיון באימייל.
חכם יותר ממי?
Gawdat מצטרף לשורה ארוכה של מפיצי דין שמתריעים מפני אפוקליפסת AI קרובה. אילון מאסק, למשל, טוען שבינה מלאכותית עשויה יום אחד לכבוש את האנושות.
"רובוטים יוכלו לעשות הכל טוב מאיתנו", אמר מאסק במהלך נאום. "יש לי חשיפה ל-AI החדשני ביותר, ואני חושב שאנשים צריכים להיות ממש מודאגים מזה."
למפתחי AI ב-Google X, טען גאודט בראיון, פחדו כשהם בנו זרועות רובוטים שיכולות למצוא ולהרים כדור.לפתע, הוא אמר שזרוע אחת תפסה את הכדור ונראה שהיא מחזיקה אותו אל החוקרים במחווה שבעיניו נראתה כאילו היא מתהדרת.
…עלינו גם להניח שלמפתח/ים של AI ניתנת סמכות מלאה על יצירתו ללא כל בדיקה ואיזון ומתג 'הרוג' מובנה או מנגנון בטוח לכשל.
"ופתאום הבנתי שזה ממש מפחיד," אמר גאודאט. "זה הקפיא אותי לגמרי."
הזן את הסינגולריות
Gawdat, ואחרים המודאגים לגבי AI עתידי, מדברים על המושג "הסינגולריות", שיסמן את הרגע שבו הבינה המלאכותית הופכת לחכמה יותר מבני האדם.
"הפיתוח של בינה מלאכותית מלאה יכול לאיית את סופו של המין האנושי", אמר פעם הפיזיקאי סטיבן הוקינג ל-BBC. "זה ימריא מעצמו ויעצב את עצמו מחדש בקצב הולך וגובר. בני אדם, המוגבלים על ידי אבולוציה ביולוגית איטית, לא יכלו להתחרות והם יוחלפו."
אבל אובריאן כינה את הסינגולריות "פנטזיה המסתמכת על אי הבנות בסיסיות לגבי טבעם של הגוף והנפש וכן על קריאה שגויה של הכתיבה של חלוצים מוקדמים בתחום המחשוב כמו אלן טיורינג."
בינה מלאכותית לא קרובה ליכולת להתאים לאינטליגנציה אנושית, אמר אובריאן.
אנליסט AI Lian Jye Su מסכים שבינה מלאכותית לא יכולה להשתוות לאינטליגנציה האנושית, למרות שהוא פחות אופטימי לגבי מתי זה עלול להתרחש.
"רוב, אם לא כולם, בינה מלאכותית בימינו עדיין מתמקדות במשימה אחת", הוא אמר ל-Lifewire בראיון באימייל.
"לכן, ההערכה היא שנצטרך דור חדש אחד או שניים של חומרה ותוכנה לפני שייחודיות טכנולוגית תהיה בהישג יד. גם כאשר הטכנולוגיה בשלה, עלינו גם להניח שהמפתח/ים של בינה מלאכותית ניתנת סמכות מלאה על יצירתו ללא כל בדיקה ואיזון ומתג 'הרג' מובנה או מנגנון בטוח לכשל."
דאגות אמיתיות לגבי AI
הסכנה האמיתית של AI היא היכולת שלה לחלק בני אדם, אמר סו. בינה מלאכותית כבר שימשה ליצירת אפליה ולהפצת שנאה באמצעות סרטונים מזויפים עמוקים, הוא ציין.
ו, אמר סו, בינה מלאכותית סייעה ל"ענקיות מדיה חברתית ליצור תאי הד באמצעות מנועי המלצות מותאמים אישית, ומעצמות זרות משנות נופים פוליטיים ומקטבים חברות באמצעות פרסום ממוקד יעיל ביותר."
רק בגלל ש-AI עשוי להיות מודל גרוע ומוטעה של קוגניציה אנושית, לא אומר שהוא לא מסוכן או שהוא לא יכול להתקרב או לעלות על בני אדם בתחומים רבים, אמר אובריאן.
"מחשבון כיס טוב ומהיר יותר בחשבון ממה שאדם יהיה אי פעם, בדיוק כפי שמכונות יכולות להיות הרבה יותר חזקות מבני אדם ו'לעוף' או 'לשחות'", הוסיף.
איך בינה מלאכותית משפיעה על בני אדם תלויה באופן שבו אנו משתמשים בה, אמר אובריאן. עבודת רובוט, למשל, יכולה לעזור לבני אדם על ידי שחרור אנשים לעבודה יצירתית או אילוץ אותם לעוני.
"כמו כן, כעת אנו מודעים היטב לסכנות של AI ולהטיות הטבועות בו, אשר מנוצלות לרעה ברחבי הנוף הדיגיטלי כדי לדכא אנשים צבעוניים ואוכלוסיות מודרות", הוסיף.
