מזונות חשובים
- מחקר חדש מצביע על כך שאולי אין דרך לשלוט בבינה מלאכותית סופר חכמה.
- מאמר יומן טוען ששליטה בבינה מלאכותית תדרוש טכנולוגיה הרבה יותר מתקדמת ממה שיש לנו כרגע.
- כמה מומחים אומרים ש-AI אינטליגנטי באמת עשוי להיות כאן מוקדם ממה שאנחנו חושבים.
אם בני אדם יפתחו אי פעם בינה מלאכותית חכמה, אולי אין דרך לשלוט בה, אומרים מדענים.
AI הוגדרה זה מכבר כתרופה לכל בעיות האנושות או כאפוקליפסה בסגנון קטלנית.עם זאת, עד כה, AI לא התקרב אפילו לאינטליגנציה ברמת האדם. אבל שמירה על רצועה על בינה מלאכותית מתקדמת עלולה להיות בעיה מורכבת מדי עבור בני אדם אם היא תתפתח אי פעם, לפי מאמר שפורסם לאחרונה ב-Journal of Artificial Intelligence Research.
"מכונה סופר אינטליגנטית ששולטת בעולם נשמעת כמו מדע בדיוני", אמר מנואל סבריאן, אחד מחברי העיתון, בהודעה לעיתונות.
"אבל יש כבר מכונות שמבצעות משימות חשובות מסוימות באופן עצמאי מבלי שמתכנתים יבינו לגמרי איך הם למדו את זה. לכן נשאלת השאלה האם זה עלול בשלב מסוים להפוך לבלתי נשלט ומסוכן לאנושות."
בקרוב למחשב-על לידך
העיתון טוען ששליטה בבינה מלאכותית תדרוש טכנולוגיה הרבה יותר מתקדמת ממה שיש לנו כרגע.
במחקר שלהם, הצוות הגה אלגוריתם בלימה תיאורטי המבטיח שבינה מלאכותית סופר אינטליגנטית לא יכולה להזיק לאנשים בשום פנים ואופן, על ידי הדמיית התנהגות הבינה המלאכותית תחילה ועצירתה אם היא נחשבת כמזיקה.אבל המחברים גילו שלא ניתן לבנות אלגוריתם כזה.
"אם תפרק את הבעיה לכללים בסיסיים ממדעי המחשב התיאורטיים, יתברר שאלגוריתם שיצווה על בינה מלאכותית לא להרוס את העולם עלול לעצור את פעולותיו בשוגג." איאד רהוואן, מנהל המרכז לבני אדם ומכונות במכון מקס פלנק לפיתוח אנושי בגרמניה, אמר במהדורת החדשות.
"אם זה קרה, לא היית יודע אם אלגוריתם ההכלה עדיין מנתח את האיום, או שהוא הפסיק להכיל את ה-AI המזיק. למעשה, זה הופך את אלגוריתם ההכלה ללא שמיש."
בינה מלאכותית אינטליגנטית עשויה להיות כאן מוקדם מכפי שאנו חושבים, טוען מיכליס וז'ירגיאניס, פרופסור למדעי המחשב באקול פוליטכניק בצרפת. "AI הוא חפץ אנושי, אבל הוא הופך במהירות לישות אוטונומית", אמר באימייל ל-Lifewire.
"הנקודה הקריטית תהיה אם/כאשר יייחודיות מתרחשת (כלומר, כאשר לסוכני בינה מלאכותית תהיה תודעה כישות) ולכן הם יטענו לעצמאות, שליטה עצמית ובסופו של דבר דומיננטיות."
הסינגולריות מגיעה
Vazirgiannis לא לבד בניבא את הגעתו הקרובה של סופר AI. מאמינים אמיתיים באיום הבינה המלאכותית אוהבים לדבר על ה"ייחודיות", שאותה מסביר וזירגיאניס היא הנקודה שבה בינה מלאכותית תחליף את האינטליגנציה האנושית ו"שאלגוריתמי בינה מלאכותית יבינו את קיומם ויתחילו להתנהג באנוכיות ובשיתוף פעולה."
לפי ריי קורצווייל, מנהל ההנדסה של גוגל, הייחודיות תגיע לפני אמצע המאה ה-21. "2029 הוא התאריך העקבי שחזיתי בו AI יעבור מבחן טיורינג תקף ולכן ישיג רמות אינטליגנציה אנושיות", אמר קורצווייל ל- Futurism.
אם אנחנו לא יכולים לנקות את הבית שלנו, איזה קוד אנחנו אמורים לבקש מ-AI לעקוב?
"קבעתי את התאריך 2045 ל'סינגולריות', כלומר כאשר נכפיל את האינטליגנציה האפקטיבית שלנו פי מיליארד על ידי מיזוג עם האינטליגנציה שיצרנו."
אבל לא כל מומחי הבינה המלאכותית חושבים שמכונות חכמות מהוות איום. סביר להניח שה-AI שנמצא בפיתוח יהיה שימושי לפיתוח תרופות ואינו מראה שום אינטליגנציה אמיתית, אמר יועץ הבינה המלאכותית עמנואל מג'ורי בראיון באימייל. "יש הייפ גדול סביב AI, שגורם לזה להישמע כאילו זה באמת מהפכני", הוסיף. "מערכות בינה מלאכותיות נוכחיות אינן מדויקות כפי שפורסמו, ועושות טעויות שאדם לעולם לא יעשה."
קח שליטה על AI, עכשיו
וויסות בינה מלאכותית כך שהיא לא תחמוק מהשליטה שלנו עשויה להיות קשה, אומר Vazirgiannis. חברות, ולא ממשלות, שולטות במשאבים המניעים את הבינה המלאכותית. "אפילו האלגוריתמים עצמם מיוצרים ונפרסים בדרך כלל במעבדות המחקר של הישויות הגדולות והחזקות הללו, בדרך כלל רב לאומיות", אמר.
"ברור, לפיכך, שלממשלות המדינות יש פחות ופחות שליטה על המשאבים הדרושים לשליטה בבינה מלאכותית."
כמה מומחים אומרים שכדי לשלוט בבינה מלאכותית סופר-אינטליגנטית, בני אדם יצטרכו לנהל משאבי מחשוב וכוח חשמלי. "סרטי מדע בדיוני כמו המטריקס מעלים נבואות על עתיד דיסטופי שבו בני אדם משמשים את הבינה המלאכותית כמקורות ביולוגיים", אמר וז'ירגיאניס.
"למרות שאין אפשרויות רחוקות, המין האנושי צריך לוודא שיש שליטה מספקת על משאבי המחשוב (כלומר, אשכולות מחשבים, GPUs, מחשבי-על, רשתות/תקשורת), וכמובן תחנות הכוח המספקות חשמל שהוא לחלוטין מזיק לתפקוד הבינה המלאכותית."
הבעיה עם שליטה בבינה מלאכותית היא שחוקרים לא תמיד מבינים איך מערכות כאלה מקבלים את ההחלטות שלהם, אמר מייקל ברטולד, המייסד והמנכ"ל של חברת תוכנת מדעי הנתונים KNIME, בראיון באימייל. "אם לא נעשה את זה, איך נוכל 'לשלוט' בזה?"
הוא הוסיף, "אנחנו לא מבינים מתי מתקבלת החלטה אחרת לגמרי על סמך, מבחינתנו, תשומות לא רלוונטיות."
הדרך היחידה לשלוט בסיכון של שימוש בבינה מלאכותית היא להבטיח שהוא משמש רק כאשר הסיכון הזה ניתן לניהול, אמר ברטולד. "בניסוח שונה, שתי דוגמאות קיצוניות: אל תשים את הבינה המלאכותית כאחראית על תחנת הכוח הגרעינית שלך, שבה לטעות קטנה עלולה להיות תופעות לוואי הרות אסון", הוסיף.
"מאידך, בינה מלאכותית חוזה אם יש להתאים מעט את טמפרטורת החדר שלך למעלה או למטה עשויה בהחלט להיות שווה את הסיכון הזעיר לטובת נוחות המגורים."
אם אנחנו לא יכולים לשלוט בבינה מלאכותית, מוטב שנלמד אותה נימוסים, אמר מהנדס המחשבים לשעבר של נאס"א פיטר סקוט בראיון באימייל. "אנחנו לא יכולים, בסופו של דבר, להבטיח את יכולת השליטה של בינה מלאכותית יותר ממה שאנחנו יכולים להבטיח את זו של ילדינו", אמר.
"אנחנו מגדלים אותם נכון ומקווים לטוב; עד כה, הם לא הרסו את העולם. כדי לגדל אותם היטב, אנחנו צריכים הבנה טובה יותר של אתיקה; אם אנחנו לא יכולים לנקות את הבית שלנו, מה קוד אנחנו אמורים לבקש מבינה מלאכותית לעקוב?"
אבל לא אבדה כל תקווה למין האנושי, אומר חוקר הבינה המלאכותית יונתן וקסלר, סגן נשיא בכיר למו"פ ב-OrCam. "למרות שההתקדמות אכן מרשימה, האמונה האישית שלי היא שאין לזלזל באינטליגנציה האנושית", אמר בראיון באימייל. "אנחנו כמין יצרנו דברים מדהימים, כולל בינה מלאכותית עצמה."
החיפוש אחר AI חכם יותר מתמיד. אבל אולי עדיף לשקול כיצד אנו שולטים ביצירות שלנו לפני שיהיה מאוחר מדי.
