מזונות חשובים
- חוקר מוביל אומר שה-AI כבר מודע.
- אבל מומחי בינה מלאכותית אחרים אומרים שמחשבים רחוקים מלהשיג יכולות קוגניטיביות ברמת האדם, כולל תודעה.
- קביעה אם משהו מודע יכולה להיות מסובכת.
הרעיון של בינה מלאכותית מודעת (AI) מעלה תמונות של מכונות משתלטות על העולם, אבל מומחים חלוקים בדעתם אם לקחת את הרעיון ברצינות.
חוקר בינה מלאכותית טען לאחרונה שבינה מלאכותית כבר חכמה יותר ממה שאנחנו חושבים.איליה סוצקבר, המדען הראשי של קבוצת המחקר OpenAI, צייץ בטוויטר כי "ייתכן שהרשתות העצביות הגדולות של היום מודעות מעט". אבל מומחי AI אחרים אומרים שזה מוקדם מדי לקבוע משהו כזה.
"כדי להיות מודעת, ישות צריכה להיות מודעת לקיומה בסביבתה ולכך שפעולות שהיא נוקטת ישפיעו על עתידה", אמר צ'ארלס סיימון, מנכ"ל FutureAI, בראיון ל-Lifewire. "אף אחד מאלה אינו קיים ב-AI הנוכחי."
על אנושי?
Sutskever הזהיר בעבר שבינה מלאכותית סופר חכמה עלולה לגרום לבעיות. מרואיין בסרט התיעודי iHuman, הוא אמר כי בינה מלאכותית מתקדמת "יפתור את כל הבעיות שיש לנו היום", אך גם הזהיר שיש להן "פוטנציאל ליצור דיקטטורות יציבות עד אין קץ."
OpenAI נוסדה כמלכ ר שנועד להתמודד עם הסיכונים שמציבים מחשבים חכמים, אך גם ערכה מחקר שנועד ליצור בינה מלאכותית.
למרות שמדענים רבים דחו את הטענה של סיימון ש-AI מודע, יש לו לפחות מגן ידוע אחד. מדען המחשבים של MIT, Tamay Besiroglu, הגן על Sutskever בציוץ.
"לראות כל כך הרבה אנשים בולטים [למידת מכונה] שלעגים לרעיון הזה זה מאכזב", כתב בזירוגלו בטוויטר. "זה גורם לי פחות תקווה ביכולת של התחום לקחת ברצינות כמה מהשאלות העמוקות, המוזרות והחשובות שללא ספק יתמודדו איתן במהלך העשורים הקרובים."
מהי תודעה?
גם לקבוע אם משהו מודע יכול להיות מסובך. חוקר הבינה המלאכותית, סנה ואסואני, אמר ל-Lifewire באימייל שלתודעה יש מספר שלבים. בינה מלאכותית עשתה "פריצות הגונות" לשלבים הראשונים, הוא אמר.
"היום, מכונה יכולה להבין רגשות, לבנות פרופיל אישיות ולהסתגל לאישיות של אדם", הוסיף. "ככל שהבינה המלאכותית מתפתחת, היא נעה לשלבים המתקדמים של התודעה מהר יותר ממה שאנחנו יכולים אפילו להבין."
ישנן הגדרות רבות לתודעה, ויש שיטענו שעצים ונמלים מודעים במידה מסוימת, רעיון ש"מותח את ההגדרה מעבר לשימוש נפוץ", אמר סיימון. הוא טוען שמודעות עצמית היא הבנת העצמי של האדם כישות מודעת.
"הן התודעה והן המודעות העצמית באות לידי ביטוי במספר התנהגויות כמו גילוי אינטרס אישי אך גם בתחושה פנימית", אמר סיימון. "אם AIs הם באמת מודעים, נוכל לצפות בהתנהגויות אבל יהיה לנו מעט ידע על התחושה הפנימית. אפשר לזייף תודעה עם ספרייה של התנהגויות שמופיעות במודע כמו להתייחס לעצמה כ'אני', אבל ישות מודעת באמת מסוגלת לתכנן ולשקול תוצאות מרובות."
Vaswani אופטימי לגבי התוצאה של יצירת בינה מלאכותית סופר חכמה למרות שאלון מאסק הוא בין אלה שהזהירו שבינה מלאכותית מודעת עלולה להוביל להשמדת האנושות.
"כאשר בינה מלאכותית תזכה להכרה מלאה, היא תשלים חברה 'לא שלמה': בני אדם ובינה מלאכותית יתקיימו במקביל", אמר וסוואני. "נשיג יעדים גדולים יותר ביחד, ובינה מלאכותית תשתלב בצורה חלקה בעולם שלנו."
כמה מומחי AI אומרים שעצם הרעיון של AI מודע הוא יותר מדע בדיוני מאשר המציאות. הנושא נוטה להדגיש יתר על המידה רובוטים מסוג 'טרמינטור' ולא את הנזק הפוטנציאלי האמיתי מ-AI מוטה שכבר קיים, אמר Triveni Gandhi, אחראי בינה מלאכותית בחברת הבינה המלאכותית Dataiku, באימייל ל-Lifewire.
"אולי אנחנו לא מתמודדים עם האקס מכינה הבא, אבל אנחנו עומדים בפני כמה אתגרים אמיתיים", אמר גנדי. "ניתן לראות זאת בשימוש לרעה בבינה מלאכותית מוטה מאוד כדי לחזות עלויות שירותי בריאות, בכלי גיוס שמסננים קורות חיים בצורה לא הוגנת, או במודלים של הלוואת אשראי שמחזקים את אי השוויון הקיים."
AI הוא לא טוב או רע מטבעו, זה רק נתונים שעושים את מה שאנחנו אומרים לו לעשות, גנדי טוען.
"הטיות אנושיות מוצאות את דרכן לתוך מודלים של נתונים ולמידת מכונה, אז עלינו להיות ברורים מאוד לגבי הנתונים שבהם אנו משתמשים, מדוע אנו בוחרים להשתמש ב-AI בתפקיד זה, וכיצד הבחירות מוצגות בפני אנשים מושפע ממערכת בינה מלאכותית", הוסיף גנדי.
