פיטר ג'יי דנינג טוען בספר חדש כי הרחבת מודלי השפה, מרכזי הנתונים ומאיצי הבינה המלאכותית לא תפתור את בעיית הידע הסמוי, הגוף וההקשר. עם זאת, הוא מזהיר שגם מערכות שאינן מגיעות לרמת תבונה אנושית עלולות לפעול בדרכים מסוכנות
תעשיית השבבים משקיעה משאבים עצומים בהגדלת כוח החישוב הזמין לבינה מלאכותית: מאיצים חזקים יותר, זיכרונות מהירים, רשתות תקשורת למרכזי נתונים, מערכות קירור וארכיטקטורות המאפשרות לחבר עשרות אלפי מעבדים למודל אחד.
אולם מדען המחשבים פיטר ג'יי דנינג טוען כי הגדלת התשתית החומרתית והיקף המודלים לא תוביל בהכרח לבינה מלאכותית כללית ברמה אנושית.
בספר חדש הוא מציג טענה שלפיה המחקר בתחום פועל במשך יותר מ־75 שנה על בסיס פרשנות מוטעית של הצעת אלן טיורינג. טיורינג הציע בשנת 1950 לבחון אם מכונה יכולה להציג בשיחה התנהגות שאינה ניתנת להבחנה מזו של אדם. מבחן זה, שנודע לימים כמבחן טיורינג, הפך לאחת מנקודות הייחוס המרכזיות בדיון על מכונות חושבות.
לדברי דנינג, יכולתה של מערכת לחקות שיחה אנושית אינה מוכיחה שהיא מבינה את המילים שבהן היא משתמשת. הוא טוען כי אינטליגנציה אנושית אינה תוכנה בלבד, אלא תוצר של גוף ביולוגי, ניסיון מצטבר, קשרים חברתיים, רגשות, הקשר ותרבות.
מדובר בתזה המוצגת בספר ולא בממצא ניסויי שעבר ביקורת עמיתים. חוקרים וחברות בתעשיית הבינה המלאכותית עשויים לחלוק עליה, במיוחד לנוכח השיפור המהיר ביכולותיהם של מודלים גדולים. עם זאת, הטיעון מציב שאלה מהותית בפני תעשיית החומרה: האם הבעיה בדרך ל־AGI היא בעיקר מחסור בכוח חישוב, או שמדובר במחסום מסוג אחר לחלוטין?
הגדלת המודל אינה בהכרח הגדלת ההבנה
בלב טיעונו של דנינג נמצא "ידע סמוי" – ידע שבני אדם משתמשים בו, אך אינם מסוגלים להפוך לסדרה מלאה של מילים, סמלים או הוראות.
הידע הזה כולל שכל ישר, מיומנויות גופניות, אינטואיציה, הבנת התנהגות של אחרים, נורמות חברתיות, תרבות והיסטוריה משותפת. אנשים יודעים לזהות מתי אמירה היא סרקסטית, מתי נדרש טקט ומתי אפשר להתבדח, אף שבדרך כלל אינם מחשבים במודע את כל הכללים שהובילו אותם למסקנה.
מערכת מחשב, לעומת זאת, יכולה לעבד רק מידע שיוצג לה בצורה הניתנת לקידוד. דנינג מכנה זאת "בעיית הייצוג": כל נתון והוראה חייבים להיות מיוצגים בצורה פיזית שהמעבד מסוגל לזהות, לאחסן ולשנות.
ידע סמוי אינו בהכרח קיים בצורה כזו. אפשר לתעד את התוצאה של מיומנות, אך לא תמיד את הידע הגופני והתחושתי המאפשר לבצע אותה. כנר, למשל, יכול להדגים נגינה מעולה, אך אינו מסוגל להעביר לתלמיד את מלוא המיומנות באמצעות רשימת הוראות.
מנקודת המבט של תעשיית השבבים, משמעות הטענה היא כי יותר טרנזיסטורים, יותר זיכרון ורוחב פס גדול יותר יכולים לשפר את מהירות המודל, את גודלו ואת מספר המשימות שהוא מבצע – אך אינם מבטיחים מעבר מחיקוי מוצלח להבנה אנושית.
גם רובוט אינו בהכרח פותר את בעיית הגוף
חלק מחוקרי הבינה המלאכותית מנסים להתמודד עם מגבלת הטקסט באמצעות בינה מלאכותית מגולמת: רובוטים ומערכות אוטונומיות הלומדים באמצעות מצלמות, חיישני מגע, מיקרופונים ותנועה בעולם הפיזי.
מגמה זו צפויה להגדיל את הביקוש לשבבי קצה, מעבדי ראייה, חיישנים, מערכות זמן אמת ומאיצים חסכוניים באנרגיה. היא עשויה לאפשר למכונות ללמוד קשרים בין פעולה לתוצאה ולא רק לנתח מאגרי טקסט.
אולם דנינג טוען כי גם גוף רובוטי אינו זהה לגוף ביולוגי. רובוט יכול לצפות בביצוע, לאסוף נתוני חיישנים ולחקות תנועה, אך אין פירוש הדבר שהוא חווה את התחושות, הרגשות והמשמעויות שבני אדם מייחסים לפעולה.
הפער הזה חשוב במיוחד במערכות הפועלות לצד בני אדם. מכונית אוטונומית, רובוט תעשייתי, מערכת רפואית או סוכן תוכנה עשויים להצליח ברוב המצבים שנכללו באימון – ועדיין להיכשל במצב חריג שבו נדרש ידע הקשרי שלא הוגדר מראש.
הסכנה המעשית אינה מחייבת מחשב־על תבוני
דנינג אינו טוען כי כישלון אפשרי בהשגת AGI מבטל את הסיכונים של הבינה המלאכותית. לדבריו, מערכות שאינן מבינות את העולם כמו בני אדם עדיין יכולות להיות מהירות, אוטונומיות ובעלות השפעה רחבה.
רשתות של סוכני בינה מלאכותית עשויות לבצע משימות, לקבל החלטות ולתקשר זו עם זו ללא פיקוח רציף. הן אינן חייבות להיות בעלות תודעה או תבונה כללית כדי לגרום לשיבושים פיננסיים, להפיץ מידע שגוי, להפעיל מערכות באופן בלתי צפוי או לקבל החלטות שאינן מתיישבות עם מטרות המשתמשים.
לדברי דנינג, יישור מערכות בינה מלאכותית עם ערכים אנושיים נותר קשה משום שחלק מן הכוונות, הנורמות וההקשרים האנושיים כלל אינם מנוסחים. מערכת יכולה לציית להוראה המילולית ועדיין להחמיץ את מטרתה האמיתית.
לתעשיית השבבים אין מכאן מסקנה שלפיה הביקוש לחומרת AI עומד להיעלם. גם ללא AGI, מודלים ייעודיים, מערכות סוכניות, רובוטיקה, עיבוד שפה, תכנון שבבים, רפואה ומערכות אוטונומיות צפויים לדרוש כוח חישוב משמעותי.
אולם הטענה של דנינג מערערת על ההנחה שכמות החישוב היא המדד המרכזי להתקדמות לעבר אינטליגנציה אנושית. ייתכן שתעשיית החומרה תמשיך לשפר במהירות את ביצועי המכונות – בלי שהמכונות יתקרבו באותה מידה להבנה, משמעות או שיקול דעת אנושי.
