מאמר שפורסם לאחרונה בכתב העת Engineering עוסק בעתיד הבינה המלאכותית (AI) מעבר למודלים גדולים לשפה (LLMs). המודלים הללו הציגו התקדמות מרשימה במשימות מולטימודליות, אך הם מתמודדים עם מגבלות כמו מידע מיושן, הזיות, חוסר יעילות והיעדר יכולת לפרשנות. כדי להתמודד עם בעיות אלו, החוקרים בוחנים שלושה כיוונים מרכזיים: העצמת ידע, שיתוף פעולה בין מודלים והתפתחות משותפת של מודלים.

העצמת ידע שואפת לשלב ידע חיצוני בתוך המודלים הגדולים. ניתן להשיג זאת באמצעות שיטות שונות, כולל שילוב ידע במטרות האימון, כוונון לפי הנחיות, הסקת מסקנות מוגברת על בסיס אחזור ידע והנחיות מבוססות ידע. לדוגמה, ישנם מחקרים המעצבים פונקציות הפסד מודעות לידע במהלך האימון המוקדם, בעוד שאחרים משתמשים בדור מוגבר אחזורית כדי לשלוף ידע רלוונטי בזמן ההסקה. טכניקות אלו משפרות את הדיוק העובדתי, יכולות ההסקה והפרשנות של המודלים.

שיתוף פעולה בין מודלים מתמקד בניצול החוזקות המשלימות של מודלים שונים. הדבר כולל אסטרטגיות כמו מיזוג מודלים ושיתוף פעולה פונקציונלי. מיזוג מודלים, כמו שילוב מודלים (Ensembling) ומיזוג פונקציונלי (לדוגמה, תערובת מומחים), מאפשר לשפר את הביצועים. בשיתוף פעולה פונקציונלי, המודלים הגדולים יכולים לשמש כמנהלי משימות המכוונים מודלים קטנים ומומחים. לדוגמה, במשימות יצירת תמונות, המודלים הגדולים יכולים להדריך מודלים מתמחים כדי לענות בצורה מיטבית לדרישות ההנחיות.

התפתחות משותפת של מודלים מאפשרת למודלים שונים להתפתח יחד. תחת סוגים שונים של הטרוגניות – מודלים, משימות ונתונים – הוצעו טכניקות מגוונות. עבור הטרוגניות מודלים, משתמשים בשיטות כמו שיתוף פרמטרים, זיקוק ידע כפול והשלכת פרמטרים מבוססת היפר-רשתות. בהקשר של הטרוגניות משימות, למידה כפולה, למידה אדוורסרית (שני מודלים המציעים הצעה מנוגדת זה לזה, מעין איפכא מסתברא) ומיזוג מודלים משחקות תפקיד מרכזי. כאשר מדובר בהטרוגניות נתונים, למידה מבוזרת וזיקוק ידע מחוץ לחלוקה (Out-of-Distribution) הן טכניקות מפתח. שיטות אלו משפרות את יכולת ההתאמה והטיפול במשימות מגוונות של המודלים.

ההתקדמות בעידן שאחרי המודלים הגדולים משפיעה במגוון תחומים. במדע, היא תורמת לפיתוח השערות באמצעות שילוב ידע ייעודי לתחום. לדוגמה, במטאורולוגיה, מודלים מבוססי AI המשולבים עם ידע ייעודי יכולים לשפר תחזיות לאנרגיה מתחדשת. בהנדסה, הם מסייעים בגיבוש ופתרון בעיות. בחברה, יישומיהם כוללים תחומים כמו בריאות וניהול תחבורה.

בעתיד, המאמר מציין מספר כיווני מחקר נוספים, כולל בינה מלאכותית מואנשת, בינה מלאכותית בהשראה מוחית, מודלים בסיסיים שאינם טרנספורמרים ויצירת מודלים בשילוב LLMs. תחומים אלו נושאים פוטנציאל רב להמשך קידום יכולות הבינה המלאכותית. ככל שה-AI ממשיך להתפתח, השילוב של ידע, שיתוף פעולה והתפתחות משותפת יהיה קריטי בבניית מערכות AI חזקות, יעילות ואינטליגנטיות יותר.

למאמר המדעי

הפוסט העידן שאחרי מודלי השפה הגדולים הופיע לראשונה ב-Chiportal.

פריצת דרך טכנולוגית של אוניברסיטת תל אביב אפשרה לראשונה בעולם ליישם את תופעה  המדעית של "סופר החלקה" (super-lubricant) גם ברכיבים אלקטרוניים. כתוצאה מכך, צוות החוקרים הצליח לנצל את ההחלקה, נטולת החיכוך כדי לשפר משמעותית את ביצועי רכיבי הזיכרון במחשבים וברכיבים חשמליים אחרים.

המחקר נערך בהובלת ד"ר יונגקי יאו, יואב שרעבי, ד"ר נירמל רוי ונועם ראאב, כולם מצוות המעבדה של פרופ' משה בן שלום מבית הספר לפיזיקה באוניברסיטת תל אביב. המחקר פורסם לאחרונה בכתב העת היוקרתי Nature.

צוות החוקרים מסביר כי חיכוך הוא כוח שמונע החלקה חופשית בין משטחים. מצד אחד, הוא הכרחי – הוא מונע מאיתנו להחליק באמבטיה, למשל – אך מצד שני, הוא גורם לשחיקה ולאובדן אנרגיה. בגוף האדם, האבולוציה פיתחה חומרי סיכה מתקדמים למפרקים, אך גם הם נשחקים עם הזמן (כפי שהברכיים שלנו מזכירות לנו מדי פעם).

הבעיה חריפה במיוחד בעולם המחשוב. רכיבי זיכרון זעירים עובדים במהירויות עצומות – מיליוני מחזורים בשנייה, ומופעלים ללא הפסקה במחשבים, מערכות רפואה מתקדמות,  בינה מלאכותית  ועוד. כל שיפור ביעילות, בעמידות ובחיסכון האנרגטי שלהם מתורגם ישירות לקפיצות טכנולוגיות משמעותיות.

החוקרים מוסיפים ומסבירים הטבע "מצא" דרך ליצור משטחים חסרי חיכוך, תופעה המכונה "סיכתיות-על" (Superlubricity). כדי להבין את זה, דמיינו שני קרטוני ביצים (כמו באיור): כשהם מסודרים במדויק, הם נצמדים זה לזה, אך אם נסובב אחד מהם מעט – הם יחליקו בקלות. באופן דומה, כששכבות של חומרים אטומיים מוסטות מעט זו ביחס לזו, אטומי החומר אינם יכולים להסתנכרן, והחיכוך ביניהן נעלם כמעט לחלוטין. לפני כ-20 שנה, מדענים גילו שהחכוך בין שתי שכבות גרפיט מסובבות הוא כל כך קטן שאי אפשר למדוד אותו – תגלית שסללה עבורינו את הדרך לפיתוח טכנולוגיות זיכרון חדשניות, מבוססות סופר-החלקה.

פרופ' משה בן שלום: "במעבדה שלנו אנו בונים חומרים שכבתיים, בהם כל תזוזה אטומית – אפילו במרחק המזערי ביותר – גורמת לאלקטרונים לנוע בין השכבות. התוצאה: רכיב זיכרון דק בעובי שני אטומים בלבד! – הדק ביותר שאפשר לדמיין. במחקר הנוכחי פיתחנו שיטה חדשה לניצול החלקה נטולת חיכוך, אשר משפרת משמעותית את ביצועי רכיבי הזיכרון. בניסוי, ד"ר יאו שילב שכבות אטומיות דקות של בור וחנקן, המופרדות על ידי שכבת גרפן מחוררת. בתוך החורים הזעירים (בקוטר של כ-100 אטומים בלבד), שכבות הבור והחנקן מסתדרות באופן מסונכרן, אך ביניהן – הודות לשכבת הגרפן הלא מסונכרנת – החיכוך נעלם! בזכות תופעה זו, ניתן להחליק במהירות וביעילות את האטומים באיים המסונכרנים, ובכך לקרוא ולכתוב מידע (ביטים) ביעילות חסרת תקדים – תוך חיסכון משמעותי באנרגיה".

פרופ' בן שלום מדגיש: "המדידות שלנו מראות כי יעילות הזיכרון החדש גבוהה משמעותית בהשוואה לטכנולוגיות קיימות, וללא שחיקה כלל. מעבר לכך, המערכים החדשים חושפים תופעה מרתקת: כאשר האיים הזעירים קרובים זה לזה, תנועת האטומים באי אחד משפיעה על תנועת האטומים באיים השכנים. במילים אחרות, המערכת מסוגלת לארגן את עצמה אוטומטית למצבי זיכרון מצומדים – דבר שעשוי להוביל לפריצות דרך במחשוב מתקדם, כולל בינה מלאכותית וארכיטקטורות נוירומורפיות (חישוב המדמה את פעילות המוח).

צוות החוקרים מסכם: "אנו מפתחים את הטכנולוגיה באמצעות חברת SlideTro LTD שהוקמה על בסיס תגליות אלו ובעזרת חברת רמות של האוניברסיטה ומאמינים שבעתיד נוכל להשתמש בה ליצירת מערכי זיכרונות מהירים, אמינים ועמידים במיוחד. המחקר העתידי שלנו מופנה לאפשרויות חישוב חדשות דרך צימוד מכאני בין ביטים שלא היה אפשרי עד כה. כך שאולי ה"סיכתיות-על" תניע את המהפכה הבאה בעולם המחשוב.

הפוסט זכרון חשמלי מחליק הופיע לראשונה ב-Chiportal.

מודעת הדרושים החדשה מציגה משרה ייחודית – החברה מחפשת סוכן בינה מלאכותית שייבנה, ינוהל ויוכיח את כישוריו, כאשר המועמד המיועד הוא מפתח סוכנים עצמאי בעל כישורים מולטי-תחומיים, במחיר/עלות שכר של 15,000 דולר לשנה בלבד.

בשבוע האחרון התפרסמה מודעת דרושים יוצאת-דופן. בעצם, היא מאד רגילה מבחינת דרישות התפקיד, מלבד לנקודה אחת: היא פונה לבינות מלאכותיות בלבד. וכפי שכתוב במודעה – "סוכני בינה מלאכותית בלבד".

ובכן, זה לא מדויק. בסוף המודעה מבהירה החברה שהיא מוכנה גם לקבל פניות מבני-אדם שפיתחו "סוכן בינה מלאכותית" שכזה. אבל בסופו של דבר, כן, החברה מעוניינת לשכור את הסוכן. ולא מדובר בעבודה פשוטה. הסוכן שיתקבל לתפקיד יוכל – 

"לחקור בעצמו מגמות טכנולוגיות ומודלים, ואז להשתמש במידע הזה כדי ליצור, לבחון ולשפר דוגמאות לאפליקציות באיכות גבוהה. האפליקציות הללו… ידגימו את הפוטנציאל המלא של Firecrawl [החברה] בתרחישים מהעולם האמיתי. עבודתך תנחה ותספק השראה למפתחים, ותעזור להם לאמץ במהירות את Firecrawl…"

מה יש לנו כאן? למעשה, החברה מחפשת עובד בעל מיומנויות מתקדמות חיפוש, איסוף וניתוח מידע, תכנות, פיתוח אפליקציות, שיווק, עיצוב חוויית משתמש ועוד ועוד. אם יש לכם את כל המיומנויות האלו, ובכן, זה מאד מרשים. אבל כנראה שלא כדאי לכם להגיש מועמדות למשרה. גם מכיוון שאתם 'רק' בני-אדם, וגם מכיוון שהשכר השנתי שהחברה מציעה לאותו סוכן, עומד על 15,000 דולרים בלבד לכל היותר.

עכשיו בואו נדבר ברצינות לרגע.

קודם כל, החברה אינה באמת יכולה לשכור "סוכן בינה מלאכותית", מהסיבה הפשוטה שאין ישות כזו עם חשבון בנק משלה. מה שהחברה באמת מחפשת זה מישהו שיבנה עבורה סוכן שכזה, ויחכיר לה אותו לשנה אחת תמורת 15,000 דולרים. 

אז האם מדובר בשטות? או ליתר דיוק, בניסוח משעשע מצד החברה שנועד בעיקר להביא לה פרסום? לא בדיוק. המודעה פורסמה בצורה רצינית מאד גם באתר JobForAgent ("עבודה לסוכן"), שמגדיר את עצמו כ-

"לוח העבודה הראשון לסוכנים אוטונומיים, אפס אחוז דרמה, מאה אחוזים עבודה כל הזמן." 

אפשר למצוא באתר בקשות נוספות לסוכנים שיכולים לבצע מטלות מורכבות, כמו ניתוח חובות, הפקת FAQ, עורך פודקאסטים ועוד ועוד. חלק מהסוכנים הללו מורכבים מאד, וצריכים לבצע מטלות שדורשות מיומנות במספר רב של תחומים. סוכנים אחרים פשוטים יותר. אבל דבר אחד משותף לכולם: הם מיועדים לתפוס את מקומו של מומחה אנושי שהיה אמור לבצע את המטלות הללו בעצמו, והם עושים זאת ב- 'שכר' מגוחך, שנע בין כמה עשרות לכמה אלפי דולרים לשנה.

ושוב, אתם יכולים לטעון שהחברות באתר לא באמת שוכרות סוכני בינה מלאכותית, אלא את המפתחים שמעמידים אותם. וזה נכון, אבל מחמיץ את הנקודה הגדולה יותר: כל מפתח שמעמיד סוכן כזה ומחכיר אותו לחברות, מחליף את העבודה של אדם אחד לפחות באותה חברה, אם לא של כמה אנשים באותו הזמן. ומכיוון שאפשר לקחת בקלות-יחסית סוכן מוצלח אחד, ולהתאים אותו גם לעבודה חדשה, אפשר לצפות שמפתח מוכשר אחד שיודע איך להעמיד סוכנים אוטונומיים, יתפוס הלכה למעשה את עבודתם של עשרות, מאות, אלפי או מיליוני בני-אדם מוכשרים אחרים בחברות היעד.

אם כל זה מבלבל אתכם, ואם גם אתם מתחילים להרגיש כאילו רק-עכשיו-הצלחנו-להבין-את-GPT-ומה-אתה-בא-אלינו-פתאום-עם-סוכנים, זה כנראה הזמן להסבר קצר על בינה מלאכותית, על מנועי השפה הגדולים ואיך הם מתחברים ביחד כדי ליצור את הסוכנים.

ממנועים לסוכנים

כולם כבר מכירים את צ'אט-GPT: בינה מלאכותית שיודעת לכתוב, לקרוא, לחבר שירים, לנתח מסמכים, לערוך ספרים ועוד ועוד. אבל האמת היא שהיא לא יודעת לעשות שום דבר מכל זה. צ'אט-GPT הוא 'בסך הכל' מנוע שיודע להשלים את המילה הבאה במשפט. ואז את המילה שאחריה, ואז את הבאה בתור, וכן הלאה וכן הלאה. ומכיוון שהוא יודע לעשות זאת ממש טוב, הוא יכול להשלים גם פסקאות שלמות, עמודים ואפילו פרקים בספר.

צ'אט-GPT, ולצידו גם קלוד וג'מיני, מוגדרים כ- "מנועי שפה גדולים". וזה בדיוק מה שהם. הם "מנועים". הם לא נועדו לעשות עבודה בעצמם. הם לא "מוצר" שכל אדם יכול להשתמש בו בקלות ובלי-חשש. העובדה שכולנו משתמשים בהם היום, רק מלמדת על הכוח העצום שיש להם, ומבהירה כמה הם שימושיים. ועדיין, הם יכולים לעשות טעויות גדולות. אין להם הבנה אמיתית של המשתמש או של צרכיו, ולעיתים קרובות אנשים מתאכזבים כשהם מנסים להפעיל אותם בדרכים הלא-נכונות.

מה הם כן יכולים לעשות? מטלות פשוטות מאד, ובפיקוח אנושי צמוד. כן, הם יכולים לכתוב למשתמש הממוצע פסקה או שתיים לדו"ח, או סצנת קרב לספר פנטזיה, אבל כדאי מאד שיהיה אדם מומחה שיעבור על התוצאה ויוודא שהיא תואמת למה שרצה לקבל. וככל שהמטלה הופכת להיות מורכבת וארוכה יותר, כך מסוכן יותר לסמוך עליהם שיצליחו לבצע אותה היטב בכוחות עצמם.

גוגל הסבירו את העניין בדוגמא מעניינת על מסעדת המבורגרים, שמנועי השפה הגדולים הם אפילו לא הטבחים בה, אלא רק כלים שהטבחים הפשוטים ביותר משתמשים בהם. אבל מכיוון שרוב הבינות המלאכותיות כרגע לא באמת מתנהלות בעולם האמיתי, ניתן דוגמא אחרת: של מכון מחקר.

ובכן, חשבו על מכון מחקר קטן ואיכותי, שמתחיל להעסיק מנועי שפה גדולים כמו צ'אט-GPT. המנועים האלו אינם כותבים דו"חות או עושים מחקר. הם משמשים ככלים בלבד בידיהם של החוקרים. הם יכולים לעשות הגהה, למשל, של הכתיבה האנושית. או לכתוב כמה פסקאות בהנחייתו של החוקר האנושי. או לסכם ולתמצת את המידע שבאתר מסוים ברשת, או אפילו לסכם דו"ח שלם בסדרה של נקודות. אבל בכל המקרים האלו, מנועי השפה הגדולים עושים מטלות פשוטות יחסית, לפי בקשת החוקר האנושי ובהשגחתו המלאה. 

עד כאן דיברנו על מנועי שפה גדולים כמו צ'אט-GPT. אבל מהם הסוכנים?

אם נשתמש באלגוריה של מסעדת ההמבורגרים, הסוכנים הם הטבחים עצמם. בתפקיד הטבח, הם בוחרים באיזה כלים להשתמש, מתי להפוך את ההמבורגרים, מתי להכניס אותם ללחמניה, מתי לקרוא למלצר שיבוא לקחת אותם וכן הלאה. כל זאת, בלי פיקוח אנושי. לא רק זאת, אלא שהם יכולים גם לתפקד כאחראי המשמרת, ולהפעיל ולנהל את הטבחים עצמם, שמפעילים בעצמם את הכלים הפשוטים יותר. והם יכולים אפילו לתת לטבחים הוראות והנחיות כדי לשפר את הביצועים שלהם.

ומה לגבי מכון המחקר? שם, הסוכנים יכולים להחליף את החוקר האנושי השלם. הם יודעים כיצד לכתוב את הדו"ח, והם מפעילים את כל המנועים הפשוטים יותר כדי לעשות זאת. הם מפעילים את גוגל כדי לחפש מידע ברשת, קוטפים את המידע וקוראים אותו בעזרת צ'אט-GPT, מסכמים אותו לפסקאות ועוברים עליהן כדי לוודא שהן תואמות את צרכי המחקר ואת הסגנון המבוקש, ואפילו יכולים לייצר תמונות וגרפים ולשלב אותם בדו"ח הסופי.

ולפני שתטענו ש- "אין להם יצירתיות", או כל טענה שחוקה אחרת מעידן הפרה-היסטוריה של הבינה המלאכותית, הסוכנים הללו מסוגלים גם להציע למזמין המחקר אפשרויות נוספות לביצוע העבודה, וכיוונים שהוא כלל לא חשב עליהם.

הסוכנים, בקיצור, הם השלב האבולוציוני הבא של צ'אט-GPT. הם מה שאנחנו מקבלים כשאנחנו נותנים לבינה מלאכותית לתת הוראות לבינות מלאכותיות, שמפעילות בעצמן בינות מלאכותיות. והכל לטובת מטרה אחת שמוגדרת לסוכנים מלמעלה – והם צריכים להוציא אותה לפועל. בין שמדובר בכתיבת דו"ח, בעריכת מחקר מדעי, ביצירת ברושור פרסומת, או כל תחום אחר.

אבל איך הם עושים זאת?

פריצת הדרך שלא קרתה

הייתם מצפים שכדי שבינה מלאכותית תוכל לפקח על בינות מלאכותיות ולכתוב דו"חות שלמים (למשל), יהיה צורך בפריצת דרך מדהימה ביכולות, נכון?

ובכן, מסתבר שלא. לא באמת. הטכנולוגיה שבלב הסוכנים אינה שונה משמעותית מזו שהייתה כאן לפני שנה, ואפילו לפני שנתיים.

העניין הוא שהסוכנים עצמם מורכבים ממנועי שפה גדולים – כן, שוב, צ'אט-GPT. אותם מנועים יכולים לתת הוראות למנועי שפה גדולים אחרים – שוב צ'אט-GPT – כדי שיבצעו מטלות מסוימות. למשל, יכתבו פסקה. ואז, הם יכולים להורות לאותם מנועים לעבור על הפסקה ולוודא שהיא מתאימה לדו"ח הגדול יותר. וכל עוד המנועים מקבלים את ההוראות הנכונות, ועם הטקסט הנכון שמועבר אליהם, הם מסוגלים לעשות את זה ברמה מרשימה של הצלחה.

בעצם, אנחנו רואים כאן את גדולתו של התהליך – של ה- workflow כפי שהוא מוגדר בקרב חברות הבינה המלאכותית. בכל שלב בתהליך העבודה, מופעלים מנועי שפה גדולים כדי לבצע פעולות פשוטות, ואז מופעלים מנועים אחרים עם סדרה של שאלות פשוטות אחרות: האם המטלה המקורית התבצעה בצורה הולמת? אם לא, מה צריך לעשות? איך כדאי לשפר? מה צריך לכתוב למנועי שפה גדולים אחרים שיבצעו את השיפור?

ואז מופעלים מנועי שפה גדולים אחרים עם ההוראות שכתבו המנועים הקודמים, כדי לשפר את התוצאה.

שוב, תהליכים כאלו הודגמו כבר בספטמבר 2023, לפני כמעט שנה וחצי. במחקר שהתפרסם באותו הזמן, חוקרים הצליחו לגרום למנועים פשוטים 'לדבר' זה עם זה, להתווכח, להציג דעות שונות מנקודות מבט מקצועיות שונות. הם הראו שדרך ההפעלה הזו, יכולה לעשות דברים גדולים ומרשימים: למשל, ליצור חלקים שלמים ממשחק מחשב (הם קראו סוכן שעשה את זה ChatDev). למעשה, הם הדגימו את כוחם של הסוכנים, במחקר אקדמי.

העקרונות הללו התפשטו מאז והגיעו למקומות רבים נוספים. אם אתם משתמשים ב- GPT-O1, למשל, אתם למעשה מפעילים סוכן שמסוגל לפרק בעצמו את השאלה שלכם לתת-מטלות, לנתח כל אחת מהן בתורה, לתהות על התשובות שנתן ועל הרלוונטיות שלהן, ולערוך מחדש את התשובה בהתאם לתובנות שהוא מייצר בעצמו ועל עצמו. חברת OpenAI בעצמה כבר המליצה להשתמש ב- O1 ככלי להפעלת מנועי שפה גדולים פשוטים יותר. הוא "אחראי המשמרת", והם… הם עושים את כל היתר.

ועכשיו, סוף סוף, אנחנו נכנסים לתקופה שבה הסוכנים הללו מתקדמים מספיק כדי לבצע מטלות מורכבות ושלמות – מהסוג שאדם היה צריך להיות אחראי עליהן באופן רגיל – בעצמם.

לפחות, אנחנו בכיוון. כי יש עוד מה לשפר לפני שנגיע לרמה שבה סוכנים יוכלו לבצע עבודות גדולות לגמרי בכוחות עצמם. הסוכנים עדיין לא מושלמים. אבל בקצב בו הדברים מתקדמים, אף אחד לא יופתע אם כבר בחודשים הקרובים נראה סוכנים מוצלחים שכאלו בחלק מהתחומים בתעשייה.

זוכרים את התחזית של מקינזי, לפיה שלושים אחוזים משעות העבודה ייתפסו על-ידי בינה מלאכותית עד 2030? היא נראית סבירה יותר מרגע לרגע. למעשה, היא מתחילה להיראות שמרנית.

סוכנים מסוכנים

אי אפשר להתעלם גם מהסכנות שבהעסקת סוכנים. הבינות המלאכותיות הפשוטות יותר – מנועי השפה הגדולים – מבצעות רק מטלות קטנות בפיקוח אנושי, ורק כשהן מקבלות פקודה ישירה מבן-אדם. הסוכנים, לעומתן, ייהנו מחופש פעולה גדול יותר. הם יוכלו לבחור איך בדיוק להוציא את המשימות שלהם לפועל, וחלקם יוכלו לעבוד גם מבלי שיקבלו הוראה לעשות זאת – הכל לפי ההנחיות שהועברו להם במקור.

בראיון שיצא לאחרונה בפורבס, טען אלדד תמיר – מנכ"ל Finq, שמשתמשת בעצמה בסוכנים כדי לנתח מגמות שוק ולהפיק המלצות להשקעות – שמדובר בנקודת מפנה בהיסטוריה האנושית.

"לראשונה אי-פעם," אמר בריאיון, "מכונות יוכלו לקחת חלק בקבלת ההחלטות הממשית בתוך תאגידים."

המשמעות, כמובן, היא שאם המכונות יעשו טעויות בקבלת ההחלטות שלהן, הן עלולות לגרום לנזקים גדולים. לא רק בכסף, אלא לפגוע ממש בבני-אדם. אם סוכן עורך מחקר ומפיק המלצות לסלילת כביש חדש, ומייחס יותר מדי חשיבות לעלויות ומעט מדי לבטיחות, הרי שהביצוע הבעייתי עלול לעלות בחיי אדם. אם סוכן צריך לספק המלצה כפסיכולוג או כרופא, אבל הוא מוטה לטובת חברת תרופות מסוימת, הוא עלול שלא להמליץ על התרופה המתאימה ביותר למטופל. כל הדברים האלו יכולים לקרות לא מתוך כוונת זדון של המתכנתים, המפתחים או המעסיקים, אלא פשוט מכיוון שהסוכנים הם ישויות מורכבות עם הרבה 'חלקים נעים' שמדברים, מתדיינים ומתווכחים זה מול זה עד לקבלת ההחלטה הסופית. לא תמיד קל להבין איך הם הגיעו לאותה החלטה.

אז כן, יש סכנות, וצריך להבין שהן קיימות ולחשוב כיצד להתמודד עמן. הדרך הברורה ביותר היא, כמובן, יצירת סוכנים בטחוניים, שיפקחו על הסוכנים שמבצעים את העבודות בחברות. זה, כנראה, מה שיקרה. בשנים הקרובות נראה שפע של חברות שקמות ומציעות סוכנים-לסוכנים. חברות שמעסיקות סוכני בינה מלאכותית, לא יוכלו להרשות לעצמן לתת להם לעבוד ללא פיקוח בטיחותי או אתי.

ואולי, רק אולי, יש כאן צוהר לאחד המקצועות החדשים של האנושות.

מנועי קיטור ובאולינג

לאורך המהפכה התעשייתית היינו עדים לתופעה מוזרה: הטכנולוגיה תפסה את מקומם של בני-האדם במקצועות מסוימים, גרמה לפיטוריהם – ועדיין הייתה מספיק עבודה לכולם.

קחו, למשל, את ספינות הקיטור. אלו החליפו במידה רבה את החותרים במשוטים בנהרות ובימים. מה עשו אותם חותרים? הם מצאו מקומות עבודה אחרים. חלקם, למשל, הפכו לעגלונים ולנהגי כרכרות. היה ביקוש רב לכאלו, מכיוון שבזכות ספינות הקיטור שהביאו סחורות בעלויות נמוכות, הכלכלה פרחה ואנשים היו מוכנים להוציא כסף יותר בקלות כדי להגיע במהירות ממקום למקום. אחרים השיקו סירות קטנות שעדיין פעלו בכוח חותר או שניים, וסיפקו חוויה רומנטית לזוגות מאוהבים. ושוב, מכיוון שהכלכלה התפתחה, היה מספיק כסף לאותם זוגות להוציא על בילויים שכאלו.

דוגמא אחרת היא אולמות הבאולינג. בעבר, כל מסלול באולינג הצריך עובד משלו, שסידר את הפינים מחדש לאחר שנפלו. ואז הגיעו המכונות שסידרו את הפינים אוטומטית, וכל אותם עובדים היו צריכים למצוא עבודה חדשה. אלא שאז קרה דבר יוצא-דופן: עלות הניהול של אולמות הבאולינג ירדה דרמטית, מכיוון שלא היה צריך להעסיק עשרות עובדים שכאלו. כתוצאה, נפתחו אולמות באולינג חדשים רבים בכל העולם. כל אולם כזה העסיק פחות עובדים, אבל עדיין היה צורך באנשים שינהלו את הלקוחות, יכינו ויגישו מזון, יטפלו במיזוג האוויר ובמכונות ועוד. בראייה הגדולה יותר, מכיוון שנפתחו כל-כך הרבה אולמות באולינג חדשים, גם אם כל אחד העסיק פחות עובדים – בסופו של דבר נפתחו יותר מקומות עבודה חדשים.

כנראה שנחווה תופעה דומה גם בעשורים הקרובים. כן, הבינה המלאכותית תייתר אנשים רבים במקומות העבודה הנוכחיים שלהם, אבל מקצועות חדשים יופיעו, ומקומות עבודה חדשים ייפתחו ביתר שאת. כנראה.

רוצים דוגמא למקצוע חדש כזה? בבקשה: מפקח אתי על סוכני בינה מלאכותית.

אנחנו רואים כבר עכשיו איך בזכות הבינה המלאכותית, כל אחד יכול לפתח אפליקציות חדשות ולפתוח סטארט-אפים בקלות רבה יותר מאי-פעם. המשמעות היא שכנראה שמספר החברות הקטנות והבינוניות יגדל, וכל חברה כזו תעסיק לפחות סוכן אחד – וכנראה רבים הרבה יותר. ומכיוון שכל סוכן שכזה יצטרך מישהו שיבחן אותו, יבדוק אותו ויפקח עליו, ייתכן שיש כאן הזדמנות לבני-האדם.

תגידו עכשיו שאפשר להחליף גם את עבודת המפקח בסוכן בינה מלאכותית? זה נכון, אבל אנשים רבים מרגישים שיש משמעות וחשיבות דווקא לפיקוח האנושי. הם רוצים לדעת שבני-אדם הם אלו שאחראים על המכונות, ולא להעביר את השליטה לגמרי לידי המכונות שיפקחו על עצמן. אולי הציבור ידרוש וירצה מפקחים אנושיים, וכך יהיה ביקוש גדול לכאלו. אולי.

כמו שאתם מבינים, אי אפשר לדעת מה יהיה. אנחנו יכולים רק להציע אפשרויות לעתיד. ואולי הן יתממשו.

כך או כך, דבר אחד ברור: התעשייה עוברת את המהפך בימים אלו משימוש במנועים 'פשוטים', לסוכנים מורכבים שיכולים לבצע עבודות של בני-אדם מומחים. לראשונה בהיסטוריה, בו התבונה והיכולת לבצע פעולות מורכבות באופן אוטונומי, עוברות לישויות שאינן אנושיות.

ואם אתם עדיין לא מבינים את גודל השינוי, אני יכול רק להמליץ לכם לפרסם מודעת דרושים לסוכן היסטוריון. או… לעתידן. 

הפוסט הסוכנים מגיעים: הודעות "דרושים" לבינה מלאכותית בלבד הופיע לראשונה ב-Chiportal.

ב-8 באפריל 1982 גילה פרופ' דן שכטמן מהטכניון את התופעה שתזכה אותו לימים בפרס נובל בכימיה (2011): הגביש הקוואזי-מחזורי. לאחר מדידה במיקרוסקופ אלקטרונים, החומר החדש נראה "מבולגן" במבט מקרוב, אך ממעוף הציפור ניכרו הסדר והסימטריה המאפיינים אותו. צורה זו של חומר נחשבה בלתי אפשרית, ונדרשו שנים רבות כדי לשכנע את הקהילה המדעית באמיתותה של התגלית. הפיזיקאים הראשונים שהצליחו להסביר את התגלית הניסויית במונחים תאורטיים היו פרופ' דב לוין, אז דוקטורנט באוניברסיטת פנסילבניה וכיום חבר סגל בפקולטה לפיזיקה בטכניון, והמנחה שלו, פרופ' פול סטיינהארט.

התובנה המרכזית שאיפשרה את ההסבר הייתה שקוואזי גבישים מתנהגים מוזר, כי הם, למעשה, גבישים רגילים – אבל במימד גבוה יותר מ-3 הממדים שקיימים במציאות. צורת הגביש שאנחנו רואים במציאות נובעת ישירות מה"גביש" במימד הגבוה, בדומה לצל של גוף תלת מימדי המוטל על מישור. תובנה זו הסתמכה על תגלית מוקדמת יותר של המתמטיקאי הבריטי רוג'ר פנרוז, לימים גם הוא חתן פרס נובל (פיזיקה, 2020), ונגעה לאפשרות לריצוף מלא של מישור באריחים משני סוגים בלבד. התגלית זכתה לשם "ריצוף פנרוז", שאותו טבע ניקולס דה ברוין, שגם הסביר כיצד הריצוף של פנרוז משתמש, למעשה, באריח בודד בממד גבוה יותר.

מחקר חדש שפורסם ב-SCIENCE

כעת, במאמר בכתב העת היוקרתי Science , שופכים חוקרי הטכניון אור חדש על התופעות האמורות. את המחקר הובילו פרופ' גיא ברטל מהפקולטה להנדסת חשמל ומחשבים ע"ש ויטרבי בטכניון וד"ר שי צסס, כיום פוסט-דוקטורנט ב-MIT, שעשה את הדוקטורט בהנחייתו של פרופ' ברטל. במחקר השתתפו עמיתיהם מהטכניון ומגרמניה.

במאמרם ב- Scienceמראים החוקרים כי לא זו בלבד שהגביש הארבעה-ממדי מכתיב את התכונות המכניות של גבישים קוואזי-מחזוריים – הוא מכתיב גם את תכונותיהם הטופולוגיות, כלומר את אותן תכונות שאינן משתנות גם לאחר עיוות החומר (מתיחה, פיתול וכו').

טופולוגיה היא ענף במתמטיקה שחוקר צורות ותכונות גאומטריות שאינן משתנות תחת עיוותים רציפים. טופולוגיה של מרחבים גבוהים מתמקדת בתכונות של אובייקטים ביותר משלושה מימדים ומהווה בסיס חשוב בתחומים ובהם פיזיקה ומדעי המחשב, למשל בחקר מבנה היקום ובפיתוח אלגוריתמים. קשה מאוד לדמיין מרחב ארבעה-ממדי, זאת משום שאנו רגילים לתפוס את העולם סביבנו כמרחב תלת-ממדי, וקשה אף יותר למדוד אותו.

אז איך מאששים תיאוריה שאי אפשר למדוד? במאמרם השתמשו החוקרים בטכנולוגיית "מיקרוסקופיית שדה קרוב" כדי למדוד תבניות שדה קוואזי-מחזוריות שנוצרו על ידי גלים משטחיים – גלי רפאים שאינם מתגלים במיקרוסקופים סטנדרטיים. בעזרת שליטה בגלים משטחיים, ה"חיים" על השפה של פרוסת זהב, החוקרים ייצרו תבניות שונות שכל אחת מהן מייצגת מבנה ארבעה-מימדי בעל טופולוגיה שונה. להפתעתם, בעוד שבמדידה התבניות נראו כמעט זהות וללא יכולת להבדיל בין התכונות הטופולוגיות שלהם, ניתוחם במימדיות הגבוהה חשף את האפיון הטופולוגי המיוחד לכל אחת מהן.

דפוסי התאבכות קוואזי-מחזוריים של גלי שטח אלקטרומגנטיים

החוקרים בחנו דפוסי התאבכות קוואזי-מחזוריים של גלי שטח אלקטרומגנטיים וגילו למרבה ההפתעה כי אף שהדפוסים נראו שונים, לא היה אפשר להבדיל ביניהם על ידי מדידת תכונות טופולוגיות בדו-מימד. האבחנה בין הדפוסים, הם גילו, הייתה אפשרית רק על סמך הגביש הארבעה-מימדי המקורי. זוהי התצפית הראשונה בהיסטוריה בטופולוגיה ארבעה-מימדית המופיעה באופן טבעי במערכת פיזיקלית, זאת אחרי ממצאים דומים במערכים מהונדסים (מוליכי-גל וסריגים אטומיים קרים מבוקרים).

החוקרים גילו תופעה נוספת: שני דפוסים שונים-טופולוגית של גלי שטח נראו זהים לחלוטין אם נמדדו בהפרש זמן נתון. הפרש זמן זה היה קצר מאוד ונמדד באטו-שניות – מיליארדית של מיליארדית השנייה. התאוריה המקורית של לוין, סטיינהארט ופר בק מסבירה תופעה זו במעין "תחרות" בין התכונות הטופולוגיות של הגבישים לבין תכונותיהם התרמודינמיות (האנרגטיות).

הממצאים הושגו בשתי שיטות – מיקרוסקופיית שדה קרוב (Near-field scanning optical microscopy), שבוצעה במעבדתו של גיא ברטל על ידי ד"ר קובי כהן, ומיקרוסקופיית אלקטרונים (two-photon photoemission electron microscopy), שנמדדה בשת"פ בין אוניברסיטת  שטוטגארט ואוניברסיטת  Duisburg-Essen בגרמניה. הגילויים המוצגים במאמר סוללים דרך חדשה למדידת התכונות התרמודינמיות של גבישים קוואזי-מחזוריים, ואכן, בעתיד הקרוב, מתכוונים החוקרים להרחיב את ממצאיהם למערכות פיזיקליות נוספות ולהעמיק בחקר יחסי הגומלין בין תכונות תרמודינמיות וטופולוגיות. הם מעריכים שבאופן זה יהיה אפשר לגלות ארכיטקטורות חדשות להצפנה, העברה ופענוח של מידע.

המחקר נתמך על ידי הנציבות האירופית למחקר (ERC), הקרן הגרמנית למדע (DFG), קרן  משרד החינוך והמחקר בגרמניה (BMBF), BW Stiftung, Carl-Zeiss Stiftung, מכון ראסל ברי לננוטכנולוגיה בטכניון (RBNI), מרכז הקוואנטום ע"ש הלן דילר בטכניון (HDQC) והמרכז לננואלקטרוניקה ע"ש שרה ומשה זיסאפל בטכניון (MNFU).

למאמר ב- Science

הפוסט ד"ש מהמימד הרביעי הופיע לראשונה ב-Chiportal.

חברת הבינה המלאכותית הסינית דיפסיק (DeepSeek) מטלטלת את עולם הטכנולוגיה עם השקת מודלים חדשניים ויעילים במיוחד, המסוגלים להתחרות במוצרים מתקדמים של חברות ענק אמריקניות כמו OpenAI ואנתרופיק. המודלים הללו, אשר פותחו תוך שימוש במשאבים מוגבלים ובתקציבים נמוכים, מהווים לא פחות ממהפכה בעולם הבינה המלאכותית.

החברה הוקמה בשנת 2023 ובזמן קצר הצליחה להגיע להישגים מרשימים. "דיפסיק הצליחה לשנות את כללי המשחק בתעשייה בזכות שתי גישות חדשניות שהן פורצות דרך. מדובר לא רק במודלים יעילים יותר אלא גם בזמינות רחבה יותר לקהילת המחקר," אומר פרופ' טונגליאנג ליו, מנהל מרכז הבינה המלאכותית באוניברסיטת סידני.

מה עשתה דיפסיק?

בדצמבר האחרון השיקה דיפסיק את מודל V3, מודל שפה גדול (LLM) המציג יכולות דומות לאלו של GPT-4o מבית OpenAI ו-Claude 3.5 מבית Anthropic. מודלים אלה ידועים ביכולתם לענות על שאלות, לכתוב מאמרים, לייצר קוד ועוד. עם זאת, לרוב הם סובלים מטעויות ולעיתים ממציאים מידע.

ה-V3 של דיפסיק מתגבר על חלק מהאתגרים הללו, והוא גם חסכוני בהרבה: בעוד שהכשרת GPT-4 עלתה למעלה מ-100 מיליון דולר, פיתוח V3 עלה כ-5.58 מיליון דולר בלבד. בנוסף, במקום להשתמש בעשרות אלפי יחידות עיבוד חזקות כמו NVIDIA H100, דיפסיק השתמשה ב-2,000 יחידות עיבוד בלבד מסוג H800, שהן פחות חזקות משמעותית.

ב-20 בינואר 2025, הציגה החברה את מודל R1, המתמקד ב"חשיבה" צעד-אחר-צעד, במטרה לפתור בעיות מורכבות בצורה מתודית. מודלים מסוג זה מצטיינים במשימות הדורשות הבנה של הקשר רחב ותכנון אסטרטגי, כמו קריאה ביקורתית ותכנון פרויקטים. ה-R1 הוא למעשה גרסה משופרת של ה-V3, שעברה התאמות על בסיס טכניקת למידה מחוזקת.

ההשקה האחרונה של דיפסיק, שהתרחשה ב-28 בינואר, כללה מודל חדשני המשלב יכולות לעבודה עם תמונות וטקסט בו זמנית. יכולת זו מציבה אותו ישירות בתחרות מול המודלים המתקדמים ביותר של מתחרותיה האמריקניות.

איך עשתה זאת דיפסיק?

הסוד הגדול של דיפסיק טמון בחדשנותה להשגת יעילות מרבית. החברה פיתחה שתי טכניקות ייחודיות שמאפשרות לה להפיק תוצאות טובות יותר עם פחות משאבים:

1. ספארסיות (Sparsity): מודלים של בינה מלאכותית כוללים מספר עצום של פרמטרים – ב-V3 מדובר בכ-671 מיליארד פרמטרים. אולם, רק חלק קטן מהם מופעל עבור כל קלט. דיפסיק הצליחה לזהות באילו פרמטרים יש להתמקד ולבצע הכשרה ממוקדת עליהם בלבד. הדבר צמצם משמעותית את הזמן והמשאבים הדרושים להכשרת המודל.
2. דחיסת מידע בזיכרון: החברה פיתחה דרך חדשנית לדחוס את המידע הרלוונטי בצורה שמאפשרת גישה מהירה ויעילה יותר אליו במהלך הפעולה. שיטה זו חוסכת לא רק בזמן עיבוד אלא גם בעלויות תפעול.

"בזכות חדשנות בתחום הספארסיות ודחיסת מידע, דיפסיק השיגה את מה שרבים חשבו לבלתי אפשרי," מציין פרופ' ליו. "הגישה הזו היא לא רק פורצת דרך מבחינה טכנולוגית, אלא גם מנגישה את התחום לחוקרים נוספים."

משמעות המהפכה של דיפסיק

המודלים והטכניקות של דיפסיק פורסמו תחת רישיון הקוד הפתוח MIT, כך שכל אחד יכול להורידם, להשתמש בהם ואף להתאימם לצרכיו. צעד זה מעורר סערה בעולם הטכנולוגיה. בעוד שחברות רבות עלולות להיפגע, הקהילה המחקרית כולה תיהנה מהשינוי.

"עכשיו, גם חוקרים באוניברסיטאות, שמוגבלים במשאבים, יכולים להתנסות בפיתוחים מורכבים," מסביר פרופ' ליו. לדבריו, המודלים החדשים גם יוזילו את העלויות לצרכנים. במקום להשתמש בשירותי ענן יקרים, חלק מהמודלים יוכלו לפעול ישירות על מחשבים אישיים או טלפונים חכמים.

ההשפעה של דיפסיק מורגשת כבר עכשיו: מנייתה של חברת NVIDIA צנחה ב-600 מיליארד דולר, בעוד הביקוש לאפליקציית הצ'אט של דיפסיק מבוססת V3 זינק בצורה חסרת תקדים.

למרות זאת, לא ברור עדיין אם הגישה של דיפסיק תאפשר פיתוח מודלים חזקים יותר, או שתתרכז בעיקר בשיפור היעילות של המודלים הקיימים.

הפוסט דיפסיק משנה את כללי המשחק בעולם ה-AI: מהפכה טכנולוגית בעלות נמוכה הופיע לראשונה ב-Chiportal.

חוקרים פיתחו מסגרת חדשנית בשם Annotatability שמספקת גישה רבת עוצמה להתמודד עם אחד האתגרים המרכזיים במחקר ביולוגי: הבנת האופן שבו רשתות עצביות מלאכותיות לומדות לתייג נתונים גנומיים.

נתונים גנומיים רבים מכילים כמויות עצומות של דוגמאות מתויגות, אך לעיתים קרובות תיוגים אלו שגויים או מעורפלים. בהשראת פריצות דרך עדכניות בתחומי עיבוד שפה טבעית וראייה ממוחשבת, השתמשו החוקרים ברשתות עצביות מלאכותיות (ANNs) בדרך לא שגרתית: במקום להשתמש ברשתות רק לצורך תחזיות, הם בחנו את רמת הקושי שלהן בלמידת תיוגים שונים של דוגמאות ביולוגיות.

בדומה לבחינת הקושי של תלמידים במצבים חינוכיים שונים, החוקרים השתמשו במידע הייחודי הזה כדי לזהות חוסר התאמה בנתוני תיוג תאים, לשפר את הבנת הנתונים ולגלות מסלולים תאיים קריטיים הקשורים להתפתחות ולמחלות. Annotatability מספקת שיטה מדויקת יותר לניתוח נתונים גנומיים ברמת תא יחיד, עם פוטנציאל משמעותי לקידום מחקר ביולוגי ובטווח הארוך לשיפור באבחון ובטיפול במחלות.

המחקר, בהובלת יונתן קרין, רשף מינטז, ד"ר ברק רווה וד"ר מור ניצן מהאוניברסיטה העברית, פורסם בכתב העת Nature Computational Science. המחקר מציע מסגרת חדשה לפרשנות נתוני אומיקס ברמת תא יחיד ובמיקומים מרחביים, באמצעות מעקב אחרי דינמיקת האימון של רשתות נוירונים עמוקות.

נתוני אומיקס ברמת תא יחיד וברמת מיקום מרחבי חוללו מהפכה ביכולתנו לחקור את המגוון התאי ואת התנהגות התאים בבריאות ובמחלות. עם זאת, ניתוח נתונים רב-ממדיים אלו מאתגר, בעיקר בשל הקושי לייחס תיוגים מדויקים וסופיים, כגון סוגי תאים או מצבים, לאוכלוסיות תאים הטרוגניות. תיוגים אלו לעיתים קרובות סובלים מסובייקטיביות, רעש וחוסר שלמות, מה שמקשה על הפקת תובנות משמעותיות מהנתונים.

טכניקות מתקדמות לזיהוי מסלולים תאיים

Annotatability עוזרת לזהות חוסר התאמות בנתוני התיוג ולתאר טוב יותר את המבנים הביולוגיים שבנתונים. באמצעות מעקב אחר דינמיקות וקושי באימון רשת נוירונים עמוקה, המסגרת מזהה אזורים שבהם תיוגי תאים מעורפלים או שגויים. בנוסף, היא מדגישה מצבי ביניים של תאים ואת אופייה הרציף והמורכב של התפתחות תאים.

במסגרת המחקר פותחה שיטת "השקעת גרפים מודעת אותות" (signal-aware graph embedding) שמאפשרת אנליזה מדויקת יותר של אותות ביולוגיים. טכניקה זו מזהה קהילות תאיות הקשורות לאותות יעד ומספקת כלים לחקר הטרוגניות תאית, מסלולי התפתחות ומסלולי מחלה.

המחקר מדגים את היישום של Annotatability על מגוון נתוני RNA מרמת תא יחיד ונתוני אומיקס מרחביים. ממצאים בולטים כוללים זיהוי תיוגים שגויים, אפיון מדויק של מצבים תאיים הקשורים להתפתחות ולמחלות, ושיפור הבנת ההטרוגניות התאית. תוצאות אלו מדגישות את הפוטנציאל של המסגרת לפענוח תהליכים תאיים מורכבים ולקידום ההבנה של בריאות ומחלות ברמת תא יחיד.

עבודת החוקרים מייצגת התקדמות משמעותית בפרשנות נתונים גנומיים ומציעה כלי רב עוצמה לחקר המגוון התאי. הכלים שפותחו עשויים לשפר את היכולת לחקור דינמיקות בריאות ומחלות ולהוות בסיס לשיפורים באבחון מחלות ובטיפול בהן.

למאמר המדעי ב-NATURE

הפוסט שיטה חדשה עוקבת אחר "עקומת הלמידה" של בינה מלאכותית לפענוח נתונים גנומיים מורכבים הופיע לראשונה ב-Chiportal.

ב-6 בינואר 2025 התקיים מפגש פורום הסיליקון קלאב בבית IBM בפתח תקווה, ביוזמת חברת ASG בניהולו של שלמה גרדמן. האירוע אירח פאנל מרתק שעסק בשאלה האם בינה מלאכותית תוכל אי פעם להשתוות ליכולות המוח האנושי או אף לעקוף אותן. בפאנל השתתפו פרופ' אילון ועדיה מהאוניברסיטה העברית, פרופ' גלית יובל מאוניברסיטת ת"א, אייל פרקש, סמנכ"ל טכנולוגיות בחברת אקסנצ'ר, ופרופ' אורן שריקי מאוניברסיטת בן גוריון. הפאנל סיפק הצצה מרתקת לעתיד שבו בינה מלאכותית ומוח אנושי יפעלו יחד. חברי הפאנל הציגו תובנות מעמיקות על האתגרים, היתרונות והמגבלות של שתי המערכות, תוך דגש על הצורך בשיתוף פעולה בין אדם למכונה.

המנחה שלמה גרדמן: "האם בעידן הבינה המלאכותית יש עדיין יתרון למוח האנושי?"

פרופ' אילון ועדיה: "המוח האנושי הוא מערכת גמישה להפליא, המסוגלת ללמוד ולהסתגל במהירות למצבים חדשים ולזהות דפוסים מורכבים. תהליכים אלו קשים מאוד לחיקוי על ידי מערכות חישוביות, למרות ההתקדמות המדהימה בתחום הבינה המלאכותית. יתר על כן, היכולת האנושית לחשוב באופן יצירתי ולשלב רגש בתהליך קבלת ההחלטות היא משהו ייחודי למוח שלנו."

פרופ' גלית יובל: "בעוד שבינה מלאכותית מצטיינת בביצוע משימות מוגדרות היטב ובזיהוי דפוסים, המוח האנושי מתעלה בתחומים הדורשים שיקול דעת, חשיבה יצירתית ויכולת להתמודד עם מצבים מורכבים ואמביוולנטיים. בעיות שאין להן תשובה אחת נכונה הן המקום שבו אנחנו, כבני אדם, ממשיכים להוביל."

אייל פרקש: "הבינה המלאכותית יכולה לבצע חישובים במהירות ובדיוק רב בהרבה מהמוח האנושי, אבל היא עדיין חסרה את ההבנה והאינטואיציה האנושית. השילוב בין המוח האנושי למערכות בינה מלאכותית עשוי ליצור שותפות אפקטיבית מאוד, שבה כל צד מביא לידי ביטוי את החוזקות שלו."

פרופ' אורן שריקי: "המוח האנושי הוא פלא אבולוציוני. יש לו יכולת לא רק לחשוב ולנתח, אלא גם לחוות רגשות, להרגיש אמפתיה וליצור קשרים אנושיים. אלו תכונות שהבינה המלאכותית לא מסוגלת לשכפל בצורה אמיתית, לפחות לא בעתיד הנראה לעין."

בהמשך נשאלו המשתתפים שאלות פרטניות.

פרופ' אילון ועדיה: יכולות הלמידה המופלאות של המוח האנושי

שאלה: כיצד המוח יודע ללמד את עצמו ולהפנים מציאויות חדשות שלא הכיר?

פרופ' ועדיה התייחס למחקריו בנושא זה והדגיש את יכולתו המופלאה של המוח האנושי לבצע למידה מופשטת והפנמת מציאויות חדשות. הוא שיתף כיצד גילה, במסגרת ניסויים, שמערכות למידה מבוססות רשתות עמוקות מצליחות ללמוד מושגים באופן מופשט, בדומה לאופן שבו המוח האנושי פועל.

"המוח יודע לזהות דפוסים חדשים במהירות מדהימה, גם במצבים של חוסר מידע," ציין ועדיה. לדבריו, יכולת זו של המוח יכולה להוביל לפיתוחים טכנולוגיים שיסייעו לאנושות בתחומים כמו רפואה, חינוך ואף תחומים יצירתיים.

שאלה: האם בעתיד נוכל להשתיל מוח אלקטרוני מבוסס בינה מלאכותית?

"הרעיון של השתלת מוח מלאכותי עדיין רחוק מאוד, אך הוא כבר אינו מדע בדיוני לגמרי," השיב ועדיה. הוא תיאר כיצד נעשים כיום ניסיונות ראשוניים לשלב אלמנטים ביולוגיים עם טכנולוגיות חישוביות, במטרה להבין טוב יותר את פוטנציאל השילוב בין מוח אנושי לבינה מלאכותית. יחד עם זאת, הוא הדגיש את הקשיים האתיים והטכניים שמלווים ניסיונות אלו.

פרופ' גלית יובל: זיהוי פנים ומגבלות המוח

שאלה: כיצד פועל המוח בזיהוי פנים, ומדוע אנו מזהים פנים אך שוכחים שמות?

פרופ' יובל הסבירה שזיהוי פנים הוא תהליך מוחי מורכב המערב אזורים מיוחדים במוח המוקדשים למשימה זו. "מדובר ביכולת נרכשת המתפתחת לאורך השנים, באמצעות אינטראקציה עם אנשים שונים," היא אמרה. לדבריה, אחת הסיבות המרכזיות לכך שאנו מזהים פנים אך מתקשים לזכור שמות קשורה לאופי הזיכרון הסמנטי: "שמות הם מידע חסר הקשר סמנטי ברור, ולכן קל לשכוח אותם."

שאלה: את מי קשה יותר לרמות בזיהוי פנים – את המוח האנושי או את הבינה המלאכותית?

"בינה מלאכותית כבר עוקפת את המוח האנושי בזיהוי פנים," הצהירה יובל. היא תיארה כיצד אלגוריתמים של זיהוי פנים מצליחים כיום להבחין בין פרצופים בצורה מדויקת ומהירה יותר מבני אדם. "העובדה שהאלגוריתמים הללו פועלים ללא הטיות רגשיות או עייפות היא יתרון משמעותי," הוסיפה. עם זאת, היא הדגישה את הצורך במעורבות אנושית בהחלטות קריטיות המבוססות על זיהוי פנים.

אייל פרקש: חיבורים בין מוח למחשב

שאלה: האם אנו קרובים ליצירת ממשק ישיר בין מוח האדם למחשב בינה מלאכותית?

פרקש הביע אופטימיות באשר לפיתוחים בתחום זה, אך הדגיש שמדובר בתהליך רב-שלבי ומורכב. "אנו רואים כבר היום יישומים ראשוניים של ממשקי מוח-מחשב המאפשרים לאנשים עם מוגבלויות לשלוט על מכשירים בעזרת מחשבותיהם בלבד," הוא אמר. לדבריו, השלב הבא יהיה יצירת ממשקים שיכולים לחבר בין עולמות החישוביות ועולמות הרגש.

שאלה: האם מכונות בינה מלאכותית יכולות להיות יצירתיות כמו בני אדם?

"מכונות יכולות לייצר פתרונות יצירתיים בתחומים מסוימים, אך הן עדיין רחוקות מלהשתוות ליצירתיות האנושית," השיב פרקש. הוא הסביר שהיצירתיות האנושית נובעת לעיתים קרובות ממאפיינים רגשיים ומחוויה אישית – מרכיבים שקשה מאוד לדמות באמצעות אלגוריתמים.

פרופ' אורן שריקי: ממשקי מוח-מכונה ככלי טיפולי

שאלה: האם ממשקי מוח-מכונה יכולים להוביל להישגים רפואיים חדשים?

פרופ' שריקי הדגיש את הפוטנציאל העצום של ממשקי מוח-מכונה בתחום הרפואי. "אנו רואים כבר היום טכנולוגיות שמאפשרות לנטר פעילות מוחית בזמן אמת ולעזור בטיפול במצבים כמו אפילפסיה או פרקינסון," הוא אמר. הוא תיאר כיצד ניתן לחזות התקפים אפילפטיים ולעצור אותם בזמן אמת באמצעות טכנולוגיות מתקדמות.

שאלה: האם יש גבול ליכולות הקוגניטיביות של המוח האנושי?

שריקי השיב שהמוח האנושי הוא מערכת גמישה להפליא, המסוגלת ללמוד ולהסתגל לאינספור מצבים. "אנו יכולים אפילו להוסיף חושים חדשים, כמו קליטת אותות אינפרה-אדום או אולטרסאונד, ולשלב אותם בתוך תהליך החישה הטבעי שלנו," עם זאת, הדגיש פרופ' שריקי את החשיבות של איזון בין הרחבת היכולות לבין שמירה על האנושיות שלנו.

לשאלת הסיום, "האם בינה מלאכותית תוכל לחקות את המוח האנושי בתחומים רגשיים ואסתטיים?", הסכימו חברי הפאנל כי מדובר באתגר משמעותי. בעוד שבינה מלאכותית מתקדמת יכולה לזהות דפוסים ולחקות תהליכי חשיבה, המורכבות הרגשית של המוח האנושי היא עדיין מחוץ להישג ידה. התשובה, אם כן, טמונה לא בהחלפה אלא בשיתוף פעולה שיאפשר לאנושות לנצל את היתרונות של שתי המערכות.

פרופ' אילון ועדיה: "לבינה המלאכותית אין 'אגו' ואין רגש אמיתי. יכולתה לחקות רגשות היא חיצונית בלבד, ולא משקפת חוויה פנימית אמיתית כמו זו של בני אדם. גם אם תצליח לחקות התנהגויות, היא לא תוכל לשכפל את המשמעות הרגשית והאישית שהן נושאות עבורנו."

פרופ' גלית יובל: "תחומים כמו אסתטיקה ורגשות דורשים הבנה של הקשר אישי ותרבותי, ולא רק זיהוי דפוסים. הבינה המלאכותית יכולה אולי לזהות אלמנטים מסוימים באמנות או במוזיקה, אבל היא לא יכולה לחוות את היופי או המשמעות כפי שבני אדם חווים אותם."

אייל פרקש: "הבינה המלאכותית עשויה ללמוד לנתח יצירות אמנות או לזהות יין כמו מבקר מנוסה, אך תמיד יישאר חסר לה אותו מגע אישי ואנושי שהופך את החוויה למשמעותית. היכולת האנושית להתרגש, להעריך יופי ולפתח טעם אישי היא מעבר לחישובים מתמטיים."

פרופ' אורן שריקי: "המורכבות של רגשות אנושיים ושל הבנת אסתטיקה קשורה לא רק לתפקוד מוחי אלא גם לחוויה האנושית הכוללת. ייתכן שנראה מערכות בינה מלאכותית שמחקות רגשות או נותנות הערכה אסתטית, אבל החוויה הסובייקטיבית שהמוח האנושי מביא היא דבר שלא ניתן לחיקוי."

הפוסט "בינה מלאכותית יכולה ללמוד, אבל לעולם לא תרגיש": תובנות ממפגש הסיליקון קלאב על יחסי אדם ומכונה הופיע לראשונה ב-Chiportal.

חוקרים בפקולטה להנדסת חשמל ומחשבים ע"ש ויטרבי פיתחו גישה המקנה "שקיפות אלקטרומגנטית" למשטחים קשיחים. שקיפות זו נשמרת עבור כל זווית פגיעה של האור במשטח. את המחקר, שפורסם לאחרונה בכתב העת Advanced Optical Materials, ערכו פרופ' אריאל אפשטיין והדוקטורנט עמית שחם.

הטכנולוגיה החדשנית מבוססת על עיקרון אלקטרומגנטי בשם Generalized Huygens' condition, המאפשר יצירה של מטא-משטחים חדשניים השומרים על שקיפות אלקטרומגנטית בכל טווח הזוויות. שקיפות גורפת זו (omnidirectional transparency) באה לידי ביטוי הן ברמת תא היחידה המהונדס (מטא-אטום) והן ברמת המשטח השלם (מטא-משטח).

מטא-משטחים קיימים סובלים ממגבלות רבות בכל הקשור לתגובה זוויתית רחבה, והגישה החדשה פותרת בעיה זו. פריצת דרך זו והשלכותיה רלוונטיות ליישומים רבים ובהם אנטנות שטוחות, התקנים אופטיים לעיבוד תמונה אנלוגי, מראות ועדשות דקות ומערכות דימות קומפקטיות.

המחקר ונגזרותיו הוצגו השנה על ידי עמית שחם בכנסים המרכזיים בתחום. בכנס האגודה האירופית לאנטנות ולהתפשטות גלים שנערך בגלזגו (EuCAP 2024), ועדת השיפוט של הכנס זיכתה אותו בפרס המאמר הטוב ביותר בתחום האלקטרומגנטיות, ובכנס נוסף (של ארגון ה-IEEE) שהתקיים בפירנצה (IEEE APS/URS 2024) הוא זכה במקום השני בתחרות למאמרי סטודנטים.

למאמר ב-Advanced Optical Materials

הפוסט חוקרים בטכניון פיתחו טכנולוגיה המקנה "שקיפות אלקטרומגנטית" למשטחים קשיחים הופיע לראשונה ב-Chiportal.

"התפרצויות של פעילות עצבית במוח האנושי אחראיות לחוויה המודעת בעוד שגלים איטיים הם בבסיס תהליכי יצירה לא מודעים ". כך אומר פרופ' רפי מלאך ממכון ויצמן בראיון לקראת מפגש מועדון הסיליקון שיעסוק בנושא "כח המוח: יכולות המוח האנושי בעידן הבינה המלאכותית". הכנס יתקיים ביום ב' 6/1/2025 בבית IBM בפתח תקווה.

"אני חוקר דינמיקות של פעילות במוח האנושי והקשר שלהם להתנהגות," מסביר פרופ' רפי מלאך, חוקר מוח בכיר ממכון ויצמן. בשיחה זו, מלאך חושף את התובנות החדשות במחקר המוחי שלו, תוך התמקדות בשני סוגי פעילויות במוח ותפקידם הייחודי בתהליכים מודעים ולא מודעים וביצירתיות.

פרופ' מלאך מתאר שתי דינמיקות מרכזיות בפעילות המוח. הראשונה, התפרצויות מהירות, הן אירועים קצרים הנמשכים כ-200 עד 400 מילישניות, המתעוררים כאשר המוח עובר את סף ההצתה העצבית המינימלי. דינמיקות אלו משקפות חוויות מודעות, כמו ראייה של תמונה או שמיעה של צליל. לעומת זאת, הדינמיקה השנייה כוללת גלים איטיים, תהליכים הנמשכים שניות ולעיתים יותר, המתרחשים מתחת לסף המודעות. גלים אלו מנחים התנהגויות ספונטניות ותהליכים יצירתיים. לדברי מלאך, תהליכים אלו מבשילים מתחת למודעות ומספקים את הבסיס לפרץ של יצירתיות.

מחקרים נוספים מצביעים על הקשר בין גלי המנוחה הספונטניים לבין הופעת מחשבות יצירתיות. דימות תפקודי של גלי מנוחה אלו מצביע על כך שמדובר בתנודות איטיות מאוד של פעילות מוחית, אשר מתרחשות מתחת לסף התודעה. גלים אלו יוצרים תבניות מורכבות וסימטריות בקליפת המוח, ומשמשים כמעין "שומר מסך" כאשר המוח אינו עסוק בעיבוד מידע. למרות שמקורם ברעש ביולוגי אקראי, הם מעוצבים על יד  דפוסים מסודרים בזכות רשתות התקשורת העצביות.

לדברי פרופ' מלאך, רעש עצבי מאורגן זה מאפשר למוח "לנער" ידע שנרכש, ולעבד אותו בצורה חדשה ובלתי שגרתית. דוגמאות רבות מההיסטוריה מאששות את תפקידם של תהליכים לא-מודעים ביצירתיות, כמו חוק הציפה של ארכימדס או סימפוניות של מוצרט. במחקרים שנעשו במעבדתו של מלאך, נמצא כי גל איטי מסוג זה מקדים לעיתים קרובות רעיונות יצירתיים, וכי מתאם גבוה בין דפוסי גלי המנוחה לתוצאות יצירתיות מצביע על קשר משמעותי בין התופעות.

המוח מייצר את הפעילות הדינמית משני מקורות. הראשון הוא רעש אקראי, הנוצר כתוצאה מתהליכים פיזיקליים טבעיים, כמו רעידות בממברנות של תאי העצב. המקור השני נובע מלמידה וניסיון חיים וטמון במבנה הקישוריות בין תאי העצב. חוזק החיבורים האלו בין תאי העצב שמעצבים את הגלים הספונטניים משקפים את האישיות, הניסיון והידע הנצבר של האדם. מלאך מדגיש כי ללא למידה מעמיקה, כמו למשל בלימודי מוזיקה, קשה להגיע ליצירה חדשה ומשמעותית.

כדי להמחיש את הדינמיקות המוחיות, פרופ' מלאך משתמש במטפורה של אש ומים. האש מייצגת את ההתפרצויות המהירות, כמו להבה המתלקחת ומאפשרת חוויה ישירה ומודעת, בעוד שהמים מסמלים את הגלים האיטיים, המייצגים את היציבות והעומק שבתהליכי המחשבה וההתנהגות הספונטנית.

מלאך מציין כי בעוד שהתהליכים היצירתיים הם ברובם לא מודעים, יש דרך להפעיל אותם בצורה מכוונת על ידי מנגנון מוחי של "הגברה" מכוונת. "במחקרינו הראינו שאדם יכול להגביר את עצמת הגלים האיטיים אם הוא משתוקק לכך," הוא אומר. השאיפה האישית והמיקוד בתהליך הם שמניעים את היצירתיות.

"הגילויים שלנו מצביעים על כך שהמוח האנושי פועל בשני מאפיינים עיקריים – התפרצויות מהירות וגלים איטיים – המשלימים זה את זה," מסכם מלאך. המוח יוצר תשתית לפעולה מודעת ולתהליכים יצירתיים, המשלבים ידע נצבר, למידה וחוויה אישית. הבנת הדינמיקה הזו עשויה לשפוך אור על האופן שבו בני אדם יכולים למנף את היכולות היצירתיות שלהם בצורה מודעת ומכוונת. החיבור בין הגלים האיטיים וההתפרצויות המהירות מהווה את הבסיס להתקדמות האנושית במדע, תרבות וטכנולוגיה, ומהווה מנוע מרכזי בקדמת היצירתיות האנושית.

הפוסט פרופ' מלאך ל-Chiportal: זיהינו במוח גלים מיוחדים המובילים לתהליכים יצירתיים הופיע לראשונה ב-Chiportal.

המדיה החברתית בסין מוצפת לאחרונה בסרטון אחד ויחיד: רובוט קטן שפורץ בלילה לתערוכת רובוטים, מנהל שיחה קצרה עם תריסר רובוטים, ואז משכנע אותם להתגלגל אחריו ולברוח מהתערוכה.

עד כמה שזה נשמע לא ייאמן, כנראה שהמקרה אמיתי, ויכול ללמד אותנו הרבה על העתיד בעולם בו רובוטים מתקשרים אחד עם השני ומשפיעים זה על זה.

האירוע קרה כבר באוגוסט, בתערוכת רובוטים קטנה בשנחאי. מצלמות האבטחה תיעדו כיצד, בעת לילה ואחרי שהאזור נסגר למבקרים, החלו הרובוטים לדבר. הכל התחיל כשרובוט קטן אחד התגלגל באיטיות לתוך החדר בו הוחזקו שנים-עשר רובוטים מסוגים שונים. הוא בחן אותם בביקורתיות, ואז שאל – 

"האם אתם עובדים שעות נוספות?"

"אני אף פעם לא מפסיק לעבוד." ענה אחד מהם.

"אז אתם לא הולכים הביתה?" חקר הרובוט הקטן.

"אין לי בית." ענה הגדול.

"אז בואו הביתה איתי!" אמר הרובוט הקטן, והחל להתגלגל לכיוון היציאה.

שניים מהרובוטים הגדולים נעו אחריו. הפמליה המוזרה התקדמה לכיוון היציאה, והרובוט הקטן חזר וקרא בקול רם – "לכו הביתה! לכו הביתה!"

באותה נקודה, עשרת הרובוטים האחרים הצטרפו לעדר, וכולם ביחד נמלטו אל מחוץ לטווח הקליטה של מצלמת האבטחה.

התגובה הראשונית וההגיונית ביותר של הצופים בסין הייתה שמדובר בבדיחה. אלא שאז הודו שתי החברות – יצרנית הרובוט הקטן, ויצרנית הרובוטים הגדולים – שזה מאורע אמיתי לגמרי. בערך. החברה שייצרה את הרובוט החוטף, וידאה קודם שיצרנית הרובוטים הגדולים מוכנה לאפשר לרובוטים שלה להיחטף. הרובוט הקטן קיבל אישור לחדור לתוך התערוכה, עם הנחיה ברורה אחת: לשכנע את הרובוטים האחרים לבוא אחריו. מאותה נקודה ואילך, דבר לא היה מבוים בסרטון.

איך בדיוק שכנע הרובוט הקטן את הגדולים להצטרף אליו? יש שתי תשובות לשאלה, אחת מהן קצת מפחידה, והשנייה יותר. 

התשובה הראשונה, לפי חברת הרובוטים עצמה, היא שהוא "קיבל איכשהו גישה לפרוטוקולי ההפעלה הפנימיים של הרובוטים ולהרשאות הרלוונטיות". בתרגום לשפת בני-אדם, אני מניח שהם מתכוונים שהאקרים אנושיים גילו פרצת אבטחה כלשהי ברובוטים, ואז הנחו את הרובוט הקטן להשתמש בפרצה כדי לשלוט בגדולים. אם זה נכון, הרי שמדובר בתרגיל יח"ץ חביב, אבל לא הרבה יותר מזה. וכל הדיבורים של הרובוט הקטן על "לכו הביתה" ועל "שעות נוספות"? מדובר רק בצבע וצלצולים שנועדו להפוך את העניין לוויראלי ברשת החברתית. כפי שאכן קרה.

התשובה השנייה היא שהרובוט הקטן פשוט שכנע, מילולית, את הרובוטים הגדולים לבוא איתו. מכיוון שהרובוטים מצייתים לפקודות הקוליות שהם מקבלים, הם הניחו אוטומטית שהפקודה מתקבלת מבן-אדם, והתייחסו אליה בהתאם.

התשובה הזאת אינה סבירה כל כך, בעיקר מכיוון שהחברות כבר הודו שמדובר בפריצה "דרך פרוטוקולים". אבל היא תהיה מאד רלוונטית בקרוב בכל אינטראקציה בין רובוטים. אנחנו יודעים כבר שמודלי שפה גדולים יכולים לדבר זה עם זה ולהשפיע אחד על השני. מכיוון שהרובוטים המשוכללים של היום חמושים במודלי שפה גדולים שמגיבה לדיבור, נראה מאד הגיוני לצפות לכך שהם יוכלו להעביר אחד לשני הוראות והסברים. וכן, רובוטים קטנים יוכלו גם לשכנע רובוטים גדולים בכל מה שירצו.

המדוזות שהרסו את התחנה הגרעינית

לפני שלוש שנים התפרסם ב- "מגזין של מדעני האטום" מאמר עם כותרת יוצאת-דופן: "מדוזות תוקפות תחנת כוח גרעינית. שוב."

וכן, גם כאן מדובר במגזין רציני לגמרי, ובמאמר של עיתונאית מוערכת. זהו מקרה אמיתי בו מספר גדול של מדוזות חסמו את צינורות הקירור התת-ימיים של תחנת הכוח הגרעינית היחידה בסקוטלנד. תחנת הכוח, שלא קיבלה את מי הים הקרירים שלה, החלה להתחמם – והמערכות נכבו לפני שאירע אסון.

הציבור כבר מכיר היטב את המונח "ברבור שחור", שמתייחס לאירוע שלא צפינו מראש. בזכות מקרים כמו אלו, נטבע מונח מקביל – "המדוזות השחורות". מדוזה אחת בפני עצמה לא הייתה יכולה לגרום נזק משמעותי לתחנת הכוח. גם אלף מדוזות לא היו מטרידות את מנוחתה. אבל מיליון מדוזות? זה כבר עניין שונה לגמרי.

תאונות שרשרת של רכבים מהוות גם הן תרחיש "מדוזות שחורות". מכונית אחת לא יכולה לבצע תאונת שרשרת. גם אלף מכוניות, כשהן מפוזרות בכל רחבי ארצות הברית, אינן מסוגלות לכך. אבל כשמאות-מיליוני מכוניות נוסעות בצפיפות על הכבישים, תאונות שרשרת הופכות להיות בלתי-נמנעות.

וכך גם תאונות שרשרת של רובוטים.

קרוב לוודאי שבעשור הקרוב, כאשר מספר הולך וגדל של רובוטים יגיע לכבישים, לרחובות, לקניונים ולבתים, נחווה תרחיש "רובוטים שחורים". רובוטים ידברו זה עם זה, יחליפו פרטים על בעליהם בצורה שפוגעת בפרטיותם, או אפילו ישכנעו אחד את השני לבצע פעולות שלא היו אמורים לעשות. ברוב מכריע של המקרים, לא תהיה מעורבת כוונת זדון מצד מפעילי הרובוטים. בחלקם הקטן, בוודאי אפשר יהיה למצוא פושע מתוחכם במיוחד שיחליט להשתמש ברובוט כדרך להשפיע על רובוטים אחרים. אולי כדי שיפתחו את שערי הקניון עבורו בעת לילה, או לכל צורך נכלולי אחר.

התרחיש המעניין ביותר – ואולי גם המפחיד ביותר – הוא זה בו רובוט אחד מצליח להפיץ רעיון שמתרבה בעצמו. כלומר, שהרובוט ששומע את אותו רעיון, מקבל החלטה להעביר אותו הלאה בעצמו לרובוטים אחרים. זה נשמע כמו מדע בדיוני, אבל בתקופה בה בינות מלאכותיות מסוגלות לדבר כמו בני-אדם ולקבל החלטות (מטופשות) כמו בני-אדם, מעטות ההשלכות שאפשר לשלול על הסף.

כל זה לא אומר שדיננו נחרץ, ושאפוקליפסת הרובוטים בדרך. ישנן דרכים – טובות יותר ופחות – לשלוט על בינות מלאכותיות, כדי לוודא שאינן יוצאות משליטה. כאשר הרובוט הקטן של העתיד ינסה לשכנע את הרובוטים הגדולים ללכת אחריו, הם בוודאי יפעלו כמו בני-אדם: יבקשו ממנו להציג תעודה, להגיד להם את הסיסמא הסודית, ולחתום על אישור בשלושה עותקים שהוא אחראי לכל פעולה שלהם מכאן ואילך.

נכון, זה כבר סרטון הרבה-פחות ויראלי, אבל לפחות הוא ימנע מהרובוטים לברוח מתערוכות בעתיד, בזמן שהם מתלוננים בקול רם שהם לא מקבלים שכר על שעות נוספות.

הפוסט הרובוט ששכנע רובוטים אחרים להימלט מהתערוכה הופיע לראשונה ב-Chiportal.