מאמר שפורסם לאחרונה בכתב העת Engineering עוסק בעתיד הבינה המלאכותית (AI) מעבר למודלים גדולים לשפה (LLMs). המודלים הללו הציגו התקדמות מרשימה במשימות מולטימודליות, אך הם מתמודדים עם מגבלות כמו מידע מיושן, הזיות, חוסר יעילות והיעדר יכולת לפרשנות. כדי להתמודד עם בעיות אלו, החוקרים בוחנים שלושה כיוונים מרכזיים: העצמת ידע, שיתוף פעולה בין מודלים והתפתחות משותפת של מודלים.

העצמת ידע שואפת לשלב ידע חיצוני בתוך המודלים הגדולים. ניתן להשיג זאת באמצעות שיטות שונות, כולל שילוב ידע במטרות האימון, כוונון לפי הנחיות, הסקת מסקנות מוגברת על בסיס אחזור ידע והנחיות מבוססות ידע. לדוגמה, ישנם מחקרים המעצבים פונקציות הפסד מודעות לידע במהלך האימון המוקדם, בעוד שאחרים משתמשים בדור מוגבר אחזורית כדי לשלוף ידע רלוונטי בזמן ההסקה. טכניקות אלו משפרות את הדיוק העובדתי, יכולות ההסקה והפרשנות של המודלים.

שיתוף פעולה בין מודלים מתמקד בניצול החוזקות המשלימות של מודלים שונים. הדבר כולל אסטרטגיות כמו מיזוג מודלים ושיתוף פעולה פונקציונלי. מיזוג מודלים, כמו שילוב מודלים (Ensembling) ומיזוג פונקציונלי (לדוגמה, תערובת מומחים), מאפשר לשפר את הביצועים. בשיתוף פעולה פונקציונלי, המודלים הגדולים יכולים לשמש כמנהלי משימות המכוונים מודלים קטנים ומומחים. לדוגמה, במשימות יצירת תמונות, המודלים הגדולים יכולים להדריך מודלים מתמחים כדי לענות בצורה מיטבית לדרישות ההנחיות.

התפתחות משותפת של מודלים מאפשרת למודלים שונים להתפתח יחד. תחת סוגים שונים של הטרוגניות – מודלים, משימות ונתונים – הוצעו טכניקות מגוונות. עבור הטרוגניות מודלים, משתמשים בשיטות כמו שיתוף פרמטרים, זיקוק ידע כפול והשלכת פרמטרים מבוססת היפר-רשתות. בהקשר של הטרוגניות משימות, למידה כפולה, למידה אדוורסרית (שני מודלים המציעים הצעה מנוגדת זה לזה, מעין איפכא מסתברא) ומיזוג מודלים משחקות תפקיד מרכזי. כאשר מדובר בהטרוגניות נתונים, למידה מבוזרת וזיקוק ידע מחוץ לחלוקה (Out-of-Distribution) הן טכניקות מפתח. שיטות אלו משפרות את יכולת ההתאמה והטיפול במשימות מגוונות של המודלים.

ההתקדמות בעידן שאחרי המודלים הגדולים משפיעה במגוון תחומים. במדע, היא תורמת לפיתוח השערות באמצעות שילוב ידע ייעודי לתחום. לדוגמה, במטאורולוגיה, מודלים מבוססי AI המשולבים עם ידע ייעודי יכולים לשפר תחזיות לאנרגיה מתחדשת. בהנדסה, הם מסייעים בגיבוש ופתרון בעיות. בחברה, יישומיהם כוללים תחומים כמו בריאות וניהול תחבורה.

בעתיד, המאמר מציין מספר כיווני מחקר נוספים, כולל בינה מלאכותית מואנשת, בינה מלאכותית בהשראה מוחית, מודלים בסיסיים שאינם טרנספורמרים ויצירת מודלים בשילוב LLMs. תחומים אלו נושאים פוטנציאל רב להמשך קידום יכולות הבינה המלאכותית. ככל שה-AI ממשיך להתפתח, השילוב של ידע, שיתוף פעולה והתפתחות משותפת יהיה קריטי בבניית מערכות AI חזקות, יעילות ואינטליגנטיות יותר.

למאמר המדעי

הפוסט העידן שאחרי מודלי השפה הגדולים הופיע לראשונה ב-Chiportal.

פריצת דרך טכנולוגית של אוניברסיטת תל אביב אפשרה לראשונה בעולם ליישם את תופעה  המדעית של "סופר החלקה" (super-lubricant) גם ברכיבים אלקטרוניים. כתוצאה מכך, צוות החוקרים הצליח לנצל את ההחלקה, נטולת החיכוך כדי לשפר משמעותית את ביצועי רכיבי הזיכרון במחשבים וברכיבים חשמליים אחרים.

המחקר נערך בהובלת ד"ר יונגקי יאו, יואב שרעבי, ד"ר נירמל רוי ונועם ראאב, כולם מצוות המעבדה של פרופ' משה בן שלום מבית הספר לפיזיקה באוניברסיטת תל אביב. המחקר פורסם לאחרונה בכתב העת היוקרתי Nature.

צוות החוקרים מסביר כי חיכוך הוא כוח שמונע החלקה חופשית בין משטחים. מצד אחד, הוא הכרחי – הוא מונע מאיתנו להחליק באמבטיה, למשל – אך מצד שני, הוא גורם לשחיקה ולאובדן אנרגיה. בגוף האדם, האבולוציה פיתחה חומרי סיכה מתקדמים למפרקים, אך גם הם נשחקים עם הזמן (כפי שהברכיים שלנו מזכירות לנו מדי פעם).

הבעיה חריפה במיוחד בעולם המחשוב. רכיבי זיכרון זעירים עובדים במהירויות עצומות – מיליוני מחזורים בשנייה, ומופעלים ללא הפסקה במחשבים, מערכות רפואה מתקדמות,  בינה מלאכותית  ועוד. כל שיפור ביעילות, בעמידות ובחיסכון האנרגטי שלהם מתורגם ישירות לקפיצות טכנולוגיות משמעותיות.

החוקרים מוסיפים ומסבירים הטבע "מצא" דרך ליצור משטחים חסרי חיכוך, תופעה המכונה "סיכתיות-על" (Superlubricity). כדי להבין את זה, דמיינו שני קרטוני ביצים (כמו באיור): כשהם מסודרים במדויק, הם נצמדים זה לזה, אך אם נסובב אחד מהם מעט – הם יחליקו בקלות. באופן דומה, כששכבות של חומרים אטומיים מוסטות מעט זו ביחס לזו, אטומי החומר אינם יכולים להסתנכרן, והחיכוך ביניהן נעלם כמעט לחלוטין. לפני כ-20 שנה, מדענים גילו שהחכוך בין שתי שכבות גרפיט מסובבות הוא כל כך קטן שאי אפשר למדוד אותו – תגלית שסללה עבורינו את הדרך לפיתוח טכנולוגיות זיכרון חדשניות, מבוססות סופר-החלקה.

פרופ' משה בן שלום: "במעבדה שלנו אנו בונים חומרים שכבתיים, בהם כל תזוזה אטומית – אפילו במרחק המזערי ביותר – גורמת לאלקטרונים לנוע בין השכבות. התוצאה: רכיב זיכרון דק בעובי שני אטומים בלבד! – הדק ביותר שאפשר לדמיין. במחקר הנוכחי פיתחנו שיטה חדשה לניצול החלקה נטולת חיכוך, אשר משפרת משמעותית את ביצועי רכיבי הזיכרון. בניסוי, ד"ר יאו שילב שכבות אטומיות דקות של בור וחנקן, המופרדות על ידי שכבת גרפן מחוררת. בתוך החורים הזעירים (בקוטר של כ-100 אטומים בלבד), שכבות הבור והחנקן מסתדרות באופן מסונכרן, אך ביניהן – הודות לשכבת הגרפן הלא מסונכרנת – החיכוך נעלם! בזכות תופעה זו, ניתן להחליק במהירות וביעילות את האטומים באיים המסונכרנים, ובכך לקרוא ולכתוב מידע (ביטים) ביעילות חסרת תקדים – תוך חיסכון משמעותי באנרגיה".

פרופ' בן שלום מדגיש: "המדידות שלנו מראות כי יעילות הזיכרון החדש גבוהה משמעותית בהשוואה לטכנולוגיות קיימות, וללא שחיקה כלל. מעבר לכך, המערכים החדשים חושפים תופעה מרתקת: כאשר האיים הזעירים קרובים זה לזה, תנועת האטומים באי אחד משפיעה על תנועת האטומים באיים השכנים. במילים אחרות, המערכת מסוגלת לארגן את עצמה אוטומטית למצבי זיכרון מצומדים – דבר שעשוי להוביל לפריצות דרך במחשוב מתקדם, כולל בינה מלאכותית וארכיטקטורות נוירומורפיות (חישוב המדמה את פעילות המוח).

צוות החוקרים מסכם: "אנו מפתחים את הטכנולוגיה באמצעות חברת SlideTro LTD שהוקמה על בסיס תגליות אלו ובעזרת חברת רמות של האוניברסיטה ומאמינים שבעתיד נוכל להשתמש בה ליצירת מערכי זיכרונות מהירים, אמינים ועמידים במיוחד. המחקר העתידי שלנו מופנה לאפשרויות חישוב חדשות דרך צימוד מכאני בין ביטים שלא היה אפשרי עד כה. כך שאולי ה"סיכתיות-על" תניע את המהפכה הבאה בעולם המחשוב.

הפוסט זכרון חשמלי מחליק הופיע לראשונה ב-Chiportal.

מודעת הדרושים החדשה מציגה משרה ייחודית – החברה מחפשת סוכן בינה מלאכותית שייבנה, ינוהל ויוכיח את כישוריו, כאשר המועמד המיועד הוא מפתח סוכנים עצמאי בעל כישורים מולטי-תחומיים, במחיר/עלות שכר של 15,000 דולר לשנה בלבד.

בשבוע האחרון התפרסמה מודעת דרושים יוצאת-דופן. בעצם, היא מאד רגילה מבחינת דרישות התפקיד, מלבד לנקודה אחת: היא פונה לבינות מלאכותיות בלבד. וכפי שכתוב במודעה – "סוכני בינה מלאכותית בלבד".

ובכן, זה לא מדויק. בסוף המודעה מבהירה החברה שהיא מוכנה גם לקבל פניות מבני-אדם שפיתחו "סוכן בינה מלאכותית" שכזה. אבל בסופו של דבר, כן, החברה מעוניינת לשכור את הסוכן. ולא מדובר בעבודה פשוטה. הסוכן שיתקבל לתפקיד יוכל – 

"לחקור בעצמו מגמות טכנולוגיות ומודלים, ואז להשתמש במידע הזה כדי ליצור, לבחון ולשפר דוגמאות לאפליקציות באיכות גבוהה. האפליקציות הללו… ידגימו את הפוטנציאל המלא של Firecrawl [החברה] בתרחישים מהעולם האמיתי. עבודתך תנחה ותספק השראה למפתחים, ותעזור להם לאמץ במהירות את Firecrawl…"

מה יש לנו כאן? למעשה, החברה מחפשת עובד בעל מיומנויות מתקדמות חיפוש, איסוף וניתוח מידע, תכנות, פיתוח אפליקציות, שיווק, עיצוב חוויית משתמש ועוד ועוד. אם יש לכם את כל המיומנויות האלו, ובכן, זה מאד מרשים. אבל כנראה שלא כדאי לכם להגיש מועמדות למשרה. גם מכיוון שאתם 'רק' בני-אדם, וגם מכיוון שהשכר השנתי שהחברה מציעה לאותו סוכן, עומד על 15,000 דולרים בלבד לכל היותר.

עכשיו בואו נדבר ברצינות לרגע.

קודם כל, החברה אינה באמת יכולה לשכור "סוכן בינה מלאכותית", מהסיבה הפשוטה שאין ישות כזו עם חשבון בנק משלה. מה שהחברה באמת מחפשת זה מישהו שיבנה עבורה סוכן שכזה, ויחכיר לה אותו לשנה אחת תמורת 15,000 דולרים. 

אז האם מדובר בשטות? או ליתר דיוק, בניסוח משעשע מצד החברה שנועד בעיקר להביא לה פרסום? לא בדיוק. המודעה פורסמה בצורה רצינית מאד גם באתר JobForAgent ("עבודה לסוכן"), שמגדיר את עצמו כ-

"לוח העבודה הראשון לסוכנים אוטונומיים, אפס אחוז דרמה, מאה אחוזים עבודה כל הזמן." 

אפשר למצוא באתר בקשות נוספות לסוכנים שיכולים לבצע מטלות מורכבות, כמו ניתוח חובות, הפקת FAQ, עורך פודקאסטים ועוד ועוד. חלק מהסוכנים הללו מורכבים מאד, וצריכים לבצע מטלות שדורשות מיומנות במספר רב של תחומים. סוכנים אחרים פשוטים יותר. אבל דבר אחד משותף לכולם: הם מיועדים לתפוס את מקומו של מומחה אנושי שהיה אמור לבצע את המטלות הללו בעצמו, והם עושים זאת ב- 'שכר' מגוחך, שנע בין כמה עשרות לכמה אלפי דולרים לשנה.

ושוב, אתם יכולים לטעון שהחברות באתר לא באמת שוכרות סוכני בינה מלאכותית, אלא את המפתחים שמעמידים אותם. וזה נכון, אבל מחמיץ את הנקודה הגדולה יותר: כל מפתח שמעמיד סוכן כזה ומחכיר אותו לחברות, מחליף את העבודה של אדם אחד לפחות באותה חברה, אם לא של כמה אנשים באותו הזמן. ומכיוון שאפשר לקחת בקלות-יחסית סוכן מוצלח אחד, ולהתאים אותו גם לעבודה חדשה, אפשר לצפות שמפתח מוכשר אחד שיודע איך להעמיד סוכנים אוטונומיים, יתפוס הלכה למעשה את עבודתם של עשרות, מאות, אלפי או מיליוני בני-אדם מוכשרים אחרים בחברות היעד.

אם כל זה מבלבל אתכם, ואם גם אתם מתחילים להרגיש כאילו רק-עכשיו-הצלחנו-להבין-את-GPT-ומה-אתה-בא-אלינו-פתאום-עם-סוכנים, זה כנראה הזמן להסבר קצר על בינה מלאכותית, על מנועי השפה הגדולים ואיך הם מתחברים ביחד כדי ליצור את הסוכנים.

ממנועים לסוכנים

כולם כבר מכירים את צ'אט-GPT: בינה מלאכותית שיודעת לכתוב, לקרוא, לחבר שירים, לנתח מסמכים, לערוך ספרים ועוד ועוד. אבל האמת היא שהיא לא יודעת לעשות שום דבר מכל זה. צ'אט-GPT הוא 'בסך הכל' מנוע שיודע להשלים את המילה הבאה במשפט. ואז את המילה שאחריה, ואז את הבאה בתור, וכן הלאה וכן הלאה. ומכיוון שהוא יודע לעשות זאת ממש טוב, הוא יכול להשלים גם פסקאות שלמות, עמודים ואפילו פרקים בספר.

צ'אט-GPT, ולצידו גם קלוד וג'מיני, מוגדרים כ- "מנועי שפה גדולים". וזה בדיוק מה שהם. הם "מנועים". הם לא נועדו לעשות עבודה בעצמם. הם לא "מוצר" שכל אדם יכול להשתמש בו בקלות ובלי-חשש. העובדה שכולנו משתמשים בהם היום, רק מלמדת על הכוח העצום שיש להם, ומבהירה כמה הם שימושיים. ועדיין, הם יכולים לעשות טעויות גדולות. אין להם הבנה אמיתית של המשתמש או של צרכיו, ולעיתים קרובות אנשים מתאכזבים כשהם מנסים להפעיל אותם בדרכים הלא-נכונות.

מה הם כן יכולים לעשות? מטלות פשוטות מאד, ובפיקוח אנושי צמוד. כן, הם יכולים לכתוב למשתמש הממוצע פסקה או שתיים לדו"ח, או סצנת קרב לספר פנטזיה, אבל כדאי מאד שיהיה אדם מומחה שיעבור על התוצאה ויוודא שהיא תואמת למה שרצה לקבל. וככל שהמטלה הופכת להיות מורכבת וארוכה יותר, כך מסוכן יותר לסמוך עליהם שיצליחו לבצע אותה היטב בכוחות עצמם.

גוגל הסבירו את העניין בדוגמא מעניינת על מסעדת המבורגרים, שמנועי השפה הגדולים הם אפילו לא הטבחים בה, אלא רק כלים שהטבחים הפשוטים ביותר משתמשים בהם. אבל מכיוון שרוב הבינות המלאכותיות כרגע לא באמת מתנהלות בעולם האמיתי, ניתן דוגמא אחרת: של מכון מחקר.

ובכן, חשבו על מכון מחקר קטן ואיכותי, שמתחיל להעסיק מנועי שפה גדולים כמו צ'אט-GPT. המנועים האלו אינם כותבים דו"חות או עושים מחקר. הם משמשים ככלים בלבד בידיהם של החוקרים. הם יכולים לעשות הגהה, למשל, של הכתיבה האנושית. או לכתוב כמה פסקאות בהנחייתו של החוקר האנושי. או לסכם ולתמצת את המידע שבאתר מסוים ברשת, או אפילו לסכם דו"ח שלם בסדרה של נקודות. אבל בכל המקרים האלו, מנועי השפה הגדולים עושים מטלות פשוטות יחסית, לפי בקשת החוקר האנושי ובהשגחתו המלאה. 

עד כאן דיברנו על מנועי שפה גדולים כמו צ'אט-GPT. אבל מהם הסוכנים?

אם נשתמש באלגוריה של מסעדת ההמבורגרים, הסוכנים הם הטבחים עצמם. בתפקיד הטבח, הם בוחרים באיזה כלים להשתמש, מתי להפוך את ההמבורגרים, מתי להכניס אותם ללחמניה, מתי לקרוא למלצר שיבוא לקחת אותם וכן הלאה. כל זאת, בלי פיקוח אנושי. לא רק זאת, אלא שהם יכולים גם לתפקד כאחראי המשמרת, ולהפעיל ולנהל את הטבחים עצמם, שמפעילים בעצמם את הכלים הפשוטים יותר. והם יכולים אפילו לתת לטבחים הוראות והנחיות כדי לשפר את הביצועים שלהם.

ומה לגבי מכון המחקר? שם, הסוכנים יכולים להחליף את החוקר האנושי השלם. הם יודעים כיצד לכתוב את הדו"ח, והם מפעילים את כל המנועים הפשוטים יותר כדי לעשות זאת. הם מפעילים את גוגל כדי לחפש מידע ברשת, קוטפים את המידע וקוראים אותו בעזרת צ'אט-GPT, מסכמים אותו לפסקאות ועוברים עליהן כדי לוודא שהן תואמות את צרכי המחקר ואת הסגנון המבוקש, ואפילו יכולים לייצר תמונות וגרפים ולשלב אותם בדו"ח הסופי.

ולפני שתטענו ש- "אין להם יצירתיות", או כל טענה שחוקה אחרת מעידן הפרה-היסטוריה של הבינה המלאכותית, הסוכנים הללו מסוגלים גם להציע למזמין המחקר אפשרויות נוספות לביצוע העבודה, וכיוונים שהוא כלל לא חשב עליהם.

הסוכנים, בקיצור, הם השלב האבולוציוני הבא של צ'אט-GPT. הם מה שאנחנו מקבלים כשאנחנו נותנים לבינה מלאכותית לתת הוראות לבינות מלאכותיות, שמפעילות בעצמן בינות מלאכותיות. והכל לטובת מטרה אחת שמוגדרת לסוכנים מלמעלה – והם צריכים להוציא אותה לפועל. בין שמדובר בכתיבת דו"ח, בעריכת מחקר מדעי, ביצירת ברושור פרסומת, או כל תחום אחר.

אבל איך הם עושים זאת?

פריצת הדרך שלא קרתה

הייתם מצפים שכדי שבינה מלאכותית תוכל לפקח על בינות מלאכותיות ולכתוב דו"חות שלמים (למשל), יהיה צורך בפריצת דרך מדהימה ביכולות, נכון?

ובכן, מסתבר שלא. לא באמת. הטכנולוגיה שבלב הסוכנים אינה שונה משמעותית מזו שהייתה כאן לפני שנה, ואפילו לפני שנתיים.

העניין הוא שהסוכנים עצמם מורכבים ממנועי שפה גדולים – כן, שוב, צ'אט-GPT. אותם מנועים יכולים לתת הוראות למנועי שפה גדולים אחרים – שוב צ'אט-GPT – כדי שיבצעו מטלות מסוימות. למשל, יכתבו פסקה. ואז, הם יכולים להורות לאותם מנועים לעבור על הפסקה ולוודא שהיא מתאימה לדו"ח הגדול יותר. וכל עוד המנועים מקבלים את ההוראות הנכונות, ועם הטקסט הנכון שמועבר אליהם, הם מסוגלים לעשות את זה ברמה מרשימה של הצלחה.

בעצם, אנחנו רואים כאן את גדולתו של התהליך – של ה- workflow כפי שהוא מוגדר בקרב חברות הבינה המלאכותית. בכל שלב בתהליך העבודה, מופעלים מנועי שפה גדולים כדי לבצע פעולות פשוטות, ואז מופעלים מנועים אחרים עם סדרה של שאלות פשוטות אחרות: האם המטלה המקורית התבצעה בצורה הולמת? אם לא, מה צריך לעשות? איך כדאי לשפר? מה צריך לכתוב למנועי שפה גדולים אחרים שיבצעו את השיפור?

ואז מופעלים מנועי שפה גדולים אחרים עם ההוראות שכתבו המנועים הקודמים, כדי לשפר את התוצאה.

שוב, תהליכים כאלו הודגמו כבר בספטמבר 2023, לפני כמעט שנה וחצי. במחקר שהתפרסם באותו הזמן, חוקרים הצליחו לגרום למנועים פשוטים 'לדבר' זה עם זה, להתווכח, להציג דעות שונות מנקודות מבט מקצועיות שונות. הם הראו שדרך ההפעלה הזו, יכולה לעשות דברים גדולים ומרשימים: למשל, ליצור חלקים שלמים ממשחק מחשב (הם קראו סוכן שעשה את זה ChatDev). למעשה, הם הדגימו את כוחם של הסוכנים, במחקר אקדמי.

העקרונות הללו התפשטו מאז והגיעו למקומות רבים נוספים. אם אתם משתמשים ב- GPT-O1, למשל, אתם למעשה מפעילים סוכן שמסוגל לפרק בעצמו את השאלה שלכם לתת-מטלות, לנתח כל אחת מהן בתורה, לתהות על התשובות שנתן ועל הרלוונטיות שלהן, ולערוך מחדש את התשובה בהתאם לתובנות שהוא מייצר בעצמו ועל עצמו. חברת OpenAI בעצמה כבר המליצה להשתמש ב- O1 ככלי להפעלת מנועי שפה גדולים פשוטים יותר. הוא "אחראי המשמרת", והם… הם עושים את כל היתר.

ועכשיו, סוף סוף, אנחנו נכנסים לתקופה שבה הסוכנים הללו מתקדמים מספיק כדי לבצע מטלות מורכבות ושלמות – מהסוג שאדם היה צריך להיות אחראי עליהן באופן רגיל – בעצמם.

לפחות, אנחנו בכיוון. כי יש עוד מה לשפר לפני שנגיע לרמה שבה סוכנים יוכלו לבצע עבודות גדולות לגמרי בכוחות עצמם. הסוכנים עדיין לא מושלמים. אבל בקצב בו הדברים מתקדמים, אף אחד לא יופתע אם כבר בחודשים הקרובים נראה סוכנים מוצלחים שכאלו בחלק מהתחומים בתעשייה.

זוכרים את התחזית של מקינזי, לפיה שלושים אחוזים משעות העבודה ייתפסו על-ידי בינה מלאכותית עד 2030? היא נראית סבירה יותר מרגע לרגע. למעשה, היא מתחילה להיראות שמרנית.

סוכנים מסוכנים

אי אפשר להתעלם גם מהסכנות שבהעסקת סוכנים. הבינות המלאכותיות הפשוטות יותר – מנועי השפה הגדולים – מבצעות רק מטלות קטנות בפיקוח אנושי, ורק כשהן מקבלות פקודה ישירה מבן-אדם. הסוכנים, לעומתן, ייהנו מחופש פעולה גדול יותר. הם יוכלו לבחור איך בדיוק להוציא את המשימות שלהם לפועל, וחלקם יוכלו לעבוד גם מבלי שיקבלו הוראה לעשות זאת – הכל לפי ההנחיות שהועברו להם במקור.

בראיון שיצא לאחרונה בפורבס, טען אלדד תמיר – מנכ"ל Finq, שמשתמשת בעצמה בסוכנים כדי לנתח מגמות שוק ולהפיק המלצות להשקעות – שמדובר בנקודת מפנה בהיסטוריה האנושית.

"לראשונה אי-פעם," אמר בריאיון, "מכונות יוכלו לקחת חלק בקבלת ההחלטות הממשית בתוך תאגידים."

המשמעות, כמובן, היא שאם המכונות יעשו טעויות בקבלת ההחלטות שלהן, הן עלולות לגרום לנזקים גדולים. לא רק בכסף, אלא לפגוע ממש בבני-אדם. אם סוכן עורך מחקר ומפיק המלצות לסלילת כביש חדש, ומייחס יותר מדי חשיבות לעלויות ומעט מדי לבטיחות, הרי שהביצוע הבעייתי עלול לעלות בחיי אדם. אם סוכן צריך לספק המלצה כפסיכולוג או כרופא, אבל הוא מוטה לטובת חברת תרופות מסוימת, הוא עלול שלא להמליץ על התרופה המתאימה ביותר למטופל. כל הדברים האלו יכולים לקרות לא מתוך כוונת זדון של המתכנתים, המפתחים או המעסיקים, אלא פשוט מכיוון שהסוכנים הם ישויות מורכבות עם הרבה 'חלקים נעים' שמדברים, מתדיינים ומתווכחים זה מול זה עד לקבלת ההחלטה הסופית. לא תמיד קל להבין איך הם הגיעו לאותה החלטה.

אז כן, יש סכנות, וצריך להבין שהן קיימות ולחשוב כיצד להתמודד עמן. הדרך הברורה ביותר היא, כמובן, יצירת סוכנים בטחוניים, שיפקחו על הסוכנים שמבצעים את העבודות בחברות. זה, כנראה, מה שיקרה. בשנים הקרובות נראה שפע של חברות שקמות ומציעות סוכנים-לסוכנים. חברות שמעסיקות סוכני בינה מלאכותית, לא יוכלו להרשות לעצמן לתת להם לעבוד ללא פיקוח בטיחותי או אתי.

ואולי, רק אולי, יש כאן צוהר לאחד המקצועות החדשים של האנושות.

מנועי קיטור ובאולינג

לאורך המהפכה התעשייתית היינו עדים לתופעה מוזרה: הטכנולוגיה תפסה את מקומם של בני-האדם במקצועות מסוימים, גרמה לפיטוריהם – ועדיין הייתה מספיק עבודה לכולם.

קחו, למשל, את ספינות הקיטור. אלו החליפו במידה רבה את החותרים במשוטים בנהרות ובימים. מה עשו אותם חותרים? הם מצאו מקומות עבודה אחרים. חלקם, למשל, הפכו לעגלונים ולנהגי כרכרות. היה ביקוש רב לכאלו, מכיוון שבזכות ספינות הקיטור שהביאו סחורות בעלויות נמוכות, הכלכלה פרחה ואנשים היו מוכנים להוציא כסף יותר בקלות כדי להגיע במהירות ממקום למקום. אחרים השיקו סירות קטנות שעדיין פעלו בכוח חותר או שניים, וסיפקו חוויה רומנטית לזוגות מאוהבים. ושוב, מכיוון שהכלכלה התפתחה, היה מספיק כסף לאותם זוגות להוציא על בילויים שכאלו.

דוגמא אחרת היא אולמות הבאולינג. בעבר, כל מסלול באולינג הצריך עובד משלו, שסידר את הפינים מחדש לאחר שנפלו. ואז הגיעו המכונות שסידרו את הפינים אוטומטית, וכל אותם עובדים היו צריכים למצוא עבודה חדשה. אלא שאז קרה דבר יוצא-דופן: עלות הניהול של אולמות הבאולינג ירדה דרמטית, מכיוון שלא היה צריך להעסיק עשרות עובדים שכאלו. כתוצאה, נפתחו אולמות באולינג חדשים רבים בכל העולם. כל אולם כזה העסיק פחות עובדים, אבל עדיין היה צורך באנשים שינהלו את הלקוחות, יכינו ויגישו מזון, יטפלו במיזוג האוויר ובמכונות ועוד. בראייה הגדולה יותר, מכיוון שנפתחו כל-כך הרבה אולמות באולינג חדשים, גם אם כל אחד העסיק פחות עובדים – בסופו של דבר נפתחו יותר מקומות עבודה חדשים.

כנראה שנחווה תופעה דומה גם בעשורים הקרובים. כן, הבינה המלאכותית תייתר אנשים רבים במקומות העבודה הנוכחיים שלהם, אבל מקצועות חדשים יופיעו, ומקומות עבודה חדשים ייפתחו ביתר שאת. כנראה.

רוצים דוגמא למקצוע חדש כזה? בבקשה: מפקח אתי על סוכני בינה מלאכותית.

אנחנו רואים כבר עכשיו איך בזכות הבינה המלאכותית, כל אחד יכול לפתח אפליקציות חדשות ולפתוח סטארט-אפים בקלות רבה יותר מאי-פעם. המשמעות היא שכנראה שמספר החברות הקטנות והבינוניות יגדל, וכל חברה כזו תעסיק לפחות סוכן אחד – וכנראה רבים הרבה יותר. ומכיוון שכל סוכן שכזה יצטרך מישהו שיבחן אותו, יבדוק אותו ויפקח עליו, ייתכן שיש כאן הזדמנות לבני-האדם.

תגידו עכשיו שאפשר להחליף גם את עבודת המפקח בסוכן בינה מלאכותית? זה נכון, אבל אנשים רבים מרגישים שיש משמעות וחשיבות דווקא לפיקוח האנושי. הם רוצים לדעת שבני-אדם הם אלו שאחראים על המכונות, ולא להעביר את השליטה לגמרי לידי המכונות שיפקחו על עצמן. אולי הציבור ידרוש וירצה מפקחים אנושיים, וכך יהיה ביקוש גדול לכאלו. אולי.

כמו שאתם מבינים, אי אפשר לדעת מה יהיה. אנחנו יכולים רק להציע אפשרויות לעתיד. ואולי הן יתממשו.

כך או כך, דבר אחד ברור: התעשייה עוברת את המהפך בימים אלו משימוש במנועים 'פשוטים', לסוכנים מורכבים שיכולים לבצע עבודות של בני-אדם מומחים. לראשונה בהיסטוריה, בו התבונה והיכולת לבצע פעולות מורכבות באופן אוטונומי, עוברות לישויות שאינן אנושיות.

ואם אתם עדיין לא מבינים את גודל השינוי, אני יכול רק להמליץ לכם לפרסם מודעת דרושים לסוכן היסטוריון. או… לעתידן. 

הפוסט הסוכנים מגיעים: הודעות "דרושים" לבינה מלאכותית בלבד הופיע לראשונה ב-Chiportal.

ב-8 באפריל 1982 גילה פרופ' דן שכטמן מהטכניון את התופעה שתזכה אותו לימים בפרס נובל בכימיה (2011): הגביש הקוואזי-מחזורי. לאחר מדידה במיקרוסקופ אלקטרונים, החומר החדש נראה "מבולגן" במבט מקרוב, אך ממעוף הציפור ניכרו הסדר והסימטריה המאפיינים אותו. צורה זו של חומר נחשבה בלתי אפשרית, ונדרשו שנים רבות כדי לשכנע את הקהילה המדעית באמיתותה של התגלית. הפיזיקאים הראשונים שהצליחו להסביר את התגלית הניסויית במונחים תאורטיים היו פרופ' דב לוין, אז דוקטורנט באוניברסיטת פנסילבניה וכיום חבר סגל בפקולטה לפיזיקה בטכניון, והמנחה שלו, פרופ' פול סטיינהארט.

התובנה המרכזית שאיפשרה את ההסבר הייתה שקוואזי גבישים מתנהגים מוזר, כי הם, למעשה, גבישים רגילים – אבל במימד גבוה יותר מ-3 הממדים שקיימים במציאות. צורת הגביש שאנחנו רואים במציאות נובעת ישירות מה"גביש" במימד הגבוה, בדומה לצל של גוף תלת מימדי המוטל על מישור. תובנה זו הסתמכה על תגלית מוקדמת יותר של המתמטיקאי הבריטי רוג'ר פנרוז, לימים גם הוא חתן פרס נובל (פיזיקה, 2020), ונגעה לאפשרות לריצוף מלא של מישור באריחים משני סוגים בלבד. התגלית זכתה לשם "ריצוף פנרוז", שאותו טבע ניקולס דה ברוין, שגם הסביר כיצד הריצוף של פנרוז משתמש, למעשה, באריח בודד בממד גבוה יותר.

מחקר חדש שפורסם ב-SCIENCE

כעת, במאמר בכתב העת היוקרתי Science , שופכים חוקרי הטכניון אור חדש על התופעות האמורות. את המחקר הובילו פרופ' גיא ברטל מהפקולטה להנדסת חשמל ומחשבים ע"ש ויטרבי בטכניון וד"ר שי צסס, כיום פוסט-דוקטורנט ב-MIT, שעשה את הדוקטורט בהנחייתו של פרופ' ברטל. במחקר השתתפו עמיתיהם מהטכניון ומגרמניה.

במאמרם ב- Scienceמראים החוקרים כי לא זו בלבד שהגביש הארבעה-ממדי מכתיב את התכונות המכניות של גבישים קוואזי-מחזוריים – הוא מכתיב גם את תכונותיהם הטופולוגיות, כלומר את אותן תכונות שאינן משתנות גם לאחר עיוות החומר (מתיחה, פיתול וכו').

טופולוגיה היא ענף במתמטיקה שחוקר צורות ותכונות גאומטריות שאינן משתנות תחת עיוותים רציפים. טופולוגיה של מרחבים גבוהים מתמקדת בתכונות של אובייקטים ביותר משלושה מימדים ומהווה בסיס חשוב בתחומים ובהם פיזיקה ומדעי המחשב, למשל בחקר מבנה היקום ובפיתוח אלגוריתמים. קשה מאוד לדמיין מרחב ארבעה-ממדי, זאת משום שאנו רגילים לתפוס את העולם סביבנו כמרחב תלת-ממדי, וקשה אף יותר למדוד אותו.

אז איך מאששים תיאוריה שאי אפשר למדוד? במאמרם השתמשו החוקרים בטכנולוגיית "מיקרוסקופיית שדה קרוב" כדי למדוד תבניות שדה קוואזי-מחזוריות שנוצרו על ידי גלים משטחיים – גלי רפאים שאינם מתגלים במיקרוסקופים סטנדרטיים. בעזרת שליטה בגלים משטחיים, ה"חיים" על השפה של פרוסת זהב, החוקרים ייצרו תבניות שונות שכל אחת מהן מייצגת מבנה ארבעה-מימדי בעל טופולוגיה שונה. להפתעתם, בעוד שבמדידה התבניות נראו כמעט זהות וללא יכולת להבדיל בין התכונות הטופולוגיות שלהם, ניתוחם במימדיות הגבוהה חשף את האפיון הטופולוגי המיוחד לכל אחת מהן.

דפוסי התאבכות קוואזי-מחזוריים של גלי שטח אלקטרומגנטיים

החוקרים בחנו דפוסי התאבכות קוואזי-מחזוריים של גלי שטח אלקטרומגנטיים וגילו למרבה ההפתעה כי אף שהדפוסים נראו שונים, לא היה אפשר להבדיל ביניהם על ידי מדידת תכונות טופולוגיות בדו-מימד. האבחנה בין הדפוסים, הם גילו, הייתה אפשרית רק על סמך הגביש הארבעה-מימדי המקורי. זוהי התצפית הראשונה בהיסטוריה בטופולוגיה ארבעה-מימדית המופיעה באופן טבעי במערכת פיזיקלית, זאת אחרי ממצאים דומים במערכים מהונדסים (מוליכי-גל וסריגים אטומיים קרים מבוקרים).

החוקרים גילו תופעה נוספת: שני דפוסים שונים-טופולוגית של גלי שטח נראו זהים לחלוטין אם נמדדו בהפרש זמן נתון. הפרש זמן זה היה קצר מאוד ונמדד באטו-שניות – מיליארדית של מיליארדית השנייה. התאוריה המקורית של לוין, סטיינהארט ופר בק מסבירה תופעה זו במעין "תחרות" בין התכונות הטופולוגיות של הגבישים לבין תכונותיהם התרמודינמיות (האנרגטיות).

הממצאים הושגו בשתי שיטות – מיקרוסקופיית שדה קרוב (Near-field scanning optical microscopy), שבוצעה במעבדתו של גיא ברטל על ידי ד"ר קובי כהן, ומיקרוסקופיית אלקטרונים (two-photon photoemission electron microscopy), שנמדדה בשת"פ בין אוניברסיטת  שטוטגארט ואוניברסיטת  Duisburg-Essen בגרמניה. הגילויים המוצגים במאמר סוללים דרך חדשה למדידת התכונות התרמודינמיות של גבישים קוואזי-מחזוריים, ואכן, בעתיד הקרוב, מתכוונים החוקרים להרחיב את ממצאיהם למערכות פיזיקליות נוספות ולהעמיק בחקר יחסי הגומלין בין תכונות תרמודינמיות וטופולוגיות. הם מעריכים שבאופן זה יהיה אפשר לגלות ארכיטקטורות חדשות להצפנה, העברה ופענוח של מידע.

המחקר נתמך על ידי הנציבות האירופית למחקר (ERC), הקרן הגרמנית למדע (DFG), קרן  משרד החינוך והמחקר בגרמניה (BMBF), BW Stiftung, Carl-Zeiss Stiftung, מכון ראסל ברי לננוטכנולוגיה בטכניון (RBNI), מרכז הקוואנטום ע"ש הלן דילר בטכניון (HDQC) והמרכז לננואלקטרוניקה ע"ש שרה ומשה זיסאפל בטכניון (MNFU).

למאמר ב- Science

הפוסט ד"ש מהמימד הרביעי הופיע לראשונה ב-Chiportal.

חברת הבינה המלאכותית הסינית דיפסיק (DeepSeek) מטלטלת את עולם הטכנולוגיה עם השקת מודלים חדשניים ויעילים במיוחד, המסוגלים להתחרות במוצרים מתקדמים של חברות ענק אמריקניות כמו OpenAI ואנתרופיק. המודלים הללו, אשר פותחו תוך שימוש במשאבים מוגבלים ובתקציבים נמוכים, מהווים לא פחות ממהפכה בעולם הבינה המלאכותית.

החברה הוקמה בשנת 2023 ובזמן קצר הצליחה להגיע להישגים מרשימים. "דיפסיק הצליחה לשנות את כללי המשחק בתעשייה בזכות שתי גישות חדשניות שהן פורצות דרך. מדובר לא רק במודלים יעילים יותר אלא גם בזמינות רחבה יותר לקהילת המחקר," אומר פרופ' טונגליאנג ליו, מנהל מרכז הבינה המלאכותית באוניברסיטת סידני.

מה עשתה דיפסיק?

בדצמבר האחרון השיקה דיפסיק את מודל V3, מודל שפה גדול (LLM) המציג יכולות דומות לאלו של GPT-4o מבית OpenAI ו-Claude 3.5 מבית Anthropic. מודלים אלה ידועים ביכולתם לענות על שאלות, לכתוב מאמרים, לייצר קוד ועוד. עם זאת, לרוב הם סובלים מטעויות ולעיתים ממציאים מידע.

ה-V3 של דיפסיק מתגבר על חלק מהאתגרים הללו, והוא גם חסכוני בהרבה: בעוד שהכשרת GPT-4 עלתה למעלה מ-100 מיליון דולר, פיתוח V3 עלה כ-5.58 מיליון דולר בלבד. בנוסף, במקום להשתמש בעשרות אלפי יחידות עיבוד חזקות כמו NVIDIA H100, דיפסיק השתמשה ב-2,000 יחידות עיבוד בלבד מסוג H800, שהן פחות חזקות משמעותית.

ב-20 בינואר 2025, הציגה החברה את מודל R1, המתמקד ב"חשיבה" צעד-אחר-צעד, במטרה לפתור בעיות מורכבות בצורה מתודית. מודלים מסוג זה מצטיינים במשימות הדורשות הבנה של הקשר רחב ותכנון אסטרטגי, כמו קריאה ביקורתית ותכנון פרויקטים. ה-R1 הוא למעשה גרסה משופרת של ה-V3, שעברה התאמות על בסיס טכניקת למידה מחוזקת.

ההשקה האחרונה של דיפסיק, שהתרחשה ב-28 בינואר, כללה מודל חדשני המשלב יכולות לעבודה עם תמונות וטקסט בו זמנית. יכולת זו מציבה אותו ישירות בתחרות מול המודלים המתקדמים ביותר של מתחרותיה האמריקניות.

איך עשתה זאת דיפסיק?

הסוד הגדול של דיפסיק טמון בחדשנותה להשגת יעילות מרבית. החברה פיתחה שתי טכניקות ייחודיות שמאפשרות לה להפיק תוצאות טובות יותר עם פחות משאבים:

1. ספארסיות (Sparsity): מודלים של בינה מלאכותית כוללים מספר עצום של פרמטרים – ב-V3 מדובר בכ-671 מיליארד פרמטרים. אולם, רק חלק קטן מהם מופעל עבור כל קלט. דיפסיק הצליחה לזהות באילו פרמטרים יש להתמקד ולבצע הכשרה ממוקדת עליהם בלבד. הדבר צמצם משמעותית את הזמן והמשאבים הדרושים להכשרת המודל.
2. דחיסת מידע בזיכרון: החברה פיתחה דרך חדשנית לדחוס את המידע הרלוונטי בצורה שמאפשרת גישה מהירה ויעילה יותר אליו במהלך הפעולה. שיטה זו חוסכת לא רק בזמן עיבוד אלא גם בעלויות תפעול.

"בזכות חדשנות בתחום הספארסיות ודחיסת מידע, דיפסיק השיגה את מה שרבים חשבו לבלתי אפשרי," מציין פרופ' ליו. "הגישה הזו היא לא רק פורצת דרך מבחינה טכנולוגית, אלא גם מנגישה את התחום לחוקרים נוספים."

משמעות המהפכה של דיפסיק

המודלים והטכניקות של דיפסיק פורסמו תחת רישיון הקוד הפתוח MIT, כך שכל אחד יכול להורידם, להשתמש בהם ואף להתאימם לצרכיו. צעד זה מעורר סערה בעולם הטכנולוגיה. בעוד שחברות רבות עלולות להיפגע, הקהילה המחקרית כולה תיהנה מהשינוי.

"עכשיו, גם חוקרים באוניברסיטאות, שמוגבלים במשאבים, יכולים להתנסות בפיתוחים מורכבים," מסביר פרופ' ליו. לדבריו, המודלים החדשים גם יוזילו את העלויות לצרכנים. במקום להשתמש בשירותי ענן יקרים, חלק מהמודלים יוכלו לפעול ישירות על מחשבים אישיים או טלפונים חכמים.

ההשפעה של דיפסיק מורגשת כבר עכשיו: מנייתה של חברת NVIDIA צנחה ב-600 מיליארד דולר, בעוד הביקוש לאפליקציית הצ'אט של דיפסיק מבוססת V3 זינק בצורה חסרת תקדים.

למרות זאת, לא ברור עדיין אם הגישה של דיפסיק תאפשר פיתוח מודלים חזקים יותר, או שתתרכז בעיקר בשיפור היעילות של המודלים הקיימים.

הפוסט דיפסיק משנה את כללי המשחק בעולם ה-AI: מהפכה טכנולוגית בעלות נמוכה הופיע לראשונה ב-Chiportal.

חוקרים פיתחו מסגרת חדשנית בשם Annotatability שמספקת גישה רבת עוצמה להתמודד עם אחד האתגרים המרכזיים במחקר ביולוגי: הבנת האופן שבו רשתות עצביות מלאכותיות לומדות לתייג נתונים גנומיים.

נתונים גנומיים רבים מכילים כמויות עצומות של דוגמאות מתויגות, אך לעיתים קרובות תיוגים אלו שגויים או מעורפלים. בהשראת פריצות דרך עדכניות בתחומי עיבוד שפה טבעית וראייה ממוחשבת, השתמשו החוקרים ברשתות עצביות מלאכותיות (ANNs) בדרך לא שגרתית: במקום להשתמש ברשתות רק לצורך תחזיות, הם בחנו את רמת הקושי שלהן בלמידת תיוגים שונים של דוגמאות ביולוגיות.

בדומה לבחינת הקושי של תלמידים במצבים חינוכיים שונים, החוקרים השתמשו במידע הייחודי הזה כדי לזהות חוסר התאמה בנתוני תיוג תאים, לשפר את הבנת הנתונים ולגלות מסלולים תאיים קריטיים הקשורים להתפתחות ולמחלות. Annotatability מספקת שיטה מדויקת יותר לניתוח נתונים גנומיים ברמת תא יחיד, עם פוטנציאל משמעותי לקידום מחקר ביולוגי ובטווח הארוך לשיפור באבחון ובטיפול במחלות.

המחקר, בהובלת יונתן קרין, רשף מינטז, ד"ר ברק רווה וד"ר מור ניצן מהאוניברסיטה העברית, פורסם בכתב העת Nature Computational Science. המחקר מציע מסגרת חדשה לפרשנות נתוני אומיקס ברמת תא יחיד ובמיקומים מרחביים, באמצעות מעקב אחרי דינמיקת האימון של רשתות נוירונים עמוקות.

נתוני אומיקס ברמת תא יחיד וברמת מיקום מרחבי חוללו מהפכה ביכולתנו לחקור את המגוון התאי ואת התנהגות התאים בבריאות ובמחלות. עם זאת, ניתוח נתונים רב-ממדיים אלו מאתגר, בעיקר בשל הקושי לייחס תיוגים מדויקים וסופיים, כגון סוגי תאים או מצבים, לאוכלוסיות תאים הטרוגניות. תיוגים אלו לעיתים קרובות סובלים מסובייקטיביות, רעש וחוסר שלמות, מה שמקשה על הפקת תובנות משמעותיות מהנתונים.

טכניקות מתקדמות לזיהוי מסלולים תאיים

Annotatability עוזרת לזהות חוסר התאמות בנתוני התיוג ולתאר טוב יותר את המבנים הביולוגיים שבנתונים. באמצעות מעקב אחר דינמיקות וקושי באימון רשת נוירונים עמוקה, המסגרת מזהה אזורים שבהם תיוגי תאים מעורפלים או שגויים. בנוסף, היא מדגישה מצבי ביניים של תאים ואת אופייה הרציף והמורכב של התפתחות תאים.

במסגרת המחקר פותחה שיטת "השקעת גרפים מודעת אותות" (signal-aware graph embedding) שמאפשרת אנליזה מדויקת יותר של אותות ביולוגיים. טכניקה זו מזהה קהילות תאיות הקשורות לאותות יעד ומספקת כלים לחקר הטרוגניות תאית, מסלולי התפתחות ומסלולי מחלה.

המחקר מדגים את היישום של Annotatability על מגוון נתוני RNA מרמת תא יחיד ונתוני אומיקס מרחביים. ממצאים בולטים כוללים זיהוי תיוגים שגויים, אפיון מדויק של מצבים תאיים הקשורים להתפתחות ולמחלות, ושיפור הבנת ההטרוגניות התאית. תוצאות אלו מדגישות את הפוטנציאל של המסגרת לפענוח תהליכים תאיים מורכבים ולקידום ההבנה של בריאות ומחלות ברמת תא יחיד.

עבודת החוקרים מייצגת התקדמות משמעותית בפרשנות נתונים גנומיים ומציעה כלי רב עוצמה לחקר המגוון התאי. הכלים שפותחו עשויים לשפר את היכולת לחקור דינמיקות בריאות ומחלות ולהוות בסיס לשיפורים באבחון מחלות ובטיפול בהן.

למאמר המדעי ב-NATURE

הפוסט שיטה חדשה עוקבת אחר "עקומת הלמידה" של בינה מלאכותית לפענוח נתונים גנומיים מורכבים הופיע לראשונה ב-Chiportal.

המדיה החברתית בסין מוצפת לאחרונה בסרטון אחד ויחיד: רובוט קטן שפורץ בלילה לתערוכת רובוטים, מנהל שיחה קצרה עם תריסר רובוטים, ואז משכנע אותם להתגלגל אחריו ולברוח מהתערוכה.

עד כמה שזה נשמע לא ייאמן, כנראה שהמקרה אמיתי, ויכול ללמד אותנו הרבה על העתיד בעולם בו רובוטים מתקשרים אחד עם השני ומשפיעים זה על זה.

האירוע קרה כבר באוגוסט, בתערוכת רובוטים קטנה בשנחאי. מצלמות האבטחה תיעדו כיצד, בעת לילה ואחרי שהאזור נסגר למבקרים, החלו הרובוטים לדבר. הכל התחיל כשרובוט קטן אחד התגלגל באיטיות לתוך החדר בו הוחזקו שנים-עשר רובוטים מסוגים שונים. הוא בחן אותם בביקורתיות, ואז שאל – 

"האם אתם עובדים שעות נוספות?"

"אני אף פעם לא מפסיק לעבוד." ענה אחד מהם.

"אז אתם לא הולכים הביתה?" חקר הרובוט הקטן.

"אין לי בית." ענה הגדול.

"אז בואו הביתה איתי!" אמר הרובוט הקטן, והחל להתגלגל לכיוון היציאה.

שניים מהרובוטים הגדולים נעו אחריו. הפמליה המוזרה התקדמה לכיוון היציאה, והרובוט הקטן חזר וקרא בקול רם – "לכו הביתה! לכו הביתה!"

באותה נקודה, עשרת הרובוטים האחרים הצטרפו לעדר, וכולם ביחד נמלטו אל מחוץ לטווח הקליטה של מצלמת האבטחה.

התגובה הראשונית וההגיונית ביותר של הצופים בסין הייתה שמדובר בבדיחה. אלא שאז הודו שתי החברות – יצרנית הרובוט הקטן, ויצרנית הרובוטים הגדולים – שזה מאורע אמיתי לגמרי. בערך. החברה שייצרה את הרובוט החוטף, וידאה קודם שיצרנית הרובוטים הגדולים מוכנה לאפשר לרובוטים שלה להיחטף. הרובוט הקטן קיבל אישור לחדור לתוך התערוכה, עם הנחיה ברורה אחת: לשכנע את הרובוטים האחרים לבוא אחריו. מאותה נקודה ואילך, דבר לא היה מבוים בסרטון.

איך בדיוק שכנע הרובוט הקטן את הגדולים להצטרף אליו? יש שתי תשובות לשאלה, אחת מהן קצת מפחידה, והשנייה יותר. 

התשובה הראשונה, לפי חברת הרובוטים עצמה, היא שהוא "קיבל איכשהו גישה לפרוטוקולי ההפעלה הפנימיים של הרובוטים ולהרשאות הרלוונטיות". בתרגום לשפת בני-אדם, אני מניח שהם מתכוונים שהאקרים אנושיים גילו פרצת אבטחה כלשהי ברובוטים, ואז הנחו את הרובוט הקטן להשתמש בפרצה כדי לשלוט בגדולים. אם זה נכון, הרי שמדובר בתרגיל יח"ץ חביב, אבל לא הרבה יותר מזה. וכל הדיבורים של הרובוט הקטן על "לכו הביתה" ועל "שעות נוספות"? מדובר רק בצבע וצלצולים שנועדו להפוך את העניין לוויראלי ברשת החברתית. כפי שאכן קרה.

התשובה השנייה היא שהרובוט הקטן פשוט שכנע, מילולית, את הרובוטים הגדולים לבוא איתו. מכיוון שהרובוטים מצייתים לפקודות הקוליות שהם מקבלים, הם הניחו אוטומטית שהפקודה מתקבלת מבן-אדם, והתייחסו אליה בהתאם.

התשובה הזאת אינה סבירה כל כך, בעיקר מכיוון שהחברות כבר הודו שמדובר בפריצה "דרך פרוטוקולים". אבל היא תהיה מאד רלוונטית בקרוב בכל אינטראקציה בין רובוטים. אנחנו יודעים כבר שמודלי שפה גדולים יכולים לדבר זה עם זה ולהשפיע אחד על השני. מכיוון שהרובוטים המשוכללים של היום חמושים במודלי שפה גדולים שמגיבה לדיבור, נראה מאד הגיוני לצפות לכך שהם יוכלו להעביר אחד לשני הוראות והסברים. וכן, רובוטים קטנים יוכלו גם לשכנע רובוטים גדולים בכל מה שירצו.

המדוזות שהרסו את התחנה הגרעינית

לפני שלוש שנים התפרסם ב- "מגזין של מדעני האטום" מאמר עם כותרת יוצאת-דופן: "מדוזות תוקפות תחנת כוח גרעינית. שוב."

וכן, גם כאן מדובר במגזין רציני לגמרי, ובמאמר של עיתונאית מוערכת. זהו מקרה אמיתי בו מספר גדול של מדוזות חסמו את צינורות הקירור התת-ימיים של תחנת הכוח הגרעינית היחידה בסקוטלנד. תחנת הכוח, שלא קיבלה את מי הים הקרירים שלה, החלה להתחמם – והמערכות נכבו לפני שאירע אסון.

הציבור כבר מכיר היטב את המונח "ברבור שחור", שמתייחס לאירוע שלא צפינו מראש. בזכות מקרים כמו אלו, נטבע מונח מקביל – "המדוזות השחורות". מדוזה אחת בפני עצמה לא הייתה יכולה לגרום נזק משמעותי לתחנת הכוח. גם אלף מדוזות לא היו מטרידות את מנוחתה. אבל מיליון מדוזות? זה כבר עניין שונה לגמרי.

תאונות שרשרת של רכבים מהוות גם הן תרחיש "מדוזות שחורות". מכונית אחת לא יכולה לבצע תאונת שרשרת. גם אלף מכוניות, כשהן מפוזרות בכל רחבי ארצות הברית, אינן מסוגלות לכך. אבל כשמאות-מיליוני מכוניות נוסעות בצפיפות על הכבישים, תאונות שרשרת הופכות להיות בלתי-נמנעות.

וכך גם תאונות שרשרת של רובוטים.

קרוב לוודאי שבעשור הקרוב, כאשר מספר הולך וגדל של רובוטים יגיע לכבישים, לרחובות, לקניונים ולבתים, נחווה תרחיש "רובוטים שחורים". רובוטים ידברו זה עם זה, יחליפו פרטים על בעליהם בצורה שפוגעת בפרטיותם, או אפילו ישכנעו אחד את השני לבצע פעולות שלא היו אמורים לעשות. ברוב מכריע של המקרים, לא תהיה מעורבת כוונת זדון מצד מפעילי הרובוטים. בחלקם הקטן, בוודאי אפשר יהיה למצוא פושע מתוחכם במיוחד שיחליט להשתמש ברובוט כדרך להשפיע על רובוטים אחרים. אולי כדי שיפתחו את שערי הקניון עבורו בעת לילה, או לכל צורך נכלולי אחר.

התרחיש המעניין ביותר – ואולי גם המפחיד ביותר – הוא זה בו רובוט אחד מצליח להפיץ רעיון שמתרבה בעצמו. כלומר, שהרובוט ששומע את אותו רעיון, מקבל החלטה להעביר אותו הלאה בעצמו לרובוטים אחרים. זה נשמע כמו מדע בדיוני, אבל בתקופה בה בינות מלאכותיות מסוגלות לדבר כמו בני-אדם ולקבל החלטות (מטופשות) כמו בני-אדם, מעטות ההשלכות שאפשר לשלול על הסף.

כל זה לא אומר שדיננו נחרץ, ושאפוקליפסת הרובוטים בדרך. ישנן דרכים – טובות יותר ופחות – לשלוט על בינות מלאכותיות, כדי לוודא שאינן יוצאות משליטה. כאשר הרובוט הקטן של העתיד ינסה לשכנע את הרובוטים הגדולים ללכת אחריו, הם בוודאי יפעלו כמו בני-אדם: יבקשו ממנו להציג תעודה, להגיד להם את הסיסמא הסודית, ולחתום על אישור בשלושה עותקים שהוא אחראי לכל פעולה שלהם מכאן ואילך.

נכון, זה כבר סרטון הרבה-פחות ויראלי, אבל לפחות הוא ימנע מהרובוטים לברוח מתערוכות בעתיד, בזמן שהם מתלוננים בקול רם שהם לא מקבלים שכר על שעות נוספות.

הפוסט הרובוט ששכנע רובוטים אחרים להימלט מהתערוכה הופיע לראשונה ב-Chiportal.

חברת TSMC חשפה את טכנולוגיית הטרנזיסטורים החדשה שלה בכנס הבינלאומי להתקני אלקטרוניקה (IEDM) שנערך בסן פרנסיסקו. מדובר בטכנולוגיית N2, או 2 ננומטר, שמציינת את המעבר הראשון של החברה לארכיטקטורה חדשה של טרנזיסטורים הנקראת נאנושיט (gate-all-around).

שיפור ביצועים והגדלת צפיפות

על פי TSMC, הטכנולוגיה החדשה מציעה שיפור של עד 15% במהירות או חיסכון של עד 30% בצריכת האנרגיה בהשוואה לטכנולוגיית N3 הקיימת, עם עלייה בצפיפות של כ-15%. "N2 היא פרי עבודה של יותר מארבע שנים," אמר ג'פרי יאפ, סגן נשיא למו"פ ב-TSMC.

טרנזיסטורי FinFET, המוכרים כיום, בנויים על סנפיר סיליקון אנכי. טרנזיסטורי נאנושיט, לעומת זאת, מורכבים מערימות של רצועות סיליקון צרות, מה שמאפשר שליטה טובה יותר בזרימת הזרם ואפשרויות עיצוב רחבות יותר.

טכנולוגיית Nanoflex של TSMC מאפשרת ייצור תאי לוגיקה מגוונים עם רוחבי נאנושיטים שונים על אותו שבב, דבר המספק גמישות עצומה בתכנון. לדוגמה, תאי לוגיקה צרים יכולים לשמש ללוגיקה כללית, בעוד תאים רחבים יותר יתאימו לליבות מעבד מהירות יותר.

פריצת דרך בזיכרון SRAM

אחד ההישגים המרכזיים של הטכנולוגיה החדשה הוא בשיפור בצפיפות תאי זיכרון SRAM, שהגיעו ל-38 מגהביט למילימטר רבוע – עלייה של 11% לעומת הדור הקודם. "SRAM קוצר את היתרונות המובנים של gate-all-around," ציין יאפ.

אינטל בוחנת את גבולות ה-Nanosheet

במקביל, אינטל הציגה בכנס כיצד ניתן להמשיך ולמזער את טרנזיסטורי הנאנושיט. אשיש אגרוואל מקבוצת המחקר של אינטל טען כי "נאנושיט היא חזית האחרונה של ארכיטקטורת הטרנזיסטורים," וכי מכשירים עתידיים כמו CFET שיגיעו באמצע שנות ה-2030 יהיו מבוססים על נאנושיטים.

אינטל הדגימה כי ניתן להקטין את אורך השער של הטרנזיסטור ל-6 ננומטר בלבד, באמצעות עיבוי רצועות הסיליקון ושימוש בחומרים חדשים. למרות זאת, המחקר מצביע על כך שהצורך להחליף את הסיליקון בחומרים דו-ממדיים, כמו מוליבדן דיסולפיד, עדיין רחוק.

הפוסט TSMC חושפת טרנזיסטורים בטכנולוגיית Nanosheet ואינטל מציגה את גבולות הקצה של התקנים אלה הופיע לראשונה ב-Chiportal.

כידוע אחת הבעיות המתלוות למהפכת הבינה המלאכותית הינה צריכת החשמל האדירה של האלגוריתמים הן בעת האימון והן בעת התפעול. כעת חוקרים מ- MIT פיתחו אלגוריתם חדשני ללמידת חיזוק שמעצים את היכולת של AI לקבל החלטות במצבים מורכבים. האלגוריתם מתמקד בבחירת משימות אופטימליות לאימון, ומספק שיפור ביצועים משמעותי עם נתונים מינימליים – עד פי 50 ביעילות.

אלגוריתם זה לא רק חוסך זמן ומשאבים, אלא גם מציג אופקים חדשים ליישומי AI יעילים במצבים בעולם האמיתי, כמו בקרת תנועה, ייעול תחבורה, ומערכות ניידות מתקדמות.

אתגרים בלמידת חיזוק

מערכות AI מבוססות למידת חיזוק מתמודדות עם קושי משמעותי כאשר המשימות משתנות. לדוגמה, בבקרת תנועה עירונית, המודל עלול להיכשל בניהול צמתים שונים בעלי הגדרות מהירות, מבני נתיבים ודפוסי תנועה משתנים.

כדי להתמודד עם אתגר זה, החוקרים פיתחו אלגוריתם חדשני שמייעל את אימון ה-AI באמצעות בחירה אסטרטגית של משימות.

גישה אסטרטגית לבחירת משימות

האלגוריתם מבצע בחירה אסטרטגית של המשימות האפקטיביות ביותר לאימון סוכני AI, כדי לשפר את הביצועים הכוללים על כל קבוצת המשימות.

לדוגמה, בבקרת תנועה עירונית, כל משימה עשויה לייצג צומת יחיד מתוך המרחב העירוני. האלגוריתם מתמקד בצמתים בעלי תרומה משמעותית לביצועים הכוללים, ובכך ממקסם את האפקטיביות תוך שמירה על עלויות אימון נמוכות.

חדשנות באלגוריתם  MBTL

חוקרי MIT פיתחו אלגוריתם בשםModel-Based Transfer Learning (MBTL) , שמאפשר לבחור משימות בעלות הערך הגבוה ביותר לשיפור ביצועים.

האלגוריתם מודד שני פרמטרים מרכזיים:

1. ביצועי האלגוריתם אם היה מאומן במשימה בודדת.
2. ירידת הביצועים כאשר האלגוריתם מוחל על משימות אחרות, מושג הידוע בשם "ביצועי הכללה " (Generalization Performance)

על-ידי התמקדות במשימות המבטיחות את שיפור הביצועים הגבוה ביותר, MBTL משפר משמעותית את יעילות תהליך האימון.

השלכות על עתיד הבינה המלאכותית

במבחנים על משימות מדומות, כגון בקרת תנועה, ייעוץ מהירות בזמן אמת ומשימות קלאסיות אחרות, האלגוריתם הראה יעילות גבוהה פי 5 עד פי 50 משיטות אחרות.

לדוגמה, בעזרת MBTL ניתן לאמן אלגוריתם על שתי משימות בלבד ולהשיג את אותם ביצועים כמו שיטה סטנדרטית שמשתמשת בנתונים מ-100 משימות.

לדברי פרופ' קתי וו, מובילת המחקר:

"הגישה שלנו מראה שייתכן שלא צריך את כל המידע מכל המשימות. למעשה, אימון על כולן עשוי להיות מבלבל לאלגוריתם ולהוביל לביצועים נמוכים יותר."

בעתיד, מתכננים החוקרים ליישם את MBTL על בעיות מורכבות יותר, כולל מרחבי משימות מרובי-ממדים, ולקדם את השימוש בגישה זו ביישומים בעולם האמיתי, במיוחד במערכות ניידות מתקדמות.

למאמר המדעי

הפוסט שחרור הפוטנציאל של הבינה המלאכותית: אלגוריתם חדש שפותח ב-MIT משפר יעילות אימון רשתות נוירונים פי 50 הופיע לראשונה ב-Chiportal.

מחקר חדש של אוניברסיטת תל אביב מצא כי הטלפונים הסלולריים החכמים שנמצאים ברשות כל אחד מאתנו עשויים לסייע באיסוף נתוני מזג אוויר (מהציבור) ובמתן התראות מוקדמות על תנאי מזג אוויר קיצוניים שבעקבותם עלולות לפרוץ שריפות, ואף למנוע את התפתחותן.

החוקרים מסבירים כי בכל טלפון סלולרי חכם ישנם חיישנים רבים היכולים לאסוף נתוני סביבה חשובים, כגון טמפרטורה, לחץ ברומטרי, לחות, שדה מגנטי, אור, קול, מיקום, תאוצה, כבידה ועוד. הנתונים הללו עוזרים לנו לנווט במרחב, לקבוע המיקום שלנו, להתריע על התחממות הסוללה ולחות במכשיר, והנתונים עוזרים לנו בזמן אמת, ללא שמירה.  החוקרים הראו ששימוש חכם של הנתונים שלנו מהטלפונים החכמים עשויה לעזור במערכות התראה מוקדמת לאירועי שריפות יער.. במיוחד שיש אלפי, אם לא מיליוני, נתונים שנאספים במדינות שונות בעולם. מערכות התרעה מוקדמת שכאלו זקוקות לנתונים שבדרך כלל אינם זמינים באזורים מיוערים מרוחקים בגלל חוסר בתחנות מדידה. אולם, הציבור נושא בכיסיו טלפונים סלולריים חכמים ובכל אחד מהמכשירים הללו מיקרו-חיישנים מתוחכמים במיוחד. החיישנים פועלים ברקע באופן רציף ואת הנתונים המתקבלים מהם ניתן לאסוף ולשמור. כבר היום חברות רבות אוספות את הנתונים הללו ומשתמשות בהם לצרכים שונים, באישור המשתמשים. החוקרים סבורים שמקור הנתונים העצום הזה (נכון ל2024 ישנם למעלה מ-7 מיליארד טלפונים סלולריים חכמים ברחבי העולם) עשוי לסייע בנושא חיזוי מזג אוויר קיצוני.

פרופ' קולין פרייס ותלמידת הדוקטורט חופית שחף מהחוג לגיאופיזיקה בבית הספר פורטר לסביבה ומדעי כדור הארץ באוניברסיטת תל אביב, השתמשו בנתונים שנאספו מהציבור דרך אפליקציית מזג האוויר WeatherSignal   ((Opensignal  על מנת לפתח מתודולוגיה להערכת הסיכון לשריפות יער, המבוססת אך ורק על נתוני טלפונים סלולריים חכמים שנאספו מהציבור. תוצאות המחקר פורסמו לאחרונה בכתב העת Natural Hazards Earth System Sciences.

אחד הפרמטרים המרכזיים שקובעים את הסבירות לשריפת יער הוא כמות הלחות בצמחייה (שהיא בעצם הדלק לשריפה), וזו נקבעת על ידי טמפרטורת האוויר והלחות היחסית של האוויר סביב הצמחייה. שני פרמטרים אלו זמינים בקלות מטלפונים סלולריים חכמים שנמצאים בידי הציבור.

חופית שחף מסבירה: "פיתחנו מדד שמתבסס על VPD  ((vapor pressure deficit או גרעון לחץ אדים, שמשקף למעשה את הקשר בין הסביבה (טמפרטורה ולחות) לבין היובש בצמחים. ככל שהתנאים האטמוספריים הופכים חמים ויבשים יותר, הסביבה מושכת יותר לחות מהצמחים, מה שמקל על הצתת שריפות. כשאוויר קריר ולח יותר, שריפות אינן יכולות להתלקח. אפשר לראות יותר ויותר מחקרים המשתמשים ב- VPD לניבוי רמת הסכנה לשריפות יער, אם כי הוא מחושב בדרך כלל באמצעות נתונים הנלקחים מתחנות מזג אוויר מקומיות. החידוש במחקר שלנו הוא השימוש בנתונים שנאספו ממשתמשי טלפונים סלולריים חכמים, ללא השתתפות פעילה שלהם, לחישוב VPD על פני שטחים נרחבים, ומספק תובנות חשובות להערכת הסיכון לשריפות."

עם זאת, לנתוני הטלפונים סלולריים חכמים יש שגיאות. ייתכן שהטמפרטורה תשקף את המזגן במשרד, בעוד שחיישני הלחות עשויים לזהות את הלחות באמבטיה במהלך מקלחת. לכן היה צורך לכייל תחילה את נתוני הסלולריים באמצעות תחנות מטאורולוגיות מסחריות. התברר שהכיולים היו פשוטים למדי, והיה צורך לבצע אותם רק פעם אחת כדי לתקן את קריאות הסלולריים. לאחר כיול הנתונים או "אימונם", החוקרים התמקדו בניתוח שני מקרי מבחן משמעותיים של שריפות יער: הראשון הוא אירועי השריפות בישראל בנובמבר 2016, השני הוא שריפת הענק בפורטוגל שהתרחשה ביולי 2013. התוצאות היו מפתיעות, שכן נתוני הטלפונים סלולריים חכמים שנאספו מהציבור הראו אנומליות משמעותיות במדד VPD לפני ובמהלך השריפות הגדולות שנצפו.

חופית שחף מוסיפה: "מפתיע, אך למרות שלכל סלולרי יש שגיאות והטיות משלו, באמצעות כמויות גדולות של נתונים ממספר רב של טלפונים סלולריים חכמים אנו יכולים למצע את השגיאות ועדיין להישאר עם נתונים שימושיים. כמות הנתונים הגדולה מתגברת על הבעיות הקשורות לטלפונים סלולריים חכמים בודדים."

כיסוי הטלפונים הסלולריים החכמים העולמי גדל בכ-30% בחמש השנים האחרונות. ככל שצפיפותם העולמית תמשיך לגדול, נתונים שנאספים מסלולריים עשויים להציע בסופו של דבר רזולוציה מרחבית טובה יותר מאשר רשתות מטאורולוגיות מסורתיות. זה נכון במיוחד באזורים עירוניים שבהם אסונות טבע כמו שריפות יכולה להיות השפעה משמעותית. בנוסף, במדינות עם הכנסה נמוכה קיים מחסור בתשתיות מטאורולוגיות, וכך טלפונים סלולריים חכמים עשויים לספק נתונים שימושיים למעקב אחר תנאי מזג אוויר קיצוניים. פרייס מסכם: "בהתחשב בגידול המהיר במספר הטלפונים הסלולריים החכמים ברחבי העולם, אנו מציעים לנצל את מקור הנתונים הזה כדי לספק התרעה מוקדמת טובה יותר לציבור ולמנהלי חירום על אסונות טבע מתקרבים. התרעה מוקדמת טובה יותר יכולה למנוע מסכנות טבע להפוך לאסונות טבע."

הפוסט כיצד יכולים הטלפונים הניידים להתריע מפני שריפות יער ותנאי מזג אויר קיצוניים הופיע לראשונה ב-Chiportal.