קוואלקום הודיעה כי תרכוש את חברת תוכנת הבינה המלאכותית Modular בעסקת מניות המוערכת בכ־3.92 מיליארד דולר. במסגרת העסקה תנפיק קוואלקום עד 19.2 מיליון מניות חדשות לבעלי המניות של Modular. השלמת הרכישה צפויה במחצית השנייה של 2026, בכפוף לקבלת האישורים הרגולטוריים הנדרשים.

הרכישה אינה מוסיפה לקוואלקום רק צוות נוסף של מהנדסים, אלא שכבת תוכנה שנועדה להתמודד עם אחת הבעיות המרכזיות בשוק מאיצי הבינה המלאכותית: הקושי להעביר מודלים ויישומים בין ארכיטקטורות חומרה שונות.

המערכת של Modular מאפשרת למפתחים להפעיל מודלים על מעבדים מרכזיים, מעבדים גרפיים, מעבדים עצביים ושבבים ייעודיים, בלי לכתוב מחדש חלקים נרחבים מהתוכנה עבור כל רכיב. החברה מנסה למצב את עצמה כשכבת תוכנה אופקית, שאינה תלויה ביצרן חומרה יחיד ויכולה לפעול על שבבים של אנבידיה, AMD וספקים נוספים.

האתגר האמיתי נמצא בתוכנה

הרכישה מדגישה כי התחרות בשוק שבבי הבינה המלאכותית אינה מתנהלת רק סביב מספר הליבות, רוחב הפס לזיכרון או ביצועי החישוב. אחד מיתרונותיה המרכזיים של אנבידיה הוא סביבת CUDA, הכוללת כלי פיתוח, ספריות תוכנה ותשתיות שעברו התאמה במשך שנים למעבדים הגרפיים של החברה.

השימוש הנרחב ב־CUDA מקשה על לקוחות לעבור למאיצים מתחרים, גם כאשר אלה מציעים מחיר נמוך יותר או יעילות אנרגטית גבוהה יותר. מעבר לחומרה חדשה מחייב לעיתים התאמות תוכנה, בדיקות ביצועים ושינויים בתהליכי ההפעלה של המודלים.

Modular מבקשת לצמצם את התלות הזאת באמצעות שכבת תוכנה המפרידה בין מודל הבינה המלאכותית לבין המעבד שעליו הוא מופעל. מבחינת קוואלקום, רכישת החברה עשויה לספק לה את החלק החסר באסטרטגיית מרכזי הנתונים: סביבת תוכנה שתאפשר ללקוחות להשתמש במאיציה בלי לוותר על יכולת להעביר עומסי עבודה בין פלטפורמות שונות.

לדברי מנכ"ל קוואלקום, כריסטיאנו אמון, התרחבות הבינה המלאכותית הסוכנת במרכזי נתונים ובמערכות קצה מובילה לשימוש בארכיטקטורות מבוזרות המשלבות מוצרים של כמה ספקים. לדבריו, מערכות כאלה דורשות תשתית תוכנה פתוחה ומודרנית יותר, המאפשרת ללקוחות לבחור היכן וכיצד להפעיל את היישומים שלהם.

מפיתוח שפת Swift לתשתיות AI

Modular הוקמה בשנת 2022 בידי כריס לאטנר וטים דייוויס. לאטנר מוכר בתעשייה כאחד ממפתחי תשתית המהדרים LLVM וכיוצר שפת התכנות Swift של אפל. בהמשך מילא תפקידים בטסלה ובגוגל, שם עסק גם בתשתיות תוכנה עבור מעבדי הבינה המלאכותית TPU.

החברה פיתחה סביבת תוכנה לביצוע היסק – הפעלת מודלים שכבר אומנו – וכן את שפת Mojo, שנועדה לשלב תחביר הדומה ל־Python עם ביצועים והתאמה לעבודה קרובה יותר לחומרה. לפי דיווחים, כ־150 עובדי Modular, ובהם שני המייסדים, צפויים להצטרף לקוואלקום עם השלמת העסקה.

ההתמקדות בהיסק משמעותית במיוחד. בשלב הראשון של פריחת הבינה המלאכותית הושקע חלק גדול מההון באימון מודלים גדולים. ככל שמספר המודלים והמשתמשים גדל, מרכז הכובד עובר בהדרגה לעלות הפעלת המודלים: צריכת החשמל, ניצול הזיכרון, זמני התגובה ומספר הבקשות שכל שרת מסוגל לעבד.

שכבת תוכנה המאפשרת לבצע אופטימיזציה של ההיסק על סוגים שונים של חומרה עשויה להקל על מפעילי ענן וחברות גדולות לשלב מאיצים מתחרים לצד מעבדי אנבידיה.

קוואלקום מחפשת צמיחה מעבר לטלפונים

שבבים לטלפונים חכמים עדיין מהווים חלק מרכזי מפעילותה של קוואלקום, אך החברה מנסה להרחיב את נוכחותה במחשבים אישיים, במכוניות, במערכות קצה ובמרכזי נתונים.

בתחום האחרון היא מתמודדת לא רק עם אנבידיה, אלא גם עם AMD, אינטל וספקיות הענן הגדולות המפתחות מאיצים ושבבים ייעודיים בעצמן. קוואלקום מתכננת להתחיל לספק מעבדי ומאיצי בינה מלאכותית למרכזי נתונים, והרכישה נועדה לחזק את יכולתה לספק לצד החומרה גם סביבת פריסה וניהול של מודלים.

עם זאת, רכישת Modular אינה מבטיחה שקוואלקום תוכל לשחזר במהירות את האקוסיסטם שבנתה אנבידיה. CUDA נהנית מבסיס גדול של מפתחים, מספריות שעברו אופטימיזציה למגוון יישומים ומקשרים עמוקים עם ספקיות ענן, חברות תוכנה ומוסדות מחקר.

בנוסף, קוואלקום תצטרך לאזן בין שאיפתה להפוך את Modular לפלטפורמה ניטרלית התומכת בשבבים של ספקים רבים לבין הרצון להשתמש בה כדי לקדם את מוצריה שלה. הצלחת העסקה תיבחן בשאלה האם מפתחים ולקוחות ימשיכו לראות בפלטפורמה שכבה עצמאית – ולא כלי שנועד בעיקר להכניס אותם לסביבת החומרה של קוואלקום.

אם תצליח בכך, הרכישה עשויה לאפשר לקוואלקום להתחרות בשוק הבינה המלאכותית לא רק באמצעות שבבים חדשים, אלא גם בנקודה שבה חלק גדול מהיתרון התחרותי נוצר כיום: הקשר שבין התוכנה לחומרה.

הפוסט קוואלקום רוכשת את Modular בכ־3.9 מיליארד דולר ומכוונת לחומת התוכנה של אנבידיה הופיע לראשונה ב-Chiportal.

תעשיית השבבים משקיעה משאבים עצומים בהגדלת כוח החישוב הזמין לבינה מלאכותית: מאיצים חזקים יותר, זיכרונות מהירים, רשתות תקשורת למרכזי נתונים, מערכות קירור וארכיטקטורות המאפשרות לחבר עשרות אלפי מעבדים למודל אחד.

אולם מדען המחשבים פיטר ג'יי דנינג טוען כי הגדלת התשתית החומרתית והיקף המודלים לא תוביל בהכרח לבינה מלאכותית כללית ברמה אנושית.

בספר חדש הוא מציג טענה שלפיה המחקר בתחום פועל במשך יותר מ־75 שנה על בסיס פרשנות מוטעית של הצעת אלן טיורינג. טיורינג הציע בשנת 1950 לבחון אם מכונה יכולה להציג בשיחה התנהגות שאינה ניתנת להבחנה מזו של אדם. מבחן זה, שנודע לימים כמבחן טיורינג, הפך לאחת מנקודות הייחוס המרכזיות בדיון על מכונות חושבות.

לדברי דנינג, יכולתה של מערכת לחקות שיחה אנושית אינה מוכיחה שהיא מבינה את המילים שבהן היא משתמשת. הוא טוען כי אינטליגנציה אנושית אינה תוכנה בלבד, אלא תוצר של גוף ביולוגי, ניסיון מצטבר, קשרים חברתיים, רגשות, הקשר ותרבות.

מדובר בתזה המוצגת בספר ולא בממצא ניסויי שעבר ביקורת עמיתים. חוקרים וחברות בתעשיית הבינה המלאכותית עשויים לחלוק עליה, במיוחד לנוכח השיפור המהיר ביכולותיהם של מודלים גדולים. עם זאת, הטיעון מציב שאלה מהותית בפני תעשיית החומרה: האם הבעיה בדרך ל־AGI היא בעיקר מחסור בכוח חישוב, או שמדובר במחסום מסוג אחר לחלוטין?

הגדלת המודל אינה בהכרח הגדלת ההבנה

בלב טיעונו של דנינג נמצא "ידע סמוי" – ידע שבני אדם משתמשים בו, אך אינם מסוגלים להפוך לסדרה מלאה של מילים, סמלים או הוראות.

הידע הזה כולל שכל ישר, מיומנויות גופניות, אינטואיציה, הבנת התנהגות של אחרים, נורמות חברתיות, תרבות והיסטוריה משותפת. אנשים יודעים לזהות מתי אמירה היא סרקסטית, מתי נדרש טקט ומתי אפשר להתבדח, אף שבדרך כלל אינם מחשבים במודע את כל הכללים שהובילו אותם למסקנה.

מערכת מחשב, לעומת זאת, יכולה לעבד רק מידע שיוצג לה בצורה הניתנת לקידוד. דנינג מכנה זאת "בעיית הייצוג": כל נתון והוראה חייבים להיות מיוצגים בצורה פיזית שהמעבד מסוגל לזהות, לאחסן ולשנות.

ידע סמוי אינו בהכרח קיים בצורה כזו. אפשר לתעד את התוצאה של מיומנות, אך לא תמיד את הידע הגופני והתחושתי המאפשר לבצע אותה. כנר, למשל, יכול להדגים נגינה מעולה, אך אינו מסוגל להעביר לתלמיד את מלוא המיומנות באמצעות רשימת הוראות.

מנקודת המבט של תעשיית השבבים, משמעות הטענה היא כי יותר טרנזיסטורים, יותר זיכרון ורוחב פס גדול יותר יכולים לשפר את מהירות המודל, את גודלו ואת מספר המשימות שהוא מבצע – אך אינם מבטיחים מעבר מחיקוי מוצלח להבנה אנושית.

גם רובוט אינו בהכרח פותר את בעיית הגוף

חלק מחוקרי הבינה המלאכותית מנסים להתמודד עם מגבלת הטקסט באמצעות בינה מלאכותית מגולמת: רובוטים ומערכות אוטונומיות הלומדים באמצעות מצלמות, חיישני מגע, מיקרופונים ותנועה בעולם הפיזי.

מגמה זו צפויה להגדיל את הביקוש לשבבי קצה, מעבדי ראייה, חיישנים, מערכות זמן אמת ומאיצים חסכוניים באנרגיה. היא עשויה לאפשר למכונות ללמוד קשרים בין פעולה לתוצאה ולא רק לנתח מאגרי טקסט.

אולם דנינג טוען כי גם גוף רובוטי אינו זהה לגוף ביולוגי. רובוט יכול לצפות בביצוע, לאסוף נתוני חיישנים ולחקות תנועה, אך אין פירוש הדבר שהוא חווה את התחושות, הרגשות והמשמעויות שבני אדם מייחסים לפעולה.

הפער הזה חשוב במיוחד במערכות הפועלות לצד בני אדם. מכונית אוטונומית, רובוט תעשייתי, מערכת רפואית או סוכן תוכנה עשויים להצליח ברוב המצבים שנכללו באימון – ועדיין להיכשל במצב חריג שבו נדרש ידע הקשרי שלא הוגדר מראש.

הסכנה המעשית אינה מחייבת מחשב־על תבוני

דנינג אינו טוען כי כישלון אפשרי בהשגת AGI מבטל את הסיכונים של הבינה המלאכותית. לדבריו, מערכות שאינן מבינות את העולם כמו בני אדם עדיין יכולות להיות מהירות, אוטונומיות ובעלות השפעה רחבה.

רשתות של סוכני בינה מלאכותית עשויות לבצע משימות, לקבל החלטות ולתקשר זו עם זו ללא פיקוח רציף. הן אינן חייבות להיות בעלות תודעה או תבונה כללית כדי לגרום לשיבושים פיננסיים, להפיץ מידע שגוי, להפעיל מערכות באופן בלתי צפוי או לקבל החלטות שאינן מתיישבות עם מטרות המשתמשים.

לדברי דנינג, יישור מערכות בינה מלאכותית עם ערכים אנושיים נותר קשה משום שחלק מן הכוונות, הנורמות וההקשרים האנושיים כלל אינם מנוסחים. מערכת יכולה לציית להוראה המילולית ועדיין להחמיץ את מטרתה האמיתית.

לתעשיית השבבים אין מכאן מסקנה שלפיה הביקוש לחומרת AI עומד להיעלם. גם ללא AGI, מודלים ייעודיים, מערכות סוכניות, רובוטיקה, עיבוד שפה, תכנון שבבים, רפואה ומערכות אוטונומיות צפויים לדרוש כוח חישוב משמעותי.

אולם הטענה של דנינג מערערת על ההנחה שכמות החישוב היא המדד המרכזי להתקדמות לעבר אינטליגנציה אנושית. ייתכן שתעשיית החומרה תמשיך לשפר במהירות את ביצועי המכונות – בלי שהמכונות יתקרבו באותה מידה להבנה, משמעות או שיקול דעת אנושי.

הפוסט האם עוד שבבים וכוח חישוב יספיקו לבינה מלאכותית כללית? מדען מחשבים טוען שלא הופיע לראשונה ב-Chiportal.

חברת ה־IP לשבבים סיוה (Ceva) הודיעה כי חברת תוכנה ופלטפורמת בינה מלאכותית אמריקנית גדולה, ששמה לא נמסר, בחרה בארכיטקטורת NeuPro-M שלה כבסיס למאיץ עצבי — NPU — בשבב AI מותאם אישית. השבב מיועד לדור הבא של התקני מחשוב חכמים, שבהם יופעלו מודלים של בינה מלאכותית ישירות במכשיר. (Ceva)

לפי סיוה, הלקוחה שולטת הן במערכת ההפעלה והן בפלטפורמת החומרה, ולכן מבקשת לבצע אופטימיזציה משותפת של כל המערכת — ממערכת ההפעלה והתוכנה ועד למאיץ ה־AI בשבב. NeuPro-M מיועד להרצת בינה מלאכותית יוצרת, מודלים רב־אופניים ויישומי AI סוכנית, תוך מגבלות הספק, שטח סיליקון ופיזור חום של התקני קצה.

מנכ"ל סיוה, אמיר פנוש, הגדיר את ההסכם כאחת מעסקאות רישוי ה־AI החשובות מבחינה אסטרטגית בתולדות החברה. חשיבות נוספת היא שהלקוח אינו יצרן שבבים מסורתי, אלא חברת תוכנה ו־AI שנכנסת לתכנון שבבים ייעודיים — מגמה המזוהה עם חברות כמו גוגל, מיקרוסופט, אמזון ומטא, אף שאין כרגע בסיס לזהות מי מהן היא הלקוחה.

הפוסט סיוה זכתה בעסקת רישוי לפיתוח שבב AI מותאם לחברת תוכנה אמריקנית גדולה הופיע לראשונה ב-Chiportal.

המעבר מצ'אטבוטים המשיבים על שאלה יחידה לסוכני בינה מלאכותית שמפרקים משימות לשלבים, מפעילים כלי תוכנה ובודקים את תוצאותיהם עלול להגדיל מאוד את צריכת האנרגיה ואת עלויות התשתית. מחקר של המכון המתקדם למדע וטכנולוגיה של קוריאה, KAIST, מצא כי משימה המבוצעת באמצעות סוכן AI עשויה לצרוך עד פי 136.5 יותר אנרגיה משאילתת בינה מלאכותית גנרטיבית רגילה.

המחקר, שהוצג בסימפוזיון IEEE הבינלאומי לארכיטקטורת מחשבים בעלי ביצועים גבוהים, HPCA 2026, ניתח את התנהגותם של סוכני AI מנקודת המבט של מרכז הנתונים. החוקרים מדדו את מספר הפניות למודל השפה, זמני ההמתנה, ניצולת המעבדים הגרפיים וצריכת החשמל של כמה שיטות לביצוע משימות מורכבות. המאמר פורסם גם כהדפסה מקדימה תחת הכותרת The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective. (arXiv)

לא שאילתה אחת אלא שרשרת של הפעלות

בשירות בינה מלאכותית רגיל, המשתמש שולח בקשה ומודל השפה מייצר תשובה. סוכן AI פועל בצורה מורכבת יותר: הוא מתכנן את המשימה, מנסח בקשות משנה, מפעיל חיפוש, מחשבון או סביבת קוד, בוחן את התוצאה ולעיתים חוזר על התהליך.

כל שלב כזה עשוי לדרוש קריאה נוספת למודל השפה. מספר הפעלות המודל אינו בהכרח ידוע מראש, משום שהוא תלוי בתוצאות הביניים ובהחלטות שמקבל הסוכן במהלך המשימה.

החוקרים מכנים התנהגות זו "היגיון דינמי". בניגוד להסקה בעלת מסלול קבוע יחסית, הסוכן יוצר בזמן הביצוע גרף משתנה של פעולות חישוב, תקשורת והמתנה לכלים חיצוניים.

התוצאה היא עומס עבודה שונה מזה שעבורו תוכננו רבים ממרכזי הנתונים הנוכחיים. הביצוע אינו רצף רציף של פעולות על ה־GPU, אלא מעבר תכוף בין חישוב במודל השפה, פעילות של מעבד מרכזי, גישה לרשת, חיפוש במאגרי מידע והפעלת תוכנות.

עד פי 153.7 בזמן התגובה

לפי המחקר, ריבוי הפניות למודל וההמתנה לכלים חיצוניים עשויים להאריך את זמן התגובה עד פי 153.7 בהשוואה להסקה רגילה המבוססת על שרשרת חשיבה.

במהלך ההמתנה, המעבד הגרפי שהוקצה לבקשה אינו תמיד מסוגל לעבור ביעילות לעבודה אחרת. החוקרים מצאו שבתרחישים מסוימים נותרו יחידות ה־GPU ללא פעילות עד 54.5% מזמן הביצוע הכולל.

מדובר בבעיה כלכלית ולא רק אנרגטית. GPU המשמש להסקת מודל גדול הוא אחד הרכיבים היקרים ביותר במרכז נתונים. אם המאיץ שמור למשימה אך אינו מבצע חישוב במשך מחצית מזמן העבודה, עלות ההון אינה מתורגמת לניצולת בפועל.

עומסי סוכנים מציבים אפוא אתגר למתזמני משימות. עליהם לדעת לפנות משאבים בזמן שהסוכן ממתין לכלי חיצוני, להעביר אליהם בקשות אחרות ולהחזיר במהירות את המשימה המקורית כאשר התוצאה מגיעה — בלי לפגוע בזיכרון המטמון, בהקשר של המודל ובזמן התגובה.

348 ואט־שעה לבקשה

החוקרים בחנו תרחיש המבוסס על מודל שפה בעל 70 מיליארד פרמטרים, סדר גודל המקובל במודלים פתוחים ומסחריים גדולים. לפי החישוב שלהם, ביצוע בקשת סוכן צרך בממוצע 348.41 ואט־שעה.

הצריכה גבוהה פי 136.5 מזו של מערכת בינה מלאכותית גנרטיבית המבצעת מענה רגיל לשאלה, לפי תצורת הבדיקה שנבחרה במחקר.

המספר אינו משקף בהכרח כל סוכן AI וכל מרכז נתונים. צריכת האנרגיה תלויה בגודל המודל, בחומרה, במספר שלבי ההסקה, באורך ההקשר, בשיטת הכימות, במערכת הקירור וביעילות תוכנת ההגשה.

עם זאת, היחס הגבוה מדגים את הסיכון שבהתייחסות לסוכן כאל שאילתת צ'אט רגילה. בקשה אחת של משתמש עשויה להפעיל מאחורי הקלעים עשרות פעולות הסקה וכלים נוספים.

תרחיש של כמעט 200 גיגה־ואט

כדי להמחיש את משמעות ההתרחבות, החוקרים חישבו תרחיש שבו סוכני AI מטפלים ב־13.7 מיליארד בקשות ביום — נפח שאותו השוו להיקף החיפושים היומי בגוגל.

לפי הנחות המחקר, הפעלת עומס כזה תדרוש הספק כולל של כ־198.9 גיגה־ואט. זהו הספק רציף עצום, הגדול בסדרי גודל ממרכזי הנתונים הבודדים המתוכננים כיום, שהספקם נע בדרך כלל ממאות מגה־ואט ועד כמה גיגה־ואט.

אין לראות בתרחיש תחזית לכך שכל החיפושים בעולם אכן יוחלפו בסוכנים המשתמשים במודל של 70 מיליארד פרמטרים ובאותה שיטת ביצוע. זהו תרגיל קנה מידה שנועד להראות כי שימוש המוני בסוכנים ללא שיפור משמעותי ביעילות אינו מעשי מבחינת חשמל, קירור ותשתית.

התרחיש גם מדגיש שהמגבלה על התרחבות ה־AI עשויה לעבור מזמינות שבבים לזמינות הספק חשמלי, חיבורי רשת והקמת מרכזי נתונים.

תשואה חישובית פוחתת

החוקרים בחנו גם שיטות של הרחבת החישוב בזמן ההסקה — test-time scaling — שבהן המערכת משקיעה יותר חישוב כדי לשפר את איכות התשובה.

דוגמאות לכך הן יצירת כמה מסלולי פתרון במקביל, הוספת דוגמאות להנחיה, ביצוע ביקורת עצמית או חזרה על התהליך בכמה סבבים.

תוספת חישוב אכן יכולה לשפר את הדיוק, אך המחקר מצא כי התשואה פוחתת במהירות. כל סבב נוסף מגדיל את מספר האסימונים, זמן הביצוע וצריכת האנרגיה, בעוד שהתוספת לאיכות התוצאה נעשית קטנה יותר. (arXiv)

מבחינת מפעילי תשתיות, משמעות הדבר היא שלא מספיק להגדיר יעד ביצועים למודל. יש להחליט כמה אנרגיה, זמן ועלות מוצדקים עבור כל שיפור נוסף באיכות.

עומס עבודה חדש למרכזי הנתונים

סוכני AI משלבים כמה סוגים של פעילות:

• הסקת מודל שפה על GPU או מאיץ AI;
• פעולות תזמור ותכנון על מעבדים מרכזיים;
• גישה לזיכרון ולמאגרי וקטורים;
• תקשורת עם שירותים חיצוניים;
• הרצת קוד וכלים;
• המתנה לתוצאות וחזרה למודל.

המערכת אינה מוגבלת עוד למאיץ אחד או אפילו לשרת אחד. היא דומה יותר ליישום מבוזר שבו פעולות שונות דורשות חומרה שונה.

משום כך, החוקרים קוראים לתכנון משולב של מודלי הסוכנים, השבבים, תוכנת התזמון, מרכזי הנתונים ותשתיות החשמל. שיפור של אחד הרכיבים בלבד לא יפתור את הבעיה אם שאר המערכת תמשיך להשאיר מאיצים יקרים בהמתנה.

מחקרים נוספים בתחום מציעים לפצל את גרף הביצוע של סוכנים בין מערכות הטרוגניות — מעבדים מרכזיים, מאיצים מדורות שונים ורכיבים ייעודיים — ולשבץ כל פעולה בחומרה המתאימה לה. גישה כזו עשויה להפחית את עלות הבעלות הכוללת ולהאריך את השימוש בחומרה קיימת. (arXiv)

השלכות על תכנון שבבים

מבחינת תעשיית השבבים, עומסי סוכנים עשויים לשנות את סדרי העדיפויות בתכנון מאיצי AI.

במערכות אימון גדולות, המדד המרכזי הוא לרוב תפוקת פעולות חישוב מקביליות. בהפעלת סוכנים, לעומת זאת, נדרשים גם מעבר מהיר בין משימות, טיפול יעיל בבקשות קצרות ומשתנות, שיתוף זיכרון בין תהליכים והפחתת צריכת החשמל במצב המתנה.

מאיצים עתידיים עשויים להידרש לתמיכה טובה יותר בהשהיה ובהמשך של משימות, בניהול זיכרון מטמון של מודלי שפה ובשיתוף המשאב בין מספר גדול של סוכנים.

גם הקישוריות נעשית חשובה יותר. סוכן עובר בין המודל, מסדי נתונים, כלי תוכנה ושירותי רשת. זמן התקשורת בין הרכיבים עלול להיות משמעותי לא פחות מזמן החישוב עצמו.

הדבר עשוי לחזק את הביקוש לארכיטקטורות הטרוגניות, חיבורי רשת מהירים, מעבדי תשתית, זיכרון רחב פס ופתרונות תזמון המודעים למצב הסוכן.

לא כל משימה דורשת מודל ענק

דרך נוספת להפחתת הצריכה היא להימנע מהפעלת מודל גדול בכל שלב. משימות כמו בחירת כלי, בדיקת פורמט, סינון תוצאה או ביצוע החלטה פשוטה עשויות לעבור למודל קטן יותר או לרכיב תוכנה דטרמיניסטי.

מערכת סוכן יעילה יכולה לנתב כל שלב אל רמת החישוב הנדרשת: מודל גדול לשאלות מורכבות, מודל קטן לסיווג, ומעבד רגיל לפעולות שאינן דורשות למידת מכונה.

ניתן גם לבצע כמה פעולות במקביל, אך מקביליות אינה חינמית. היא עשויה לקצר את זמן התגובה במחיר של הפעלת מספר גדול יותר של מאיצים בו־זמנית. הבחירה בין זמן, עלות ואנרגיה תצטרך להיקבע בהתאם לשירות ולדרישות המשתמש.

לדברי פרופ' מינסו רו, שהוביל את המחקר, תחרותיות בעידן הסוכנים לא תימדד רק לפי מידת ה"חוכמה" של המודל, אלא גם לפי היכולת להפעיל אותו ביעילות. לדבריו, נדרש תכנון משותף של מודלי הסוכנים, תשתיות מרכזי הנתונים ומערכת החשמל.

המחקר מצביע על כך שהמעבר לבינה מלאכותית סוכנית אינו רק שינוי בתוכנה. הוא יוצר עומס עבודה חדש בעל דפוסי השהיה, ניצולת וצריכת חשמל שונים מהסקת LLM רגילה. אם הסוכנים יהפכו לשכבה מרכזית בשירותי תוכנה, השאלה כיצד להפעיל אותם ביעילות עשויה להיות חשובה לא פחות מהשאלה כיצד לשפר את יכולותיהם.

שם המאמר:
The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective

DOI:
10.1109/HPCA68181.2026.11408569

הפוסט מחקר: סוכני AI עלולים לצרוך פי 136 יותר אנרגיה משאילתת בינה מלאכותית רגילה הופיע לראשונה ב-Chiportal.

חברת DriveNets הישראלית מרחיבה את פעילותה בתחום תשתיות הבינה המלאכותית ומשיקה שתי פלטפורמות תקשורת חדשות, DriveNets 2600SL ו־DriveNets 2601S, המיועדות להקמת אשכולות מחשוב גדולים המבוססים על מעבדים ומאיצים מסוגים שונים.

שתי הפלטפורמות מבוססות על שבב המיתוג Tomahawk 6 של ברודקום ומציעות קיבולת כוללת של 102.4 טרה־ביט לשנייה. המערכות כוללות 64 חיבורים בקצב של עד 1.6 טרה־ביט לשנייה לכל חיבור, וניתן להגדיר אותן גם למספר גדול יותר של חיבורים בקצבים נמוכים יותר.

Tomahawk 6 הוצג בידי ברודקום כשבב מיתוג Ethernet למרכזי נתונים, בעל קיבולת כפולה מזו של הדור שקדם לו ומיועד לרשתות המחברות מספר גדול מאוד של מאיצי AI.

DriveNets מסרה כי המערכות יהיו זמינות למשלוח ברבעון השלישי של 2026. דגם 2601S יתבסס על קירור אוויר, ואילו דגם 2600SL יציע קירור נוזלי מלא. המעבר לקירור נוזלי נעשה משמעותי יותר ככל שצפיפות ההספק בארונות השרתים עולה וככל שמרכזי הנתונים מנסים לצמצם את צריכת החשמל של מערכות הקירור.

הפלטפורמות מיועדות לתמוך בכמה שכבות של רשתות AI: חיבור בין מאיצים בתוך אשכולות, חיבור בין אשכולות, וכן קישור למערכות אחסון ולרשת הקדמית של מרכז הנתונים. לדברי החברה, ניתן לפרוס באמצעותן רשתות הכוללות מאות ועד מאות אלפי יחידות עיבוד מסוג XPU – מונח כללי הכולל מעבדים גרפיים, מאיצי AI ומעבדים ייעודיים אחרים.

האתגר המרכזי בתשתיות כאלה אינו רק כוח החישוב של כל מאיץ, אלא היכולת להעביר במהירות נתונים בין אלפי מאיצים. כאשר הרשת אינה עומדת בעומס, מעבדים יקרים נותרים ללא עבודה בזמן שהם ממתינים למידע.

"המשאב היקר ביותר בעולם כיום שעומד ללא שימוש הוא מעבד XPU שממתין לרשת התקשורת שתעביר לו מידע", אמר עידו סוסן, מנכ"ל ומייסד שותף ב־DriveNets. לדבריו, הפלטפורמות נועדו לשפר את ניצול המאיצים ואת היעילות האנרגטית של אשכולות AI.

DriveNets מקדמת ארכיטקטורה פתוחה המבוססת על Ethernet, המאפשרת לשלב מאיצים, כרטיסי רשת ורכיבים של ספקים שונים. בכך היא מתחרה הן ביצרניות ציוד רשת מסורתיות והן במערכות סגורות המשלבות מאיצים ותקשורת של ספק יחיד.

ההשקה מגיעה לאחר שהחברה הודיעה על גיוס של 410 מיליון דולר, שנועד בין היתר להרחיב את פעילותה בשוק רשתות התקשורת למרכזי AI.

הפוסט DriveNets משיקה פלטפורמות תקשורת בקצב 102.4 טרה־ביט לשנייה לתשתיות AI הופיע לראשונה ב-Chiportal.