אנבידיה הודיעה כי כמה ממפעילות תשתיות הבינה המלאכותית הגדולות בעולם יהיו בין הראשונות לפרוס את מתג התקשורת Spectrum-6, שפותח במרכז המחקר והפיתוח של החברה בישראל. בין המאמצות הראשונות שמונה החברה נמצאות Microsoft,‏ CoreWeave,‏ Nebius,‏ Tesla ו־SpaceXAI.

Spectrum-6 הוא שבב ומערכת מיתוג Ethernet בקיבולת כוללת של 102.4 טרה־ביט לשנייה, פי שניים מהקיבולת של מערכות הדור הקודם. המתג הוא אחד הרכיבים בפלטפורמת Vera Rubin של אנבידיה, לצד מעבד Vera, מאיצי Rubin, מתגי NVLink 6, כרטיסי ConnectX-9 ומעבדי התשתית BlueField-4.

הפיתוח ממשיך את פעילות התקשורת של מלאנוקס, שנרכשה בידי אנבידיה בשנת 2020 תמורת 6.9 מיליארד דולר והפכה לבסיס חטיבת הרשתות של החברה. מרכזי הפיתוח בישראל אחראים לחלק מרכזי ממשפחות מוצרי Spectrum,‏ ConnectX ו־BlueField, המשמשות לחיבור שרתים, מאיצים ומערכות אחסון במרכזי נתונים.

הרשת הופכת לחלק ממערכת המחשוב

במערכות בינה מלאכותית גדולות, ביצועי המאיצים אינם תלויים רק בכוח החישוב של כל GPU. במהלך אימון מודלים, אלפי או עשרות אלפי מאיצים נדרשים להעביר ביניהם כמויות גדולות של מידע ולסנכרן את עבודתם. האטה בקישור אחד או עומס בנקודה מסוימת ברשת עלולים לעכב את המערכת כולה.

Spectrum-6 נועד לשמש בסיס לדור הבא של פלטפורמת Spectrum-X Ethernet, המותאמת לדפוסי התקשורת האלה. המתג משולב עם כרטיס התקשורת ConnectX-9 SuperNIC, המספק קישוריות של עד 1.6 טרה־ביט לשנייה, ועם תוכנה המנהלת את חלוקת התעבורה, בקרת העומסים וההתאוששות מתקלות.

בניגוד לרשתות ארגוניות רגילות, שבהן עיקר התעבורה עוברת בין השרתים למשתמשים או למערכות האחסון, קלאסטרי AI מייצרים תעבורה רבה בין השרתים עצמם. אנבידיה טוענת כי Spectrum-X משפרת את ביצועי רשתות ה־AI עד פי 1.6 לעומת Ethernet סטנדרטי, ושומרת על ניצולת של עד 95% גם במערכות הכוללות יותר מ־100 אלף מאיצים. מדובר בנתוני יצרן שלא פורסמה לצדם בדיקה עצמאית בתנאים זהים.

פחות מתגים ותמיכה בקירור נוזלי

Spectrum-6 תומך הן במודולים אופטיים נשלפים והן באופטיקה המשולבת באריזת השבב – Co-Packaged Optics. גרסאות המערכת יוכלו להשתמש גם בקירור נוזלי, כחלק מהמעבר למרכזי נתונים שבהם לא רק המאיצים אלא גם ציוד התקשורת צורך הספקים גבוהים.

לפי אנבידיה, ארכיטקטורת Multiplane המואצת בחומרה מאפשרת לצמצם פי 1.7 את מספר המתגים הנדרש בהשוואה לטופולוגיות מסורתיות. החברה טוענת גם כי שילוב אופטיקה באריזת המתג עשוי לשפר פי חמישה את יעילות צריכת החשמל של התקשורת ולהגדיל פי עשרה את פרק הזמן הממוצע בין תקלות בהשוואה למערכות המשתמשות במקלטים־משדרים אופטיים נשלפים.

השילוב בין רוחב פס גבוה, אופטיקה משולבת וקירור נוזלי נועד לאפשר להרחיב את רשתות ה־Ethernet ממערכות של אלפי מאיצים למערכות של מאות אלפים. אנבידיה מציגה את Spectrum-X כחלופת Ethernet לרשתות InfiniBand, שגם הן מבוססות במידה רבה על טכנולוגיות שפותחו במלאנוקס.

פריסה אצל ספקיות הענן

CoreWeave, מיקרוסופט ו־Nebius צפויות לשלב את Spectrum-6 בתשתיות המבוססות על Vera Rubin ולהעמיד אותן לרשות לקוחות ענן. Tesla ו־SpaceXAI מתכננות להשתמש במתגים במרכזי הנתונים שהן מקימות לצורכי אימון והרצת מודלים.

CoreWeave מסרה כי תשלב את Spectrum-6 במערכות Spectrum-X מקוררות בנוזל. Nebius הסבירה כי המטרה היא לשמור על סנכרון בין המאיצים ולמנוע מקישור איטי יחיד לעכב עבודת אימון מלאה. היקף ההזמנות, לוח הזמנים המדויק לפריסות וההכנסות הצפויות לא פורסמו.

הצגת Spectrum-6 מגיעה עם תחילת הייצור והפריסה של מערכות Vera Rubin. אנבידיה דיווחה כי מערכות ראשונות כבר פועלות אצל CoreWeave,‏ Google Cloud,‏ Microsoft Azure ו־Oracle, וכי שרשרת האספקה של הפלטפורמה משתרעת על יותר מ־350 אתרי ייצור ב־30 מדינות.

עבור פעילות אנבידיה בישראל, Spectrum-6 ממחיש את חשיבותה של חטיבת הרשתות בתוך פלטפורמת המחשוב של החברה. ככל שמספר המאיצים בכל מרכז נתונים גדל, מתגי התקשורת, כרטיסי הרשת והאופטיקה הופכים מרכיבים משלימים לגורם מרכזי הקובע כמה מכוח החישוב היקר ניתן לנצל בפועל.

הפוסט אנבידיה מתחילה לפרוס את מתג Spectrum-6 שפותח בישראל אצל מיקרוסופט וטסלה הופיע לראשונה ב-Chiportal.