אנבידיה הציגה בכנס Hot Chips את NVIDIA Scale-In, תשתית תקשורת מואצת שנועדה להפעיל, לנהל ולאבטח מפעלי בינה מלאכותית גדולים. מרכיביה המרכזיים – מעבד BlueField-4, פלטפורמת התוכנה DOCA ורשת Spectrum-X Ethernet – פותחו במרכז המחקר והפיתוח של אנבידיה בישראל.

מפעלי AI כוללים לא רק מעבדים גרפיים, אלא גם מערכות אחסון, אבטחה, ניטור, תקשורת והקצאת משאבים. כאשר משימות אלה מתבצעות במעבדים המרכזיים של השרת, הן צורכות משאבים שאחרת היו יכולים לשמש להרצת מודלי בינה מלאכותית.

Scale-In נועדה להפריד את שירותי התשתית ממשאבי המחשוב המריצים את מודלי ה־AI. היא מבוססת על BlueField-4, מעבד תשתית המשלב יכולות תקשורת, עיבוד ואבטחה, ועל DOCA, סביבת התוכנה שבאמצעותה ניתן לתכנת ולנהל את פעולות המעבד.

החיבור בין השרתים ורכיבי התשתית נעשה באמצעות Spectrum-X Ethernet, פלטפורמת התקשורת של אנבידיה למרכזי נתונים של בינה מלאכותית. לדברי החברה, המערכת תומכת בהפרדה בין לקוחות, בגישה לאחסון עתיר ביצועים, באבטחה המוטמעת בחומרה, בהקצאת משאבים ובניטור בזמן אמת.

המטרה היא לאפשר לשירותי האבטחה, הגישה לנתונים והתפעול להתרחב יחד עם מספר המאיצים במפעל ה־AI, בלי להפוך לצוואר בקבוק ובלי להעמיס על המעבדים הגרפיים.

ההכרזה מחזקת את תפקידו של מרכז הפיתוח הישראלי באסטרטגיית מרכזי הנתונים של אנבידיה. הפעילות המקומית, שהתרחבה בעקבות רכישת מלאנוקס, אחראית לחלק ניכר מטכנולוגיות התקשורת וה־DPU המשמשות לחיבור מספר גדול של מאיצי AI.

הפוסט אנבידיה מציגה תשתית Scale-In המבוססת על טכנולוגיות שפותחו בישראל הופיע לראשונה ב-Chiportal.