מחשב העל החדש מבית אנבידיה מחבר בין 256 סופר-שבבים מסוג Grace Hopper, לכדי מחשב-על אחד עם ביצועים של 1-אקסהפלופס וזיכרון עצום בנפח של 144 טרה-בייט – כמעט פי 500 מ-DGX A100, עבור מודלי ענק שמניעים מערכות Generative AI, מערכות המלצה, ומשימות ענק לניתוח ועיבוד נתונים
אנבידיה הכריזה על סוג חדש של מחשבי-על עתירי זיכרון עבור משימות בינה מלאכותית גדולות ומורכבות – מחשב על מסדרת NVIDIA DGX המבוסס על סופר-שבבים מדגם NVIDIA Grace Hopper Superchips וטכנולוגיית התקשורת NVIDIA NVLink Switch System, שנוצרו כדי לאפשר את פיתוח הדור הבא של מודלי בינה מלאכותית יוצרת גדולים במיוחד עבור יישומי שפה, מערכות המלצה ומשימות ענק לניתוח ועיבוד נתונים.
ל-NVIDIA DGX GH200, שצפוי להיות זמין לקראת סוף השנה, יש היקף זיכרון עצום. הוא משתמש בטכנולוגיית NVLink עם מערכת מתגי NVLink כדי לשלב 256 שבבי-על מסוג Grace Hopper Superchips, שפועלים יחד כ-GPU ענק אחד. השילוב הייחודי הזה מספק 144 טרהבייט של זיכרון – פי 500 מאשר במערכת NVIDIA DGX A100.
"בינה מלאכותית יוצרת, מודלי שפה גדולים (LLMs), ומערכות המלצה, הם המנועים הדיגיטליים של הכלכלה המודרנית", אמר ג'נסן הואנג, מייסד ומנכ"ל NVIDIA. "מחשבי העל לבינה מלאכותית DGX GH200 משלבים את טכנולוגיות המחשוב המואץ והתקשורת המתקדמות ביותר של NVIDIA, כדי להרחיב את גבולות ה-AI".
הסופר-שבבים מדגם GH200 מייתרים את הצורך בחיבורי PCIe מסורתי בין מעבדים מרכזיים (CPU) למעבדים גרפיים (GPU) במערכות מחשוב, בכך שהם משלבים בין מעבד מרכזי מסוג NVIDIA Grace ובין מעבד גרפי מסוג NVIDIA H100 Tensor Core באותה האריזה, תוך שימוש בחיבור NVIDIA NVLink-C2C. החיבור המתקדם מגדיל את רוחב הפס שבין GPU ו-CPU פי שבע בהשוואה לטכנולוגיית ה-PCIe העדכנית ביותר, מקצץ בצריכת החשמל של החיבוריות בשיעור של יותר מפי חמש, ובכך מספקת את אבני הבניין של מחשבי-העל DGX GH200, עם GPU של 600 גיגה-בייט בארכיטקטורת Hopper החדשנית.
ה-DGX GH200 הוא מחשב-העל הראשון ששידך בין שבבי-העל מסוג Grace Hopper למערכתNVIDIA NVLink Switch System, טכנולוגיית חיבוריות חדשה שמאפשרת לכל המעבדים הגרפיים ב-DGX GH200 לעבוד כמעבד גרפי אחד ענק. הדור הקודם של המערכת, לשם השוואה, אפשר רק לשמונה מעבדים גרפיים לעבוד כאחד ללא פשרה בביצועים.
גוגל, מטא ומיקרוסופט הן בין החברות הראשונות שקיבלו גישה ל-DGX GH200 לצורך מחקר ופיתוח של מודלי בינה מלאכותית גדולים מאוד.
NVIDIA Helios
כדי להניע את פעילות צוותי המחקר והפיתוח שלה, NVIDIA מקימה את מחשב העל NVIDIA Helios שיבוסס על DGX GH200. מחשב העל NVIDIA Helios יורכב מ-4 מערכות DGX GH200, המחוברות האחת לשנייה באמצעות NVIDIA Quantum-2 InfiniBand, טכנולוגיית התקשורת שפותחה בישראל ומציעה רוחב פס של עד ל-400 גיגה-ביט בשנייה. Helios יכלול בסך הכל 1,024 שבבי-על מסוג Grace Hopper וצפוי להתחיל לעבוד עד לסוף השנה.
