עוד מההכרזות שחשף בשידור המרכזי של כנס GTC מנכ"ל ומייסד אנבידיה, ג'נסן הואנג: ארכיטקטורת NVIDIA Hopper הכוללת את המעבד הגרפי (GPU) NVIDIA H100; פלטפורמת NVIDIA Spectrum 4 אשר פותחה בישראל; וקטגוריה חדשה של שבבי עיבוד מרכזיים (CPU) בשם Grace Superchips.
עיקרי ההכרזות:
- NVIDIA Eos: מחשב העל החזק בעולם לחישובי AI, מהיר פי ארבעה ממקבילו החזק ביותר כיום וכולל שבבי BlueField-3 DPU שפותחו במרכז הפיתוח בישראל
- NVIDIA Hopper: הדור הבא לארכיטקטורת המעבדים הגרפיים (GPU) של אנבידיה, עליה מבוסס המעבד הגרפי החדש NVIDIA H100 ותשתית מחשוב-העל DGX H100
- Grace CPU Superchip: מעבד מרכזי חדש ליישומי AI ומחשוב על (HPC), מבוסס על ארכיטקטורת Arm; מורכב משני שבבי CPU נפרדים המחוברים בטכנולוגיית NVLink-C2C החדשה, ומציע את הביצועים הטובים ביותר בהשוואה למעבדי השרתים הזמינים כיום
- NVIDIA Spectrum 4: פלטפורמת תקשורת מואצת מבוססת Ethernet אשר פותחה בישראל ותניע את הדור הבא של מרכזי הנתונים, עם שבבי BlueField-3 DPU, מתגי Spectrum-4 Switch ורכיבי ConnectX-7
- Omniverse Cloud: הפלטפורמה לפיתוח וחיבור עולמות וירטואליים מבית אנבידיה, אומניברס, מגיעה לענן
- NVIDIA OVX: מערכת מחשוב מואץ מתקדמת המיועדת לאומניברס ויצירת תאומים דיגיטליים בקנה מידה גדול
כנס הבינה המלאכותית הראשון של אנבידיה לשנת 2022 יצא לדרך הערב (ג'), ובמרכזו התקיים השידור המרכזי של מנכ"ל ומייסד החברה, ג'נסן הואנג. במהלכו, הציג מנכ"ל אנבידיה שורה של פיתוחים, טכנולוגיות ומוצרים חדשים, בין היתר כאלה שפותחו במרכז הפיתוח של אנבידיה בישראל, המונה כיום יותר מ-2,800 עובדים.
NVIDIA Eos – מחשב העל החזק ביותר לביצועי בינה מלאכותית
אנבידיה חשפה היום את NVIDIA Eos, מחשב-העל החזק בעולם לחישובי AI שצפוי להתחיל לפעול מאוחר יותר השנה ויניע את עבודתם של חוקרי אנבידיה הפועלים בתחומי מחקר האקלים (Climate Science), ביולוגיה דיגיטלית (Digital Biology) ועתיד הבינה המלאכותית.
מחשב העל צפוי לספק ביצועים של עד 18.4 אקסהפלופ (Exaflops) עבור חישובי בינה מלאכותית – פי ארבעה ממחשב העל היפני Fugaku, המוגדר כיום כחזק ביותר. עבור ביצועי מחשוב מדעיים סטנדרטיים, ה-NVIDIA Eos יספק עד ל-275 פטהפלופס (Petaflops).
ה-Eos יבוסס על ארכיטקטורת Hopper החדשה של אנבידיה, ויכיל 576 מערכות חדשות מסוג DGX H100 המבוססות על המעבד הגרפי (GPU) החדש H100. בכל מערכת DGX H100 ישנם שמונה מעבדי H100 – 4,608 מעבדים גרפיים בסך הכל.
מחשב העל ישלב גם את טכנולוגיית התקשורת המהירה שפותחה במרכז הפיתוח של אנבידיה בישראל. הוא יכיל 1,152 שבבי NVIDIA BlueField-3 DPU (ר"ת – Data Processing Unit), אשר תפקידם להפחית עומסי עבודה מהמעבד המרכזי (CPU), להאיץ את העיבוד ולאפשר תקשורת, אחסון ואבטחה מהירים ויעילים. כמו כן, מחשב העל ישלב 500 מתגי Quantum-2 NDR עם קצב העברת נתונים של עד 400 גיגה-ביט לשנייה.
NVIDIA Hopper – ארכיטקטורה חדשה לדור הבא של המחשוב המואץ
כדי להניע את מחשב-העל Eos, כמו גם את הדור הבא של מרכזי עיבוד נתונים לבינה מלאכותית, הכריזה אנבידיה על הדור החדש של ארכיטקטורת המעבדים הגרפיים בפיתוחה – NVIDIA Hopper. הארכיטקטורה החדשה קרויה על שמה של גרייס הופר, מחלוצות מדעני המחשב בארה"ב, והיא תמשיך את דרכה של ארכיטקטורת Ampere אשר הושקה לראשונה לפני כשנתיים.
NVIDIA Hopper משמשת כבסיס של המעבד הגרפי (GPU) החדש של אנבידיה למרכזי נתונים – NVIDIA H100. ה-H100 כולל 80 מיליארד טרנזיסטורים ומיוצר בהליך 4N פורץ דרך של TSMC אשר פותח עבור צרכי המחשוב המואץ של אנבידיה. המעבד הגרפי החדש מציע שיפורים משמעותיים בביצועי ה-AI, מחשוב על, רוחב פס ותקשורת.
ה-H100 הוא מעבד ה-AI החזק והגדול בעולם הנועד להתמודדות עם מודלים עצומים של עיבוד שפה, מערכות המלצה, מחקר רפואי ומחקר בתחום האקלים. לשם השוואה – 20 מעבדי H100 יכולים לספק כוח עיבוד השקול לתעבורת האינטרנט העולמית כולה. המעבד הגרפי החדש יהיה מאיץ ה-AI הראשון בעולם שתומך ביכולות Confidential Computing על מנת להגן על מידע של לקוחות ומודלים של AI.
מגוון רחב של שרתים מבוססי H100 צפויים לצאת לשוק מיצרנים מובילים כגון Atos, BOXX Technologies, סיסקו, דל, פוג'יטסו, גיגהבייט, לנובו, HPE ועוד. ארכיטקטורת Hopper קיבלה גם היא תמיכה רחבה מספקי ענן מובילים דוגמת AWS, Microsoft Azure, Alibaba, Baidu AI Cloud, Oracle cloud ו-Tencent cloud – כולן מתכוונות לפרוס מערכות המבוססות על מעבדי H100. המעבד החדש יהיה זמין החל מהרבעון השלישי של השנה.
"מרכזי נתונים הופכים למפעלי AI – מעבדים ומדייקים הרים של נתונים כדי לספק תובנות", אמר ג'נסן הואנג, מנכ"ל ומייסד אנבידיה. "המעבד הגרפי NVIDIA H100 הוא המנוע של תשתית הבינה המלאכותית בעולם, בה ארגונים מבצעים שימוש כדי להאיץ פעילות עסקית מונעת בינה מלאכותית", הוא הוסיף. להודעת Hopper המלאה.
עוד הציגה אנבידיה את מערכות מחשוב העל NVIDIA DGX H100, הדור הרביעי למערכות DGX – פלטפורמת ה-AI המובילה בעולם, שתבוסס על המעבד הגרפי H100. כל אחת ממערכות DGX H100 כוללת 8 מעבדי H100 המחוברים בין האחד לשני באמצעות חיבור NVIDIA NVLink, עם ביצועי AI של 32 פטהפלופס (Petaflops) – פי 6 בהשוואה לדור הקודם.
בכל מערכת נכללים גם שמונה רכיבי תקשורת מסוג NVIDIA ConnectX-7 Quantum-2 InfiniBand networking שמספקים 400 גיגה-בייט לשנייה לתקשורת עם המחשב ויחידות האחסון – כפול מהמהירות של הדור הקודם, וכן רכיב תקשורת NVLink מהדור הרביעי, יחד עם מתג NVIDIA NVSwitch אשר מספק 900 גיגה-בייט לשנייה של תקשורת בין כל המעבדים הגרפיים במערכת – פי 1.5 מהדור הקודם. השילוב בין הרכיבים מניב 70 טרה-בייט לשנייה של רוחב פס – פי 11 מהדור הקודם.
מערכות DGX H100 ניתנות להרחבה כדי לעמוד במשימות מחשוב גדולות כמו למשל אימון מודלים של הבנת שפה טבעית, מערכות המלצה, מחקר רפואי ומחקר בתחום האקלים. מערכות אלה הן אבני הבניין של הדור הבא ל-NVIDIA DGX POD ו-NVIDIA DGX SuperPod, פלטפורמות מתקדמות המשמשות כתשתית המחשוב המואץ לעיבוד מודלים גדולים במיוחד במגוון רחב של תעשיות: רכב ותחבורה, בריאות ומחקר רפואי, ייצור תעשייתי, תקשורת, קמעונאות ועוד.
"בינה מלאכותית שינתה מהיסוד את מה שתוכנה מסוגלת לעשות, ואת האופן בו היא מפותחת. חברות המחוללות מהפכה בתעשיות שלהן באמצעות AI, מבינות את החשיבות של תשתית הבינה המלאכותית שלהן", אמר הואנג. "מערכות ה-DGX H100 החדשות שלנו יניעו את מפעלי ה-AI של ארגונים על מנת לזקק את המידע למשאב היקר ביותר שלנו – בינה", הוא הוסיף. להודעה המלאה.
NVIDIA Grace CPU Superchip – עד לפי 2 ביצועים בפי 2 פחות אנרגיה
עוד הכריזה אנבידיה במסגרת כנס GTC 2022 על מעבד (CPU) חדש למרכזי נתונים ומחשוב מואץ (HPC), זהו ה-NVIDIA Grace CPU Superchip. המעבד החדש, שיהיה הראשון מבית אנבידיה אשר מבוסס על ארכיטקטורת Arm Neoverse, יספק את הביצועים הטובים ביותר, וכן רוחב פס ויעילות-אנרגיה טובים פי 2 בהשוואה למעבדי השרתים המובילים כיום.
Grace CPU Superchip, יכיל 144 ליבות Arm ו-1 טרה-בייט/שנייה של זיכרון כדי לספק ביצועים חסרי תקדים ליישומי מחשוב מואץ מבוססי CPU – הצפויים לעמוד על ציון של 740 במבחן הביצועים SPECrate®2017_int_base . המעבד החדש מורכב משני שבבי CPU המחוברים יחד באמצעות טכנולוגיית NVLinke-C2C – חיבור חדש בעל רוחב פס גבוה וזמני השהייה נמוכים, המיועד לחיבור שבב-אל-שבב (Chip-2-Chip).
ה-Grace CPU Superchip יצטיין במשימות ה-HPC, בינה מלאכותית, מחשוב מואץ, מחשוב מדעי וניתוח מידע התובעניות ביותר. צריכת האנרגיה של השבב תעמוד על 500 וואט בלבד (כולל הזיכרון), והוא יבוסס על ארכיטקטורת מרכזי הנתונים Arm v9.
Grace CPU Superchip יריץ את כל חבילת התוכנה של אנבידיה, ביניהם NVIDIA RTX, NVIDIA HPC, NVIDIA AI ו-Omniverse. ה-Grace CPU Superchip ורכיב ה-NVIDIA ConnectX-7 NICs מציעים את הגמישות להגדרת שרתים כמערכות עצמאיות ל-CPU בלבד או כשרתים מואצים עם GPU אחד, שניים, ארבעה או שמונה מעבדים מבוססי Hopper.
שבב ה-Grace CPU Superchip מצטרף למעבד מרכזי הנתונים Grace Hopper Superchip עליו הכריזה אנבידיה אשתקד. ה-Grace Hopper Superchip מיועד לשרת אפליקציות AI ו-HPC עצומות בשילוב עם מעבד גרפי מבוסס על ארכיטקטורת NVIDIA Hopper. השניים יחוברו האחד לשני באמצעות חיבור NVLInk-C2C ייחודי עליו הכריזה אנבידיה היום, ומשמש לחבר בין שתי יחידות ה-CPU של ה-Grace CPU Superchip. שני המעבדים צפויים להיות זמינים במחצית הראשונה של 2023. להודעה המלאה.
NVLink-C2C – חיבור מהיר משבב-לשבב, גם עבור יצרניות צד שלישי
במסגרת כנס GTC 2022 חשפה אנבידיה טכנולוגיה חדשה לחיבור בין שבב לשבב – טכנולוגיית NVIDIA NVLinke-C2C. מדובר בחיבור Interconnect המיועד לחבר בין שבב לשבב (Chip-to-Chip or Die-to-Die Link) עבור המעבדים הגרפיים (GPU), המעבדים המרכזיים (CPU) ומעבדי הנתונים (DPU) של אנבידיה.
הטכנולוגיה החדשה מאפשרת לחבר בין GPU, CPU ו-DPU של אנבידיה, לבין שבבים מותאמים אישית המפותחים על ידי יצרניות צד שלישי. החיבור החדש יאפשר חיבור יעיל אנרגטית עד פי 25, וחסכוני במקום עד פי 90, בהשוואה לחיבור PCIe Gen 5 עם שבבי אנבידיה, ויתמוך ברוחב פס של 900 גיגה-ביט לשנייה ויותר. NVLink-C2C היא הטכנולוגיה שמאפשרת את החיבור בין שתי יחידות העיבוד במשפחת שבבי ה-NVIDIA Grace CPU Superchip אשר הוכרזה היום, והיא תאפשר לבצע אינטגרציה ברמת הסיליקון בין אנבידיה לחברות אחרות. להודעה המלאה.
NVIDIA Spectrum 4 – הדור הבא לתקשורת מואצת בטכנולוגיית Ethernet
עוד חשף מנכ"ל אנבידיה, ג'נסן הואנג, את ה-NVIDIA Spectrum-4 – הדור הבא של פלטפורמת תקשורת בטכנולוגיית Ethernet שמאפשרת ביצועי תקשורת קיצוניים בסביבת אבטחה גבוהה הדרושה לתשתיות מרכזי נתונים. הפלטפורמה, שפותחה בישראל, מספקת מהירות של 400Gps מקצה לקצה ומסוגלת להעביר תעבורה בקיבולת גבוהה פי ארבעה מהדורות הקודמים – בקצב של 51.2 טרה-בייט לשנייה.
פלטפורמת ספקטרום 4 מורכבת ממשפחת מתגי Spectrum-4, כמו גם מתאם התקשורת החכם NVIDIA ConnectX-7 SmartNIC ושבב עיבוד הנתונים NVIDIA BlueField 3 DPU. כולם פותחו בישראל ומיועדים לשמש כחלק מתשתית מרכזי הנתונים של העתיד. להודעה המלאה.
Omniverse Cloud ו-NVIDIA OVX
אנבידה הכריזה גם על שירות NVIDIA Omniverse Cloud – מאגד של שירותי ענן שיאפשרו ליוצרים, מעצבים ואמנים לשתוף פעולה בפלטפורמת NVIDIA Omniverse – פלטפורמה לשיתוף פעולה בעיצוב ויצירת סימולציות תל-ממד. בין השירותים של Omniverse Cloud נמצא Nucleus Cloud, כלי לשיתוף פעולה בקליק אחד, המאפשר ליוצרים ואמנים לגשת ולערוך סצנות תלת-מימד גדולות מכל מקום, מבלי להידרש להעביר מערכי-נתונים גדולים.
שירות הענן יכלול את יישומי האומניברס של אנבידיה, לרבות Omniverse Create, אפליקציה למעצבים, אמנים ויוצרים לבנייה אינטראקטיבית של עולמות תלת ממדיים בזמן אמת; View – אפליקציה למשתמשים פשוטים לצפייה בסצנות של Omniverse באמצעות פלטפורמת NVIDIA GeForce NOW, המופעלת על ידי מעבדים גרפיים מסדרת NVIDIA RTX בענן. להודעה המלאה.
בנוסף, אנבידיה הכריזה על NVIDIA OVX – מערכת מחשוב ליצירת תאומים דיגיטליים בקנה מידה גדול. NVIDIA OVX נבנתה במיוחד כדי להפעיל סימולציות מורכבות של תאומים דיגיטליים שיפעלו בתוך פלטפורמת העולמות הווירטואליים NVIDIA Omniverse. מערכת ה- OVX משלבת חישוב מבוסס GPU, גרפיקה ובינה מלאכותית מואצת בביצועים גבוהים של GPU עם גישה לאחסון במהירות גבוהה, רשת עם שיהוי נמוך ותזמון מדויק, ותשמש ליצירת מודלים של בניינים שלמים, מפעלים, ערים ואפילו תאום דיגיטלי של כדור הארץ, יאפשר בדיקת מערכות בעולם הווירטואלי לפני הקמתם בעולם הפיזי.
פלטפורמת OVX מורכבת מ-8 מעבדים גרפיים מדגם NVIDIA A40, שלושה רכיבי תקשורת מואצת מסוג NVIDIA ConnectX-6 בקצב של 200 גיגה-ביט לשנייה, זיכרון מערכת של 1 טרה-בייט ועד ל-16 טרה-בייט של זיכרון NVMe. פלטפורמת המחשוב OVX מסוגלת להציע עד ל-OVX SuperPOD שכולל 32 שרתי OVX עם טכנולוגיית התקשורת Spectrum-3 שפותחה בישראל. להודעה המלאה.
ועוד מגוון הכרזות:
- NVIDIA Scientific Modulus for Digital Twins – אנבידיה מכריזה על פלטפורמה ליצירת תאומים דיגיטליים מדויקים פיזיקלית לצורך מחקר-מדעי: הפלטפורמה מבוססת על תשתית ה-AI של NVIDIA Modulus לפתח מודלים של רשתות נוירוניות מבוססות למידת מכונה ופיזיקה, וכן פלטפורמת NVIDIA Omniverse ליצירת עולמות וירטואליים תלת-מימדיים. הפלטפורמה יכולה לייצר סימולציות מבוססות AI בזמן אמת שמשקפות באופן מדויק את העולם האמיתי, ומאיצה סימולציות מורכבות, כמו למשל דינמיקות של נוזלים, עד פי 10,000 לעומת השיטות הקיימות כיום לסימולציות הנדסיות.
הטכנולוגיה תאפשר למדענים לבחון מודלים של מערכות מורכבות כמו אירועי מזג אוויר קיצוניים, במהירות ודיוק לעומת מודלי של AI הקיימים כיום. בדברי הפתיחה שלו בכנס הציג הואנג שתי דוגמאות: שיתוף פעולה עם חברת האנרגיה סימנס המשתמש ב-AI לאופטימיזציה של עיצוב טורבינות רוח, וכן מודל למידת מכונה הקרוי NVIDIA FourCastNet שמדמה תבניות מזג אוויר גלובליות ויכול לחזות אירועי מזג אוויר כמו הוריקנים בדיוק פי 45,000 לעומת המודלים הקיימים כיום. המודל הזה הוא צעד לקראת יצירת תאום דיגיטלי של כדור הארץ Earth-2, עליו הכריז מנכ"ל אנבידיה, ג'נסן הואנג, בכנס GTC בשנה שעברה. להודעה המלאה.
- NVIDIA DRIVE Hyperion 9 – אנבידיה חשפה את פלטפורמת הרכב האוטונומי DRIVE Hyperion 9. הפלטפורמה החדשה מודולרית לחלוטין, ותאפשר ליצרניות הרכב לבחור באילו מחלקיה הם מעוניינים לבצע שימוש. היא כוללת שתי מערכות על שבב מדגם DRIVE Atlan עבור נהיגה אוטונומית ברמה L4, וסט חיישנים המכיל 14 מצלמות, תשעה רדארים, שלושה LiDAR ו-20 חיישנים על-קוליים לטובת גיוון חיישנים ויתירות. להודעה המלאה.
- NVIDIA Clara Holoscan MGX – פלטפורמה לתעשיית המכשור הרפואי שמטרתה להאיץ חדשנות בתחום. הפלטפורמה מאפשרת פיתוח ופרישה בזמן אמת של יישומי AI במכשירי קצה באופן התואם את התקנים המחמירים של תחום הרפואה.
בעזרת הפלטפורמה החדשה יכולים יצרני מכשור רפואי מתקדם לפתח את הדור הבא של המכשור הרפואי המבוסס תוכנה, וכן לחבר מכשירים קיימים למערכת ולאפשר למפתחים להאיץ יישומי AI על הדאטה שהם משדרים כדי לקבל תובנות בזמן אמת. המערכת מורכבת מפלטפורמת NVIDIA Jetson AGX Orin, וכוללת גם: מעבד גרפי (GPU) מדגם RTX A6000, וטכנולוגיית התקשורת החכמה NVIDIA ConnectX-7 SmartNIC שפותחה בישראל. אלו יאפשרו בין 254 ל-619 טריליון פעולות AI בשנייה. להודעה המלאה.
- אקו-סיסטם המחשוב הקוונטי של אנבידיה מתרחב – עוד חשפה אנבידיה בכנס GTC 2022 על פתרונות להרחבת האקוסיסטם של מחשוב קוונטי, במסגרת פלטפורמת הסימולציה NVIDIA cuQuantum. החברה הודיעה כי היא משתפת פעולה עם החברות המובילים את מהפכת הקוונטום, ביניהן IBM, המעבדה הלאומי אוקרידג', פסקל ואחרים, כדי לפתח מודלים ופתרונות היברידיים, שישלבו מחשוב קוונטי ומחשוב מואץ בסביבת מחשוב ותכנות מאוחדת ויעילה. למשל, מהדר (compiler) קוונטום חדש בשם ++nvq שיאפשר למחשבים קוונטיים ומחשבים קלאסיים "לדבר" זה עם זה בעזרת שפת מכונה פשוטה. להודעה המלאה.
- עדכונים ל-NVIDIA AI – אנבידיה הכריזה גם עם עדכונים לפלטפורמת ה-AI שלה שיאפשרו פיתוח מודלים חדשים לעיבוד שפה, מערכות המלצה והסקת מסקנות בסדר גודל רחב. פתרונות אלה כבר אומצו על ידי חברות מובילות בשוק, בהן מיקרוסופט ו-Snap. בין העדכונים, שזמינים בחינם למפתחים, נכללים NVIDIA Riva 2.0 – ערכת פיתוח (SDK) למודלים של הבנת שפה באופן מואץ, בדיוק כפול לעומת התקן ובשבע שפות שונות, ו-NVIDIA Merlin לפיתוח מערכת המלצות חכמה. להודעה המלאה.
- אנבידיה חושפת כרטיסי מסך חדשים מסדרת NVIDIA RTX – ובהם ה-NVIDIA RTX A500, A1000, A2000 8GB, A3000 12GBm A4500 ו-A5500. הכרטיסים החדשים מיועדים לתחנות עבודה ויספקו יכולות עיבוד גרפי מתקדמות לאנשי מקצוע, אומנים ויוצרים. להודעה המלאה.