AMD וחברת הרשתות הישראלית DriveNets פרסמו ארכיטקטורת ייחוס משותפת להקמת קלאסטרים גדולים של בינה מלאכותית, המשלבת את מאיצי AMD Instinct מסדרת MI350 עם פתרון התקשורת DriveNets AI Fabric.

ארכיטקטורת ייחוס אינה מוצר אחד הנמכר כמערכת סגורה, אלא תכנון טכני מאומת המגדיר כיצד ניתן לשלב את המעבדים, השרתים, כרטיסי הרשת, התוכנה ותשתית התקשורת למערכת מלאה. המטרה היא לקצר את תהליך ההקמה של קלאסטרים חדשים ולהקטין את הסיכון לבעיות תאימות וביצועים בעת חיבור רכיבים של ספקים שונים.

התכנון המשותף מבוסס על מאיצי AMD Instinct MI350, ובדיקות הביצועים בוצעו על קלאסטרים המצוידים במאיצי MI355X. בצד התקשורת משולבת ארכיטקטורת AI Fabric של DriveNets, המבוססת על Ethernet ומיועדת לחבר מספר גדול של מאיצים למערכת אחת.

לפי החברות, העבודה המשותפת כללה אופטימיזציה של מספר שכבות במערכת: סביבת התוכנה ROCm של AMD, ספריית התקשורת הקולקטיבית RCCL, תוספי הרשת, כרטיסי התקשורת, השרתים ומערכות הניהול והאורקסטרציה. הארכיטקטורה מיועדת הן לאימון מודלים והן להרצת מודלים בשלב ההסקה — Inference.

ניסיון להציע חלופה פתוחה יותר

המהלך משקף את הניסיון של AMD לבנות סביב המאיצים שלה מערכת אקולוגית שתאפשר לספקיות ענן ולמפעילי מרכזי נתונים להקים תשתיות AI מרובות ספקים. זאת, במקום להסתמך על מערך שבו מרבית רכיבי החומרה, התקשורת והתוכנה מגיעים מיצרן יחיד.

הארכיטקטורה תומכת בתקשורת Scale-out בין שרתים באותו קלאסטר, וב־Scale-across לחיבור משאבי מחשוב או קלאסטרים שונים. היא כוללת גם את רשתות החזית והאחסון, כך שניתן להשתמש בתשתית רשת אחת למספר שכבות במרכז הנתונים.

DriveNets מסרה כי היא ו־AMD כבר פועלות עם לקוחות משותפים בפריסות ניסיוניות ובמערכות ייצור, ובהם ספקי תשתיות AI וחברות המכונות NeoClouds — מפעילות ענן המתמקדות באספקת משאבי עיבוד למודלים של בינה מלאכותית. שמות הלקוחות והיקף הפריסות לא פורסמו.

שיפור של 5% בתפוקה

על פי תוצאות הבדיקות שפרסמו החברות, המערכת המשותפת השיגה תפוקה גבוהה בכ־5% וזמן קצר ב־10%–15% עד להפקת הטוקן הראשון — מדד המכונה Time to First Token או TTFT — בהשוואה לתוצאות תעשייתיות הזמינות לציבור.

בבדיקות עומסי הסקה בקנה מידה של מספר שרתים דיווחו החברות גם על השהיה של פחות מ־20 אלפיות השנייה בין טוקנים ועל קצב מינימלי של 50 טוקנים בשנייה למשתמש. בדיקות עמידות הראו, לטענתן, כי הפרעות זמניות בקישורי הרשת לא גרמו לירידה נצפית ברוחב הפס או לעיכוב בהתאוששות.

עם זאת, הנתונים פורסמו בידי DriveNets ו־AMD, וההשוואה נעשתה מול תוצאות ציבוריות ולא במסגרת מבחן בלתי תלוי וזהה מול מערכת מתחרה. לכן יש לראות בהם בשלב זה נתוני יצרן.

ארווינד באלאקומאר, סגן נשיא להנדסת קלאסטרים גלובלית ב־AMD, אמר כי ביצועיו של קלאסטר AI תלויים ביעילות השילוב בין המחשוב, הרשת והתוכנה. לדבריו, התכנון המשותף מספק ללקוחות ארכיטקטורה מאומתת המבוססת על Ethernet, שמטרתה לשפר את ניצול המאיצים ולפשט את פריסת עומסי האימון וההסקה.

עידו סוסן, מייסד ומנכ״ל DriveNets, אמר כי שוק תשתיות ה־AI עובר בהדרגה ממערכות של ספק יחיד למערכות פתוחות ומרובות ספקים, וכי רשת התקשורת היא רכיב מרכזי במעבר הזה.

AMD הצטרפה למשקיעים ב־DriveNets

פרסום ארכיטקטורת הייחוס מגיע פחות מחודשיים לאחר ש־DriveNets השלימה סבב גיוס רביעי בהיקף של 410 מיליון דולר. הסבב הובל בידי Bessemer Venture Partners ו־Atreides Management, ו־AMD הצטרפה אליו כמשקיעה חדשה לצד Red Dot Capital והמשקיעים הקיימים פיטנגו ו־D1 Capital Partners.

הסבב הביא את סך ההון שגייסה DriveNets מאז הקמתה לכמיליארד דולר. החברה לא חשפה את השווי שנקבע לה בגיוס. לדבריה, הכסף מיועד בין היתר להרחבת המלאי וכושר האספקה שלה לנוכח הגידול בביקוש לתשתיות תקשורת עבור קלאסטרי AI גדולים.

DriveNets נוסדה בשנת 2015 ומפתחת מערכות תוכנה ותקשורת המאפשרות להפעיל רשתות גדולות באמצעות חומרה סטנדרטית, במקום מערכות קנייניות שבהן החומרה והתוכנה מגיעות מאותו ספק. החברה החלה את פעילותה בשוק מפעילות התקשורת, ובשנים האחרונות הרחיבה את המיקוד שלה לתשתיות עבור מרכזי נתונים ובינה מלאכותית.

הפוסט AMD ו־DriveNets מציגות ארכיטקטורת רשת לקלאסטרי AI מבוססי MI350 הופיע לראשונה ב-Chiportal.