הסטארטאפ שהקים ראג'ה קודורי מציע ליבת GPU הניתנת לרישוי, ארכיטקטורת צ'יפלטים ותוכנה להפעלת עומסי CUDA על חומרה מתחרה. בשלב זה הטכנולוגיה פועלת על FPGA, והחברה עדיין צריכה להוכיח את ביצועיה בשבבים מסחריים
חברת OXMIQ Labs, שהקים ארכיטקט השבבים הוותיק ראג'ה קודורי, השלימה גיוס סדרה A בהיקף של 35 מיליון דולר. בעקבות הסבב הגיע סך ההון שגייסה החברה ל־60 מיליון דולר. החברה מבקשת לפתח מודל חדש בשוק מאיצי הבינה המלאכותית: במקום למכור שבבים מוגמרים, היא תציע ליצרניות שבבים ולמפעילות מרכזי נתונים ארכיטקטורת GPU וקניין רוחני שאפשר לשלב בשבבים מותאמים אישית.
הסבב הובל בידי Samsung Catalyst Fund וקרן Fundomo. בין המשקיעות הנוספות נמצאות MediaTek, Pegatron Venture Capital, AM Intelligence Labs, CDIB-TEN, Darwin Ventures, Morgan Creek Digital ואינטל קפיטל. MediaTek, שהשתתפה גם בגיוס הקודם של החברה, השקיעה פעם נוספת. (intelcapital.com)
קודורי שימש בעבר בתפקידי הנדסה וניהול בכירים באפל, ב־AMD ובאינטל. בין היתר, הוא ניהל את קבוצת Radeon של AMD ובהמשך היה הארכיטקט הראשי של אינטל, שם היה מעורב בהקמת פעילות המעבדים הגרפיים ובפיתוח מאיצים למרכזי נתונים. לאחר שעזב את אינטל הוא הקים את OXMIQ, המחזיקה משרדים בקמפבל שבקליפורניה ובהיידראבאד שבהודו.
לדברי קודורי, מטרתה של החברה היא להיות “ה־Arm של העידן הבא”. ההשוואה מתייחסת בעיקר למודל העסקי: Arm אינה מייצרת את רוב השבבים המבוססים על הארכיטקטורה שלה, אלא מעניקה רישיונות לליבות ולמערכות ההוראות שלה. בדומה לכך, OXMIQ רוצה לאפשר לחברות לפתח מאיצי AI מבלי להשקיע שנים ומאות מיליוני דולרים ביצירת ארכיטקטורת חישוב ומערכת תוכנה מן היסוד. (Reuters)
שלושה מנועי חישוב בליבה אחת
המוצר המרכזי של החברה נקרא OxCore. זוהי ליבת GPU הניתנת לרישוי, המשלבת מנוע עיבוד גרפי התואם לעקרונות החישוב של CUDA, מנוע Tensor לחישובי בינה מלאכותית ומנוע תזמון דמוי CPU, האחראי לתיאום עומסי העבודה במערכת.
במערכות AI קיימות, המעבד המרכזי, המאיץ הגרפי ומנועי ה־Tensor פועלים לעיתים קרובות כרכיבים נפרדים. OXMIQ מבקשת להצמיד את שלושת סוגי העיבוד בתוך בלוק קניין רוחני אחד. לטענתה, הדבר עשוי להפחית את הצורך בהעברת מידע בין רכיבים ולהקטין את צריכת החשמל ואת זמני ההמתנה לזיכרון. הארכיטקטורה תוכננה גם לעיבוד בקרבת הזיכרון, כדי להתמודד עם צוואר הבקבוק הנוצר כאשר כמויות גדולות של נתונים מועברות שוב ושוב בין הזיכרון למאיץ. (intelcapital.com)
OxCore אמורה להתאים לטווח רחב של מוצרים: מליבה יחידה במכשיר קצה או ברובוט ועד למערכות הכוללות אלפי ליבות במרכזי נתונים. עם זאת, בשלב זה הליבה פועלת במימוש FPGA בלבד. החברה מציגה הדגמות חיות, אך עדיין לא חשפה שבב מסחרי המבוסס על הארכיטקטורה או מבחני ביצועים עצמאיים מול מאיצים קיימים.
לצד הליבה מפתחת החברה את OxQuilt, פלטפורמה להרכבת מערכת ממספר שבבונים. הארכיטקטורה נועדה לחבר באותה מארזת שבבוני חישוב, זיכרון וקישוריות, ולאפשר ללקוח לבחור את היחס ביניהם בהתאם לסוג עומס העבודה.
לדוגמה, מערכת המיועדת לאימון מודלים יכולה להקצות שטח גדול יותר למנועי חישוב, ואילו מערכת המיועדת להרצת מודלי שפה גדולים עשויה לדרוש יותר זיכרון ורוחב פס. החברה אומרת כי OxQuilt לא תהיה קשורה למפעל ייצור, סוג זיכרון או תהליך ייצור מסוים, ותוכל לתמוך בתקני קישוריות ובטכנולוגיות אריזה ממקורות שונים.
ניסיון לצמצם את התלות ב־CUDA
החלק המשמעותי ביותר במערכת התוכנה של OXMIQ הוא OxPython. לדברי החברה, השכבה נועדה לאפשר ליישומי Python שפותחו עבור CUDA של אנבידיה לפעול על מאיצים של חברות אחרות, ללא שינויים בקוד או הידור מחדש.
גרסה ראשונה של המערכת מיועדת לפעול על מאיצי Wormhole ו־Blackhole של Tenstorrent. מנכ"ל Tenstorrent, ג'ים קלר, אמר כי הטכנולוגיה עשויה לשפר את ניידות התוכנה ולאפשר למפתחים להעביר עומסי Python ו־CUDA בין פלטפורמות חומרה שונות. (oxmiq.ai)
זהו יעד שאפתני במיוחד. כוחה של אנבידיה אינו נובע רק מביצועי המעבדים הגרפיים שלה, אלא גם מסביבת CUDA, הכוללת ספריות, כלי פיתוח, מהדרים ומערכות תוכנה שנבנו במשך קרוב לשני עשורים. חברות רבות ניסו ליצור שכבות תאימות או כלי המרה, אך תאימות ליישום מסוים אינה שקולה בהכרח לתמיכה מלאה בכל המערכת האקולוגית של CUDA.
גם OXMIQ עצמה מרחיבה את ההתמקדות מעבר לתאימות ברמת היישום. החברה מפתחת את OxCapsule, מערכת המאפשרת לנהל חומרה הטרוגנית ולהקצות עומסי עבודה למעבדים ולמאיצים שונים. לפי EE Times, חלק מהתוכנה מבוסס על טכנולוגיה שקיבלה OXMIQ ברישיון מאינטל.
למרכזי נתונים גדולים מפתחת החברה מערכת נוספת בשם OxFactory. לדברי קודורי, ניהול אלפי מאיצים מחייב טיפול בתקלות חומרה, שיבושי רשת וחלוקת משימות בהיקף השונה מהותית מזה של מחשב אישי או מערכת קצה. OxFactory אמורה לשמש שכבת תזמור עבור “מפעלי AI” הכוללים אלפי מעבדים ומאיצים מסוגים שונים.
לא רק ספקית IP
למרות ההשוואה ל־Arm, OXMIQ אינה מתכוונת להסתפק במכירת רישיונות. החברה מתכננת לספק גם שירותי תכנון לשבבים מותאמים אישית ולמערכות שלמות למרכזי נתונים. בכך היא עשויה להתחרות, לפחות בחלק מהפרויקטים, בברודקום, מארוול ו־MediaTek, המסייעות לענקיות ענן לפתח מאיצים ייעודיים.
קודורי טוען כי העלייה החדה בעלות הקמת תשתיות AI משנה את הכלכלה של פיתוח שבבים מותאמים. לדבריו, כאשר ציוד מרכז נתונים בהספק של 100 מגה־ואט המבוסס על מאיצים מתקדמים עשוי לעלות מיליארדי דולרים, השקעה של כמאה מיליון דולר בפיתוח שבב ייעודי עשויה להפוך לכדאית. עם זאת, מדובר בהערכות של החברה, ולא בנתונים שהוכחו עדיין באמצעות פרויקט מסחרי המבוסס על OxCore. (EE Times)
החברה מסרה כי היא כבר פועלת עם מספר לקוחות לקראת הפיכת הקניין הרוחני שלה לשבבים ממשיים. כספי הגיוס ישמשו להשלמת חבילות ה־IP הראשונות, להרחבת פעילות התכנון ולגיוס מהנדסים נוספים. קודורי אמר כי הוא מעוניין לשמור על צוות קטן יחסית, המונה עשרות עובדים, ולהסתייע בכלי תכנון מבוססי בינה מלאכותית ובשותפים חיצוניים.
OXMIQ מציגה שילוב מעניין של מודל רישוי המזכיר את Arm, ליבת GPU מותאמת ל־AI, שבבונים ותוכנה שנועדה לצמצם את התלות באנבידיה. אולם הדרך מהדגמת FPGA למוצר מסחרי ארוכה. הצלחתה תהיה תלויה ביכולת להציג שבבים מיוצרים, לקוחות משלמים, תאימות תוכנה רחבה ותוצאות ביצועים וצריכת חשמל שניתן להשוות למאיצים הקיימים בשוק.
