"לפני כמה שנים, כשהתחלנו לפתח שבבים משלנו, הרבה אנשים חשבו שזה משוגע. שמענו הרבה אותן טענות – למה להשקיע בזה, למה להשקיע בצוות ובעלויות הקבועות האחרות כדי לפתח שבב משלכם כשאפשר לקנות מספקים אחרים?" אמר ג'אסי בכנס שערכה לאחרונה החברה
AWS הכריזה על הדור הרביעי של שבב המעבד Graviton4 ועל שבב ה-ML Trainium2 מדור שני. Graviton4 מספק עד 30% ביצועים טובים יותר ו-75% רוחב פס זיכרון גבוה יותר בהשוואה ל-Graviton3. הוא יספק את המחיר הטוב ביותר והיעילות האנרגטית הטובה ביותר למגוון רחב של עומסי עבודה.
Trainium2 תוכנן לאפשר אימון מודלים עד 4 פעמים יותר מהר משבבי Trainium מדור ראשון. ניתן יהיה לפרוס אותו ב-EC2 UltraClusters של עד 100,000 שבבים, מה שיאפשר אימון מודלים גדולים של שפה ומודלי יסוד אחרים בשבריר מזמן האימון הנוכחי, תוך שיפור היעילות האנרגטית כמעט פי שניים.
החדשנות בשבבים של AWS מאפשרת ללקוחות להאיץ את העומסים שלהם, כולל יישומי ML ו-AI, בעלות נמוכה יותר ופחות אנרגיה.
אנדי ג'אסי – מנכ"ל ונשיא אמזון אמר במהלך ההכרזה בכנס Amazon Re:invent 2023: "לפני כמה שנים, כשהתחלנו לפתח שבבים משלנו, הרבה אנשים חשבו שזה משוגע. שמענו הרבה אותן טענות – למה להשקיע בזה, למה להשקיע בצוות ובעלויות הקבועות האחרות כדי לפתח שבב משלכם כשאפשר לקנות מספקים אחרים?"
"למרות שידענו שנשתף פעולה עם אותן החברות בעתיד הנראה לעין, אם הלקוחות שלכם אומרים לכם שהם צמאים לביצועים טובים יותר תוך כדי חיסכון בעלויות, ואתם נדרשים מתוך מה שהופך את חיי הלקוחות טובים יותר וקלים יותר בכל יום, אתם חוקרים אפשרויות כדי להגשים זאת. הבנו די מהר שתכנון השבבים שלנו עצמנו הולך להיות הנתיב הטוב ביותר לספק ערך זה עבור הלקוחות. "
"הצלחנו למצוא ולהצטרף לצוות המדהים של Annapurna Labs, שהתחילו עם שבב (בשם Nitro) שהעביר עומס מהשרתים שלנו תפקודים כמו אבטחה, רשת ווירטואליזציה כך שהלקוחות יכלו לנצל יותר את משאבי השרת מבעבר. אז אותו הצוות בנה שבב CPU לשימוש כללי פורץ דרך, Graviton, שהיה פופולרי מאוד בקרב לקוחות ובעל השפעה גדולה, לפני שיצא לדרך לבנות שבבי AI מותאמים אישית – Trainium עבור אימון מודלים ו-Inferentia עבור הסקת מסקנות – שגם הם זוכים לתחילת דרך חזקה."
אני מתרגש מאוד מהשקת השבבים האחרונים שלנו בכנס AWS re:Invent: Graviton4 ו-Trainium2. ."
Graviton4 מסמן את הדור הרביעי שסיפקנו בתוך חמש שנים בלבד, והוא השבב הרב-תכליתי החזק ויעיל ביותר מבחינת אנרגיה שבנינו עד כה. ועם העניין הגואה ב-AI יוצר, Trainium2 יעזור ללקוחות לאמן את המודלים של ML שלהם מהר יותר, ביחס מחיר-ביצועים טוב יותר.
"אני ממש גאה בקצב החדשנות שהצוותים שלנו מספקים ובמה שזה מאפשר ללקוחות". סיכם ג'אסי.
