"הדור הבא של תשתיות AI נבנה בישראל – מהרשת ועד לשבב". כך אמר עדי חבושה, הארכיטקט הראשי של AWS ישראל בכנס ChipEx2025 שהתקיים בשבוע החולף במרכז הכנסים אקספו ישראל בארגון חברת ASG.

"אנחנו עדים למהפכה", פתח חבושה. "חברות שהיו פעם רק תוכנה או אינטרנט – הפכו בשנים האחרונות לחברות שבבים. אמזון הפכה לשחקנית בתחום עם רכישת Annapurna Labs הישראלית, וכל המעבדים המרכזיים של AWS היום מפותחים כאן בישראל."

לדבריו, הדרישות ממערכות עיבוד בענן חורגות כבר מזמן ממעבדים בלבד. "חישובים כמו חיזוי מזג אוויר, הדמיות רכב אוטונומי או אימון של מודלים כמו GPT דורשים לא רק עוצמת מחשוב, אלא גם רשת תקשורת פנימית חזקה מאוד – מהירה, מדויקת, ועמידה בעומסים."

חבושה הדגיש כי אמזון פיתחה בישראל פרוטוקול רשת ייחודי בשם SRD – Scalable Reliable Datagram, שמחליף את TCP ברוב מערכות ה-HPC של AWS. "TCP פשוט לא מספיק טוב למערכות מבוזרות. הוא בוחר מסלול אחד בלבד, וכשיש תקלה או עומס – כל התעבורה נפגעת. SRD לעומת זאת, משתמש בכל הנתיבים ברשת, מפזר את התעבורה, ומגיב לתקלות מיידית."

עוד הוסיף: "העיקרון החשוב הוא שהשהיה נמוכה לא נמדדת בממוצע – אלא לפי ה־P100. זה אומר שאנחנו בונים רשתות שמבטיחות לא רק מהירות, אלא יציבות. כי כשמודל AI עובר שלב, הוא לא יכול להמשיך אם ההשהיה בקצה הכי איטי עוצרת אותו."

בהמשך ההרצאה התייחס חבושה למאיצי Trn2 של AWS: "זהו שבב ללמידת מכונה שתוכנן כולו בישראל. הוא מספק מעל 1.3 פטאפלופ של עיבוד צפוף, עם זיכרון HBM מהיר ונפח עצום, ורוחב פס פנימי של כמה טרה-בייטים לשנייה."

אך לא די במחשב יחיד: "אנחנו מדברים על קנה מידה של מאות אלפי מאיצים, מחוברים יחד בתשתית בשם UltraCluster, שמבוססת על רשת Nitro. אנחנו קוראים לפרויקט הזה פנימית ‘10P10U’ – תעבורה של עשרות פטאביט לשנייה בפחות מ-10 מיקרושניות."

לדבריו, שיתוף פעולה בולט של AWS נעשה כיום עם מעבדת הבינה המלאכותית Anthropic: "אנחנו בונים עבורם אשכול אימון עצום, הכולל מאות אלפי שבבי Trn2 ורשת Nitro. הכול פותח כאן – בישראל. מהשבב ועד לכבל."

חבושה סיכם את דבריו באמירה אופטימית: "אנחנו נכנסים לעשור שבו הדרישה למחשוב הולכת להכפיל את עצמה שוב ושוב. זה מחייב אותנו לחדש – בארכיטקטורה, ברשת, בסיליקון, ובתוכנה. וזה בדיוק מה שאנחנו עושים."

הפוסט עדי חבושה, AWS ישראל: "הדור הבא של תשתיות AI נבנה בישראל – מהרשת ועד לשבב" הופיע לראשונה ב-Chiportal.

עדי חבושה, המהנדס הראשי ב- AWS ישראל והאדריכל הראשי של מעבדי AWS Graviton, השתתף אתמול בכנס ChipEX2024 ודיבר על האתגרים והפתרונות בניהול מרכזי נתונים ועיבוד נתונים בענן בהרצאה שנערכה לאחרונה. חבושה התמקד בכיצד חברות מתמודדות עם צריכת מחשוב שיא והשפעתה על יעילות עלות.

"AWS ממשיכה להוביל את החדשנות בתחום המחשוב בענן עם השקתו של שבב Graviton 4, הדור הרביעי של שבבי ARM שלה, שנועד להגביר את הביצועים והיעילות בעלויות עבור לקוחותיה. שבב זה מיוצר על ידי Annapurna Labs, חברה ישראלית שנרכשה על ידי AWS לפני מספר שנים, והוא מציע חידושים טכנולוגיים שממשיכים להעמיק את ההשפעה של טכנולוגיות מבוססות ARM בעולם הענן." הסביר חבושה.

"Graviton 4 מוביל את המעבר לטכנולוגיות ירוקות יותר במרכזי נתונים באמצעות שיפור ניכר ביעילות האנרגטית, מה שמאפשר לחברות לצמצם את טביעת הפחמן שלהן תוך שמירה על ביצועים גבוהים. השבב כולל מבנה מתקדם של זיכרון ומטמון, שמאפשר גישה מהירה יותר לנתונים ותוצאות מהירות יותר בפעולות מרובות שמבוצעות במקביל. בנוסף, שבב Graviton 4 מעניק יתרון תחרותי בפיתוח ובהרצת פרויקטים בתחום ה-Electronic Design Automation (EDA), תוך שהוא מציע ביצועים משופרים באופן משמעותי לכלי עיצוב ואימות שבבים. הוא מאפשר למעצבים להפחית את זמני ההמתנה ולשפר את יעילות הפרויקטים.

"AWS גם מדגישה את השילוב של שבבי Graviton 4 במערכת Nitro, מערכת אבטחה ייעודית שנועדה לשפר את הביטחון ולמקסם את ביצועי המחשב. מערכת זו מבטיחה שליטה מלאה וביצועים כמעט של מתכת חשופה, מה שמשפר את חווית המשתמש ומאפשר גמישות רבה יותר בניהול משאבים." אמר חבושה.

חבושה גם הוסיף שתכנון לפי צריכת שיא יכול להוביל למשאבי מחשוב בטלים ברוב הזמן, מה שאינו יעיל מבחינת עלויות. במקום זאת, חברות רבות בוחרות לתכנן את כוח העיבוד שלהן סביב רמה ממוצעת של שימוש, תוך חיפוש אחר דרכים להתמודד עם שיאים תוך כדי שמירה על יעילות עלות.

חבושה דיבר גם על היתרונות של ריצת מערכות בענן של AWS לעומת מרכזי נתונים מקומיים. עם AWS, חברות יכולות להתמודד עם צריכת שיא באופן גמיש יותר, כאשר הן יכולות להוסיף משאבי מחשוב במהירות כשצריך ולשחרר אותם כשהם פנויים. זה מאפשר להם לבצע אימות וסימולציות בזמן אמת ולנהל את הפרויקטים שלהם בצורה יעילה יותר.

הוא גם נכנס לפרטים על אופציות הרכישה של כוח מחשוב ב-AWS. האופציה הבסיסית היא "בדרישה", שבה הלקוחות משלמים עבור השימוש כפי שהם משתמשים, כמו בשימוש במים בבית. יתר על כן, קיימות אופציות להנחות משמעותיות כאשר לקוחות מתחייבים לכמות מסוימת שלמשאבי מחשוב לשנה או שלוש." ויש גם מה שהוא מכנה "השפעות ספורט", שהן קיבולת עודפת במרכזי נתונים של AWS שניתן לרכוש בהנחה עמוקה, אך עם הסיכון שהמשאבים יוסרו בהתראה קצרה. תהליכים שאינם רגישים לקריסות יכולים להתאים היטב לאופציית הספורט, מה שמאפשר חיסכון גדול בעלויות.

הפוסט ChipEx2024: עדי חבושה, AWS: "לא צריך יותר לתכנן מיחשוב לתקופות שיא" הופיע לראשונה ב-Chiportal.