גוגל מגבירה את המאמצים להפוך את שבבי ה־TPU שלה מחומרה המזוהה בעיקר עם מרכזי הנתונים ושירותי הענן שלה לחלופה מסחרית רחבה יותר למערכות הבינה המלאכותית של אנבידיה. לצד פיתוח דורות חדשים של מאיצים, החברה משתמשת במאזן הכספי שלה כדי לסייע במימון מרכזי נתונים שיתבססו על חומרת גוגל.

המהלך אינו מסתכם בתחרות טכנולוגית בין שבבים. גוגל בונה סביב ה־TPU מערך הכולל מרכזי נתונים, רשתות תקשורת, תוכנה, מימון ושירותי ענן – מודל הדומה במידה מסוימת לאסטרטגיית המערכת המלאה של אנבידיה.

עם זאת, אין פירוש הדבר שגוגל כבר מוכרת שבבי TPU כמוצר מדף שניתן לרכוש ולהתקין בכל שרת. ההתרחבות מתבצעת בעיקר באמצעות שירותי מחשוב, מתקנים ייעודיים ושותפים שיציעו קיבולת TPU מחוץ למסגרת הרגילה של Google Cloud.

ערבויות המקלות על הקמת מרכזי נתונים

אחד הכלים המרכזיים באסטרטגיה הוא מתן ערבויות להתחייבויות של חברות השוכרות מרכזי נתונים. הערבות של גוגל מפחיתה את הסיכון מבחינת הבנקים והמשקיעים, ומאפשרת ליזמים לגייס חוב בתנאים נוחים יותר.

במתחם Lake Mariner שבמדינת ניו יורק חתמה מפעילת מרכזי הנתונים TeraWulf על הסכמים ארוכי טווח עם ספקית הענן Fluidstack. גוגל התחייבה לגבות חלק מהתחייבויות השכירות של Fluidstack בסכום מצטבר של כ־3.2 מיליארד דולר.

בתמורה קיבלה גוגל כתבי אופציה המאפשרים לה לרכוש מניות של TeraWulf במחיר סמלי. לפי הודעות החברה, מימושם עשוי להעניק לגוגל החזקה של כ־14% ב־TeraWulf. המתקנים מיועדים לעומסי מחשוב עתירי ביצועים ולמערכות בינה מלאכותית, ובהם עומסים של חברת Anthropic.

בפרויקט נוסף באברנתי שבטקסס מעניקה גוגל גיבוי של כ־1.3 מיליארד דולר להתחייבויות Fluidstack. המתקן אמור לספק בשלב הראשון כ־168 מגה־ואט של עומס מחשוב קריטי, במסגרת חוזה לתקופה של 25 שנה.

המשמעות היא שחלק מההון שגוגל מתחייבת להעמיד מסייע בהקמת תשתית שבה יותקנו מערכות המבוססות על השבבים, הרשתות והתוכנה שלה. כך החברה יוצרת ביקוש ל־TPU ובמקביל מפחיתה את סיכון המימון של הפרויקטים.

בלקסטון תשקיע חמישה מיליארד דולר בענן TPU חדש

בחודש מאי הודיעו גוגל ובלקסטון על הקמת חברה אמריקנית חדשה שתציע קיבולת מחשוב המבוססת על TPU. בלקסטון התחייבה להשקעה ראשונית של חמישה מיליארד דולר, והיעד הוא להפעיל במהלך 2027 תשתית בהספק של כ־500 מגה־ואט.

החברה החדשה תציע מרכזי נתונים, תפעול, רשתות ושבבי TPU במודל של מחשוב כשירות. בכך היא צפויה להתחרות בספקיות הענן המתמחות בבינה מלאכותית, ובהן CoreWeave ו־Nebius, שבנו חלק גדול מפעילותן סביב מערכות אנבידיה.

עבור גוגל, המיזם מספק ערוץ הפצה נוסף שאינו מחייב את הלקוח לצרוך את ה־TPU רק דרך סביבת Google Cloud הרגילה. מדובר בצעד משמעותי בדרך להפיכת השבבים לפלטפורמה חיצונית, אף שעדיין אין זו מכירה חופשית של השבב הפיזי ללקוחות.

גוגל מפצלת את הדור החדש לאימון ולהסקה

בכנס Google Cloud Next חשפה החברה שני מאיצים מהדור השמיני: TPU 8t המיועד בעיקר לאימון מודלים גדולים, ו־TPU 8i המותאם להסקה, למודלי חשיבה וללמידת חיזוק.

ה־TPU 8i כולל 384 מגה־בייט של זיכרון SRAM על השבב ו־288 גיגה־בייט של זיכרון ברוחב פס גבוה. גוגל טוענת כי הוא מספק שיפור של עד 80% ביחס ביצועים־למחיר לעומת דור Ironwood בעומסי הסקה בעלי השהיה נמוכה. ארכיטקטורת החיבור שלו מאפשרת לקשר 1,152 מאיצים במערך אחד.

ההפרדה בין שבב אימון לשבב הסקה משקפת את השינוי בשוק. ככל שיותר מודלים נכנסים לשימוש מסחרי, עלות הפעלתם ומענה למשתמשים נעשית חשובה לא פחות מעלות האימון הראשוני.

Anthropic משמשת לקוח עוגן

חברת Anthropic, מפתחת מודלי Claude, היא הלקוחה החיצונית הבולטת ביותר של ה־TPU. באפריל היא הרחיבה את שיתוף הפעולה עם גוגל וברודקום להספק של כמה גיגה־ואט של מערכות TPU מהדור הבא.

ההסכם מספק לגוגל לקוח עוגן בהיקף גדול, אך גם מדגיש את אחד האתגרים שלה: פעילות ה־TPU החיצונית עדיין מרוכזת במספר קטן יחסית של לקוחות גדולים.

מנכ״ל אנבידיה ג׳נסן הואנג טען כי Anthropic היא הלקוחה החיצונית המשמעותית היחידה של ה־TPU, וכי טווח השוק של אנבידיה רחב בהרבה. הוא גם הטיל ספק בטענות ליתרון עלויות של מאיצים ייעודיים לעומת המערכות של אנבידיה.

גוגל מציגה דוגמאות נוספות. Citadel Securities מסרה כי היא משתמשת במערכות Ironwood TPU לעומסי מחקר מסוימים וכי באותם עומסים השיגה שיפור של פי שניים עד פי ארבעה במהירות, לצד ירידה של כ־30% בעלויות. מדובר בנתוני לקוח הנוגעים לעומסים מוגדרים, ולא בהשוואה כללית בין כל מערכות גוגל ואנבידיה.

היתרון של אנבידיה עדיין משמעותי

אנבידיה ממשיכה לשלוט ברוב שוק מאיצי הבינה המלאכותית החיצוני. יתרונה אינו מבוסס רק על ביצועי ה־GPU, אלא גם על סביבת CUDA, ספריות תוכנה, מערכות תקשורת מהירות, מתגים, שרתים ורשת רחבה של יצרנים וספקי ענן.

לקוחות יכולים לרכוש מערכות אנבידיה ממספר גדול של יצרנים ולהריץ עליהן מגוון רחב של מודלים וכלי תוכנה. לעומת זאת, ה־TPU נותר קשור באופן הדוק יותר לתשתית ולתוכנה של גוגל.

גוגל גם אינה מנתקת את קשריה עם אנבידיה. Google Cloud ממשיכה להציע מערכות GPU של אנבידיה, ומתכננת להפעיל מופעים המבוססים על פלטפורמת Vera Rubin. שתי החברות משתפות פעולה גם בפיתוח טכנולוגיות תקשורת למרכזי נתונים.

זווית ישראלית במאמץ השבבים

בפיתוח השבבים של גוגל יש גם מרכיב ישראלי. אורי פרנק, לשעבר בכיר באינטל ישראל, משמש סגן נשיא להנדסה ומנהל את צוות Chip Implementation and Innovation של גוגל.

הצוות אחראי על הגדרה ופיתוח של שבבים לתשתיות גוגל, ובהם מאיצי למידת מכונה, שבבי תקשורת ומאיצים לעיבוד וידאו. פרנק הצטרף לגוגל ב־2021 לאחר כ־25 שנים באינטל, והיה שותף להרחבת פעילות פיתוח החומרה של החברה בישראל.

מעל פעילות התשתיות עומד כיום אמין והדאת, שמונה בסוף 2025 לטכנולוג הראשי לתשתיות בינה מלאכותית בגוגל. תחומי אחריותו כוללים שבבים מותאמים, מרכזי נתונים, רשתות, שרשרת אספקה ותפעול.

מאבק על פלטפורמת המחשוב של עידן ה־AI

היקף ההשקעה מלמד כי גוגל אינה רואה ב־TPU רק אמצעי להפחתת התלות שלה באנבידיה. החברה מבקשת ליצור עסק חיצוני שימכור כוח מחשוב, תוכנה ותשתית המבוססים על השבבים שפיתחה.

אלפאבית אף הגדילה ביוני גיוס הון מתוכנן לכ־84.75 מיליארד דולר, שנועד בין היתר לתמוך בהוצאות ההון הגדלות על מרכזי נתונים ותשתיות בינה מלאכותית.

בטווח הקרוב, ה־TPU אינו צפוי להדיח את אנבידיה ממעמדה. אולם ערבויות המימון, שותפות הענן עם בלקסטון, ההסכם רחב ההיקף עם Anthropic והרחבת מגוון השבבים מעידים כי גוגל כבר אינה מסתפקת בשימוש פנימי. היא מנסה להפוך את ה־TPU לפלטפורמה מסחרית שתתחרה על חלק גדול יותר משוק תשתיות הבינה המלאכותית.

הפוסט גוגל מרחיבה את ה־TPU מעבר לענן שלה ומגבירה את הלחץ על אנבידיה הופיע לראשונה ב-Chiportal.

קריסתו של חוק מור חייבה את חברות הטכנולוגיה לפתח שבבים ייעודיים לעומסים שלהם. כך הסביר אורי פרנק סגן נשיא להנדסה בגוגל העולמית ומנהל מרכז הפיתוח של גוגל בישראל בכנס ChipEx2021 שהתקיים שלשום (21/6/2021) במרכז הכנסים אקספו תל אביב.

כנס ChipEx2021 בארגון חברת ASG היה הכנס הפיזי הראשון של תעשיית השבבים בישראל מזה שנתיים (בשנה שעברה התקיים באופן וירטואלי עקב מגפת הקורונה) וכלל עשרה מושבים מקצועיים וכן תערוכה שבה השתתפו חברות רבות.

"אציג בפניכם את השבבים שאנו מפתחים לענן – זו הסיבה לכניסת השחקניות הגדולות לתחום השבבים."
"בשנים האחרונות מדברים על המוות של חוק מור. זה לא מדויק. חוק מור הוא חוק כלכלי כמובן. היכולת לצופף הרבה יותר טרנזיסטורים בשטח נתון ובמחיר קבוע לא מצליחה. השבבים ממשיכים להשתכלל אבל המחירים לא נשארים קבועים אלא אף עולים. היום המצב בשוק השבבים גרוע יותר בגלל המחסור והמחירים עולים, כמי שמפעילים מרכזי נתונים אנחנו צריכים להתמודד עם הבעיה.
מלבד המחיר, גם הביצועים לא גדלים משמעותית. הענן לעומת זאת צומח בזכות שירותים רבים כמו למשל הגידול בשימוש ביוטיוב או הכשרת בינה מלאכותיית. מצד אחד יש לנו גידול בדרישה אך המחירים לא יורדים והביצועים עולים בקושי ויש עלינו לחץ כלכלי גדול לספק כוח עצום. בגלל זה התקבלה החלטה בגוגל שהיא חייבת להיכנס לתחום הסיליקון כדי לפתח שבבים שיענו בדיוק על עומסי העבודה שגוגל נדרשת להם, כלומר שבבים ייעודיים לענן ומותאמים לצרכים שלנו.. השיפורים שהכנסנו בגרסה השניה של השבבים איפשרו לנו להגדיל את הביצועים פי 27 ובמחיר נמוך ב-38%.

גישה נוספת חשובה של גוגל היא לשפר ביצועים של שרתים ישנים בדרכים שונות, בעיקר באמצעות גילוי באגים. לדבריו, השרתים מתווספים כל הזמן והשרתים הישנים לא מתים עד שלא קורית תקלה שמשביתה אותם. ראינו שזה מוצלח והוצאנו את השירות גם החוצה.
"גוגל אינה חברות חומרה . אנחנו לא רוצים להיות חברה כזו ולכן אנחנו מאמינים ומיישמים את הקוד הפתוח כדי לאפשר לכל השוק לזוז קדימה. אנחנו חייבים להיות שקופים. כמובן שלא נשחרר את הקוד של מערכת החיפוש אבל דברים רבים ניתן לשחרר ולטובת התעשייה כולה."

עוד בנושא:
אפל, אמזון וגוגל ישתתפו לראשונה בכנס ChipEx2021
התעלומה נפתרה: אורי פרנק יעמוד בראש המרכז החדש לפיתוח שבבים של Google בישראל

הפוסט אורי פרנק, מנהל פיתוח השבבים של גוגל ישראל ב-ChipEx: גוגל מפתחת שבבים כדי לספק את עומסי העבודה הדרושים לנו הופיע לראשונה ב-Chiportal.

כזכור,CHIPORTAL היה הראשון שפרסם על עזיבתו של פרנק את אינטל. (אורי פרנק פורש במפתיע מאינטל).

פרנק שעבד באינטל בתכנון ואספקת מחשוב בהתאמה אישית (costum compute), יקים צוות בינלאומי שיפעל מישראל. "Google גאה בתמיכתה בחדשנות הישראלית לאורך השנים, הכוללת מרכז מו"פ בחיפה ובתל אביב, בהובלתו של יוסי מטיאס, לצד תמיכתה בקהילת הטכנולוגיה והסטארט-אפים הישראלית. נאמר בהודעת החברה שמוסיפה כי: " מזה שנים אנחנו רואים בישראל כמקור של חדשנות, כולל בתחום החיפוש, הבינה המלאכותית, waze, חיזוי שטפונות, וכלי המעבר לענן של Velostrata, ואנו מצפים להגדיל את נוכחותנו בתחומים נוספים במרכז חדשנות עולמי זה".

הצוות של אורי יחזק את המחויבות של Google לשבבים בהתאמה אישית, תוך מינוף החדשנות הרבה של החברה בתחום. בשנת 2015 השיקה Google את היחידה לעיבוד טנזורים (TPU). ללא TPU, רבים משירותיה, כמו חיפוש קולי בזמן אמת, זיהוי אובייקט תמונה ותרגום אינטראקטיבי לשפה, לא היו מתאפשרים. בשנת 2018 השיקה החברה את יחידות עיבוד וידאו (VPU) כדי לאפשר הפצת וידאו למגוון פורמטים. ללא VPU, תמיכה בביקוש הגובר לתקשורת וידאו איכותית בזמן אמת הייתה קשה מאוד לביצוע. ב-2019 הושק OpenTitan, פרויקט עיצוב שבבים מאובטח, בעל הקוד הפתוח הראשון מסוגו. בנוסף, פיתחה החברה פתרונות חומרה מותאמים אישית, החל מכונני SSD ועד כוננים קשיחים, מתגי רשת וכרטיסי ממשק רשת, לרוב בשיתוף פעולה מעמיק עם שותפים חיצוניים.

כיצד יראה העשור הבא בענף המחשוב?

פרנק: "תחום המחשוב ב-Google נמצא בנקודת מפנה חשובה: עד כה, נקודת האינטגרציה שלנו היתה לוח-האם (motherboard), בה היינו מרכיבים מעבדים, רשת, התקני אחסון, מאיצים מותאמים אישית וזיכרון. כולם יוצרו על ידי ספקים שונים, למערכת המותאמת של Google. אבל זה לא מספיק יותר. בשביל להשיג ביצועים משופרים ולהשתמש בפחות כוח, עומסי העבודה שלנו דורשים אינטגרציה עמוקה יותר בחומרה הבסיסית. במקום לשלב רכיבים בלוח-האם, המופרדים על ידי סנטימטרים של חוטים, אנחנו עוברים לעיצובי "מערכות על שבב" (SoC) בהם אותו השבב ממלא פונקציות מרובות, או על מספר שבבים בתוך חבילה אחת. במילים אחרות, SoC הוא לוח האם החדש."

ב- SoC, אורך ורוחב הפס יכולים להיות בסדרי גודל טובים יותר בין רכיבים שונים, עם הספק ועלות מופחתים בהשוואה להרכבת ASICs בודדים על הלוח-אם. בדיוק כמו בלוח-אם, יחידות פונקציונליות בודדות (כגון מעבדים, TPU, קידוד וידאו, הצפנה, דחיסה, תקשורת מרחוק, סיכום נתונים מאובטח ועוד) מגיעות ממקורות שונים. אנו קונים היכן ומתי שהגיוני לעשות זאת, בונים בעצמנו כאשר אנו חייבים, ושואפים לבנות מערכות אקולוגיות המועילות לתעשייה כולה.

יחד עם מערכת השותפים הגלובלית, שתתחזק הודות למנהיגותו של אורי, Google מכוונת להיות בחזית החדשנות בתחום תשתיות המחשוב, לספק את הדור הבא של יכולות שאינן זמינות במקומות אחרים, ולהכשיר את הקרקע לדור הבא של יישומים ושירותים שעדיין לא ניתן לדמיין.

הפוסט התעלומה נפתרה: אורי פרנק יעמוד בראש המרכז החדש לפיתוח שבבים של Google בישראל הופיע לראשונה ב-Chiportal.