השבב החדש יחליף את שבבי Nvidia שהיו בשימוש על ידי אלכסה עד כה ולטענת אמזון, תגביר את המהירות של העוזרת הקולית ותהפחית את דרישות האנרגיה שלה, לדברי החברה, תוך מתן שליטה רבה יותר לאמזון על העוזרת הקולית שלה
אלכסה מעבירה את רוב פעילותה לשבב המחשב Inferentia המיוצר על ידי אמזון. השבב החדש יחליף את שבבי Nvidia שהיו בשימוש על ידי אלכסה עד כה ולטענת אמזון, תגביר את המהירות של העוזרת הקולית ותהפחית את דרישות האנרגיה שלה, לדברי החברה, תוך מתן שליטה רבה יותר לאמזון על העוזרת הקולית שלה.
השבבים של Nvidia שימשו כמערכת האיחסון המרכזית של אלכסה. השבבים מעבירים את השאלות והפקודות של משתמשי אלכסה למרכזי הנתונים של Amazon Web Services בענן ומעבדים את התשובה מטקסט לדיבור. עכשיו, שבבי "אינפרנטיה" יבצעו מעתה את התפקיד. אמזון הכריזה על השבבים המותאמים אישית הארוכים לפני שנתיים וחשפה אותם במצגת בשנה שעברה. הם בנויים במיוחד עבור משימות למידת מכונה המרכיבות חלק גדול מעבודתה של אלכסה, כמו זיהוי שפה ותמונות ויצירת תגובה מתאימה. יחד עם אלכסה, שבבי Inferentia ישמשו כעת עבור תכונת זיהוי הפנים של אמזון, Rekognition. המטרה המרכזית של בניית השבב המותאם אישית הייתה שיפור המהירות והיעילות של אלכסה בהשוואה למודל הנוכחי.
"[באמצעות השבבים החדשים] הביאנו לשיהוי נמוך יותר ב-25% מקצה לקצה, ועלות נמוכה ב-30% בהשוואה למופעים מבוססי GPU עבור עומסי העבודה של אלכסה מטקסט לדיבור", הסביר סבסטיאן סטורמק בפוסט בבלוג מפתחי AWS על השינוי. "השיהוי הנמוך מאפשרת למהנדסי אלכסה להפעיל אלגוריתמים מורכבים יותר ולשפר את חוויית אלכסה הכוללת עבור לקוחותינו."
שבבים בתוך הבית
אמזון לא לבד בחפש להחליף את Nvidia ויצרניות שבבים ייעודיות אחרות עם בחירות מתוצרת פנימית, ללא ענן או בכל דרך אחרת. גוגל עובדת לכאורה עם סמסונג כדי לעצב מעבד,ששמו ככל הנראה Whitechapel, עבור טלפונים חכמים מדגם פיקסל ומחשבי Chromebook. השבב אמור לגרום ל-Google Assistant לתפקד טוב יותר בשני סוגי המכשירים. השבב החדש יחליף את השבבים שנבנו על ידי קוואלקום שנמצאים כעת בשימוש. גוגל מוסיפה באופן עקבי שיפורים חדשים ליכולות של Google Assistant, ושדרוגי חומרה נחוצים כדי ללכת עם התוכנה. שבב מותאם אישית יכול לשרת מטרה זו טוב יותר מאשר אחד עם שימוש רחב יותר.
אפל גם החלה לחפש שבבים פנימיים. החברה גם נכנסה לקו החדש ביותר שלה של מחשבי Mac, באמצעות שבבים מבוססי ARM שהיא פיתחה במקום השותף הרגיל שלה, אינטל. סביר להניח שאפל מתכננת לשפר גם את היעילות והמהירות של סירי עם שבבים משלה, אם כי אולי תתן דגש על עיבוד במכשירי הקצה שהשבב החדש של אמזון מתעלם ממנו. זו עשויה להיות חלק מהסיבה שאפל רכשה את סטארט-אפ הבינה המלאכותית Xnor.ai בינואר תמורת 200 מיליון דולר מוקדם יותר השנה. טכנולוגיית למידת מכונה בצריכת חשמל נמוכה של Xnor מתוכננת לפעול ללא הענן, דבר שיאפשר פעולות יעילות ומהירות יותר.
.