ChipEx2021: "בינה מלאכותית בקצה זה הרבה יותר מ-IOT"

כך אומר ד"ר דיפו טאלה סגן נשיא אנבידיה למחשוב קצה ומחשוב משובץ שהרצה על ההשפעה של טכנולוגיות קצה על הדור הבא של המיחשוב וכיצד המעבר לבינה מלאכותית בקצה דרש שינויים בארכיטקטורה של מעבדי טנסור של אנבידיה

בינה מלאכותית בקצה זה הרבה יותר מ-IOT כך אומר ד"ר דיפו טאלה ((Deepu Talla, סגן נשיא אנבידיה למחשוב קצה ומחשוב משובץ שהרצה על ההשפעה של טכנולוגיות קצה על הדור הבא של המיחשוב. ד"ר טאלה דיבר בכנס ChipEx2021 שהתקיים בשבוע שעבר בת"א בארגון ASG. טאלה הציג את הדרך שבה רואה אנבידיה את סביבת הבינה המלאכותית בקצה, וכיצד היא מארגנת את המוצרים שלה לתמיכה במערכות אלה.

"רובכם מכירים את מחשוב הענן ובמיוחד בחמש השנים האחרונות. במקביל רואים התפוצצות של מכשירי IOT ובינה מלאכותית. IOT היום פופלארי מאוד, וכאשר מדברים על מיחשוב בקצה ובינה מלאכותית בקצה מדברים בעיקר על מערכת שנמצאת על המכשיר עצמו לדוגמה מצלמה. ההערכה היא שכיום פרוסים בעולם כ-50-60 מיליארד מכשירי IOT. אבל כל הררי הנתונים הנאספים ממכישרים אלה מגיעים בסופו של דבר לענן ולכן הרעיון היה לקרב את הענן ככל האפשר לקצה."

"כמי שבונים מרכזי נתונים וענן, הדבר מצריך אותנו לפתח מחדש ארכיקטורה המתאימה למצב הקיים בכל השלבים החל מהמעבדים הגרפיים ועד למעבדים למרכזי נתונים."

דיפו המשיך ותיאר את כל שרשרת הערך מהקצה ועד לענן הכוללת מכשירי IOT, מכונות אוטונומיות, מרכזי נתונים בקצה, שרתי קצה, יישומי קצה ו-EDGE GATWEAYS. המידע מכל אלה מעובד בכל שכבה בדרך ובסופו של דבר במרכז הנתונים המאחסן את הענן. צריך להביא בחשבון שהאלגוריתמים המריצים מערכות בינה מלאכותית הלכו ונהיו מורכבים.

"באנבידיה מחלקים את עומסי העבודה ומאיצים את יישומי ההיסק בין ליבות GPU מסוג טנסור, מאיצי למידה עמוקה, הרחבות למעבדים, DSPs FPGA ו-CGRA. תחום למידת חיזוק הופך פופולרי יותר ויותר במיוחד ביישומי בטחון וברובוטים תעשייתיים כי צריך להגיב למצב האמיתי בעתיד. אנו מצפים מהם לפעול כמו בני אדם. אנבידיה מספקת היום את כל קשת המיחשוב (Ccomputing Stack) כך שיתאימו ליישומי בינה מלאכותית החל מארכיטקטורת מיחשוב, דרך כלים וספריות וכן יישומים ו-Frameworks.

דוגמה למסגרת כזו היא ספריה מוכנה לתחום ראיית המכונה ובה מומעות כבר יכולות לזהות בני אדם, מכוניות, קצב הלב, לוחיות רישוי, זיהוי פנים ועוד. ביישומים אלה נעשה שימוש בתעשיות רבות.  בסופו של דבר הספריות המוכנות ויישומים המשתמשים בהם מצבטרים ביחד למערכת Nvidia Fleet Command המאפשרת להטמיע ולנהל באופן מאובטח את מערכות הבינה המלאכותית בקצה.

לסיכום אמר טאלה כי כדי לעשות כל זאת יש צורך בארכיטקטורת מיחשוב טובה ככל שיישומי ההיסק גדלים במורכבות ובמגוון, נעשה גם שימוש במאיצי AI שגם אותם מציעה החברה, ולבסוף, המעטפת שמאפשרת לנהל את מחזור החיים של מוצרי ה-AI משלב הפיתוח, ההטמעה, והניהול בקנה מידה גדול.