הפתרון מתמקד ביישומי LLM ומאיץ את הפיתוח של אקוסיסטמת AI בהתקני קצה
VeriSilicon (688521.SH) הכריזה לאחרונה על השקה משותפת של Coral NPU IP יחד עם Google, תוך התמקדות ביישומי Large Language Model (LLM) בקצה, פעילים תמיד, עם צריכת הספק נמוכה במיוחד. ה-IP מבוסס על מחקר יסודי של גוגל בלמידה חישובית, בלמידה של מהדרים ובשיפור באמצעות תכונות אבטחת AI, מה שמציע למפתחים פלטפורמה מאוחדת בקוד פתוח בה הם יכולים ליצור אקוסיסטמת AI מתוחכמת בהתקני קצה.
Coral NPU מבוסס על ארכיטקטורת הוראות RISC-V הפתוחה, הוא כולל יכולות עיבוד טנסור טבעיות, תמיכה במסגרות למידה חישובית מובילות כגון JAX, PyTorch, ו-TensorFlow Lite (TFLite), והוא עושה שימוש בכלי תקנים פתוחים כגון Multi-Level Intermediate Representation (MLIR) מפרויקט Low Level Virtual Machine (LLVM) עבור תשתית המהדרים. הפתרון מתוכנן עבור יישומי AI פעילים תמיד עם צריכת הספק נמוכה במיוחד בהתקני קצה, במיוחד בהתקנים לבישים ובמערכות לחישת סביבה.
כעת Coral NPU IP מוצע כפתרון קוד פתוח באתר Google Developers והוא זמין עבור מפתחים ברחבי העולם. VeriSilicon תציע גרסה מסחרית ברמה ארגונית של ה-IP ותמנף את פורטפוליו ה-IP העשיר ותיכון השבבים, כמו גם את יכולות האימות, במטרה להציע שירותי סיליקון מותאמים וכוללים. נכון לעתה, VeriSilicon עובדת על שבב אימות המבוסס על Coral NPU IP, אשר מתמקד במשקפי AI/AR וביישומי בית חכם ומאיץ את הטמעת LLM בהתקני קצה.
"היכולות הללו מתבססות על ניסיון קודם בפרויקט הקוד הפתוח Open Se Cura והוא ממחיש את האינטגרציה המעמיקה והמתמשכת של טכנולוגיית הקוד הפתוח של Google עם תיכון השבבים ויכולות המסחור של VeriSilicon", אמר וויסווי וונג, סגן נשיא בכיר ומנכ"ל חטיבת פלטפורמת הסיליקון המותאמת ב-VeriSilicon. "אנו נמשיך למנף את נקודות הכוח שלנו בתיכון שבבים, באימות ובאופטימיזציה ברמת המערכת במטרה לקדם את אקוסיסטמת ה-AI בהתקני קצה, כדי לתמוך בפיתוח של טכנולוגיות קוד פתוח במוצרים מסחריים וכדי לאפשר יישומי LLM בהתקני קצה. כל זאת תוך אספקת תמיכה חזקה לחדשנות בענף".
