הבינה המלאכותית היא צרכן גדול של אנרגיה. לפעמים שינוי פשוט בניהול ה-GPU יכול לעשות שינוי גדול, אומר משה תנך, מנכ"ל ניוראליטי בראיון מקדים ל-Chiportal
הבינה המלאכותית היא צרכן גדול של אנרגיה. לפעמים שינוי פשוט בניהול ה-GPU יכול לעשות שינוי גדול, אומר משה תנך, מנכ"ל ניוראליטי. תנך ישתתף בכנס ChipEx2025, שיתקיים ב-13 במאי במרכז הכנסים אקספו תל אביב, בהפקת ASG.
תנך הסביר כי כיום התשתית שמובילה את תחום הבינה המלאכותית מתמקדת במערכי עיבוד מבוססי GPU, כשאנבידיה שולטת בשוק עם כרטיסי ה-A100 וה-H100 שלה, אחריה TPU של גוגל, ומתחילה לבלוט גם AMD. אלא, לדבריו, “לא מספיק להסתמך רק על ה-GPU; יש שני רכיבים נוספים הקריטיים לתפקוד מערכת AI: ה-NIC שמחבר את השרת לרשת, וה-CPU שמכין את הנתונים ומנהל את המשימות.”
בניוריאליטי יציגו בכנס את השבב החדש שפיתחו AI-SoC – מערכת על-גבי-שבב שמאגדת בתוכה מנועי תהליך ייעודיים לעיבוד חזותי, שמע והכנה מקדימה של המידע, לצד ליבת CPU ו-NIC אופטימליים לביצועי AI. “. במקום שה-CPU יטפל בעומס העבודה של פענוח וחלוקה לנקודות עיבוד, אנו מבצעים עיבודי off-load בחומרה שלנו,” הסביר תנך, “כך שה-CPU נשאר פנוי למשימות ניהול ובקרה, מה שמאפשר תפוקה גבוהה יותר עם צריכת חשמל נמוכה.”
עוד יעמיק מנכ"ל ניוריאליטי בתמהיל בין אימון (Training) לבין היסקת מסקנות (Inference). “אימונים דורשים תשתית כבדה ויקרה – בשנה האחרונה הושקעו למעלה מ-90 מיליארד דולר בתשתיות אימון,” ציין, “לעומת זאת, ה-Inference הוא מהלך עסקי של פרשנויות בזמן אמת, והחשיבות שלו רק תלך ותגבר כשה-AI יהיה מוטמע בכל מוצר ושירות.”
“אם נצליח להכפיל ביצועים באותה צריכת חשמל, ולהוריד את ה-TCO בעזרת אופטימיזציות אלגוריתמיות ובהורדה ברזולוציית הפרמטרים, נוכל להגיע לעלויות שמקיימות את המודל העסקי,” אמר תנך.
תנך נותן לדוגמה את המגזר הפיננסי – לדוגמה חברות כמו ויזה, מסטרקארד וגופים כמו JP Morgan ו-Fidelity המנהלים עשרות מיליארדי טרנזקציות יומיות ובוחנים פריסה של חמישה מודלי AI בכל טרנזקציה כדי לגלות הונאות. “כיום, ניהול הביצועים והוצאות המיחשוב בארגונים אלה מוגבל, ואנו מציעים דרך להאיץ כל פקודת הסקה בחומרה יעודית, להוריד צוואר בקבוק ברשת ולייעל את תהליך הניתוח,” הוסיף.
במהלך המצגת בכנס יחשפו גם דוגמאות ליישומים שוטפים – החל מ-AI על מכשירי קצה כמו טלפונים ונעליים חכמות, דרך פלטפורמות ענן ציבורי ופרטי ועד לאוטומציה של חנויות וספריות באמצעות ראיית מחשב. על פי תנך, השילוב בין ארכיטקטורה חדשה, חיסכון באנרגיה והורדת עלויות, יאפשר “להנגיש את הבינה המלאכותית לכל ארגון, לא רק לחברות הטכנולוגיה הגדולות.”
הכנס ChipEx2025 ייערך ב-13 במאי באקספו תל אביב, בהפקת ASG, ויוקדש לסימפוזיונים, תערוכת חברות ותדרוכים טכניים של מובילי התעשייה.
