הבינה המלאכותית היא צרכן גדול של אנרגיה. לפעמים שינוי פשוט בניהול ה-GPU יכול לעשות שינוי גדול, אומר משה תנך, מנכ"ל ניוראליטי. תנך ישתתף בכנס ChipEx2025, שיתקיים ב-13 במאי במרכז הכנסים אקספו תל אביב, בהפקת ASG.

תנך הסביר כי כיום התשתית שמובילה את תחום הבינה המלאכותית מתמקדת במערכי עיבוד מבוססי GPU, כשאנבידיה שולטת בשוק עם כרטיסי ה-A100 וה-H100 שלה, אחריה TPU  של גוגל, ומתחילה לבלוט גם AMD. אלא, לדבריו, “לא מספיק להסתמך רק על ה-GPU; יש שני רכיבים נוספים הקריטיים לתפקוד מערכת AI: ה-NIC שמחבר את השרת לרשת, וה-CPU שמכין את הנתונים ומנהל את המשימות.”

בניוריאליטי יציגו בכנס את השבב החדש שפיתחו  AI-SoC – מערכת על-גבי-שבב שמאגדת בתוכה מנועי תהליך ייעודיים לעיבוד חזותי, שמע והכנה מקדימה של המידע, לצד ליבת CPU ו-NIC אופטימליים לביצועי AI. “. במקום שה-CPU יטפל בעומס העבודה של פענוח וחלוקה לנקודות עיבוד, אנו מבצעים עיבודי off-load בחומרה שלנו,” הסביר תנך, “כך שה-CPU  נשאר פנוי למשימות ניהול ובקרה, מה שמאפשר תפוקה גבוהה יותר עם צריכת חשמל נמוכה.”

עוד יעמיק מנכ"ל ניוריאליטי בתמהיל בין אימון (Training) לבין היסקת מסקנות (Inference). “אימונים דורשים תשתית כבדה ויקרה – בשנה האחרונה הושקעו למעלה מ-90 מיליארד דולר בתשתיות אימון,” ציין, “לעומת זאת, ה-Inference הוא מהלך עסקי של פרשנויות בזמן אמת, והחשיבות שלו רק תלך ותגבר כשה-AI יהיה מוטמע בכל מוצר ושירות.”

“אם נצליח להכפיל ביצועים באותה צריכת חשמל, ולהוריד את ה-TCO בעזרת אופטימיזציות אלגוריתמיות ובהורדה ברזולוציית הפרמטרים, נוכל להגיע לעלויות שמקיימות את המודל העסקי,” אמר תנך.

תנך נותן לדוגמה את המגזר הפיננסי – לדוגמה חברות כמו ויזה, מסטרקארד וגופים כמו JP Morgan ו-Fidelity  המנהלים עשרות מיליארדי טרנזקציות יומיות ובוחנים פריסה של חמישה מודלי AI בכל טרנזקציה כדי לגלות הונאות. “כיום, ניהול הביצועים והוצאות המיחשוב בארגונים אלה מוגבל, ואנו מציעים דרך להאיץ כל פקודת הסקה בחומרה יעודית, להוריד צוואר בקבוק ברשת ולייעל את תהליך הניתוח,” הוסיף.

במהלך המצגת בכנס יחשפו גם דוגמאות ליישומים שוטפים – החל מ-AI על מכשירי קצה כמו טלפונים ונעליים חכמות, דרך פלטפורמות ענן ציבורי ופרטי ועד לאוטומציה של חנויות וספריות באמצעות ראיית מחשב. על פי תנך, השילוב בין ארכיטקטורה חדשה, חיסכון באנרגיה והורדת עלויות, יאפשר “להנגיש את הבינה המלאכותית לכל ארגון, לא רק לחברות הטכנולוגיה הגדולות.”

הכנס ChipEx2025 ייערך ב-13 במאי באקספו תל אביב, בהפקת ASG, ויוקדש לסימפוזיונים, תערוכת חברות ותדרוכים טכניים של מובילי התעשייה.

הפוסט ניוריאליטי תציג ב- ChipEx2025 דרך למצות יותר את ה-GPU בעיבוד בינה מלאכותית, כדי להוזיל מאוד את עלויות השימוש הופיע לראשונה ב-Chiportal.

הסטארטאפ הישראלי NeuReality רוצה להחליף את מעבדי המחשב במרכזי הנתונים המיועדים להיסק נתונים ב-AI בשבבים ייעודיים שיכולים לצמצם את הוצאות הבעלות הכוללת ואת צריכת החשמל. החברה הישראלית פיתחה מחלקה של שבבים שהיא קוראת להם יחידת עיבוד נגישה ברשת (NAPU), שכוללת יישומים חומרתיים לתפקידים טיפוסיים של מעבד כמו ההיפרוויזור. מטרתה של NeuReality היא להגביר את השימושיות של מאיצי ה-AI על ידי הסרת המגבלות שמטילים היום מעבדי המחשב המארחים.

מנכ"ל NeuReality, משה תנך, סיפר ל-EE Times כי NAPU מאפשרת שימושיות של 100% של מאיצי ה-AI. "בענן, או במהלך הבדיקות שלנו כאן, אנו רואים שתסריטי שימוש שונים משתמשים במאיצים בצורה שונה," אמר תנך. "חלקם לא יעלו מעל 25-30% משימושיות ה-GPU או ה-ASIC, וחלקם פשוט ישאירו את המעבד פנוי מכיוון שהם מריצים מודל שפה גדול, כך שהם נתונים למגבלות של ה-GPU וממשק הזיכרון, והמעבד פשוט יושב שם ולא עושה הרבה."

בימים אלו, שרתי ה-AI עשויים להכיל שני מעבדים עם נתב רשת, או לפעמים יחידת עיבוד נתונים או SmartNIC לצד כל מאיץ AI. שרת זה ישרת מספר מכונות וירטואליות, כאשר המעבד מתמודד עם משימות כמו סיום רשת, איכות שירות בין לקוחות והכנת נתונים לפני שליחתם למאיץ ה-AI.

NeuReality רוצה לפתור את בעיית השימושיות על ידי הפרדת עיבוד הקווים של ה-AI מהמעבד. החברה הקשיחה את משימות המעבד כמו סיום רשת ואיכות שירות בשבב מחשוב הטרוגני שנבנה במיוחד לעומסי עבודה של היסק AI בקנה מידה ייצורי. תנך הדגיש כי NAPU אינה "מעבד AI". למעשה, היא גוש סיליקון ייעודי לשרתי היסק AI במרכזי נתונים, שתוכנן להתמודד עם הנפח והמגוון של השאילתות בהיסק AI המודרני בקנה מידה גדול. היא מחוברת לרשת, כך שהשאילתות של AI מועברות מ-Ethernet ישירות ל-NAPU.

הפוסט ניוריאליטי הכריזה על NAPU – שבב ייעודי להיסק AI הופיע לראשונה ב-Chiportal.

חברת הסטארט-אפ ניוריאליטי (NeuReality) מקיסריה, המעסיקה כיום מעל 30 עובדים ומפתחת את דור העתיד של מערכות AI לדטה סנטרים, מגייסת עשרות עובדים נוספים בישראל ובארה"ב ומתכוונת להכפיל בשנה הקרובה את כמות העובדים בחברה על מנת להאיץ את תהליכי הפיתוח ולהתחיל פריסה של מערכות בשנה הבאה. לאור הביקוש הגובר לפתרונות החברה בשוק העולמי תגייס החברה נשות ואנשי פיתוח בתחומי תכנון ובדיקת שבבים, בינה מלאכותית, תוכנה וחומרה.

ניוריאליטי מפתחת פתרונות הסקה (inference) ליישומי ראיה ממוחשבת, עיבוד שפה טבעית(NLP)  ומנועי המלצה (recommendation engines) בטכנולוגיה ייחודית המפשטת את תהליך ההטמעה ומאפשרת פריסה רחבת היקף (ultra-scale) של פתרונות AI כמו גם הרחבת שוק החברות המשתמשות ב-AI גם לחברות פחות טכניות באופיין. הפתרון המקיף של הסטארט-אפ כולל חומרה (שבב הבינה המלאכותית NR1) תוכנה וכלי פיתוח שיחדיו מפשטים ומאיצים את תהליך הפיתוח וההטמעה הנחוץ להתקנה של פתרונות AI.

משה תנך, מנכ"ל ומייסד-משותף של NeuReality: "אנחנו פועלים בשוק חזק עם ביקוש שצפוי לצמוח מאוד בשנים הקרובות ועיני העולם כולו נשואות אל ישראל כדי למצוא פתרונות חדשניים אלטרנטיביים לארכיטקטורות הקיימות. כיום לאחר שבנינו קבוצה ייחודית בראיית המערכת שלה וביכולות המולטי-דיסיפלנריות שלה אנחנו מתרחבים ומחפשים את הטאלנטים שרוצים לעשות יותר, לצמוח בקצב מהיר, להתמודד עם אתגרים טכנולוגיים מורכבים ויחד לייצר מציאות חדשה בעולם הבינה המלאכותית". משה תנך הוסיף: "כיום הטכנולוגיה המדהימה הזו היא עדיין נחלתם של חברות מעטות ובכוונתנו להנגיש את יכולות ה-AI בקצב מהיר יותר למגוון מגזרים וביניהם ביטחון הציבור, סחר אלקטרוני, רשתות חברתיות, רפואה, בריאות, עוזרים דיגיטליים אישיים ועוד. לצד תנאי עבודה ושכר מעולים, אנו מציעים לאנשי ונשות מקצוע מובילים הזדמנויות להשפיע על כיווני ההתפתחות של הבינה המלאכותית ועל חדירתה לשדרה המרכזית של ארגונים ברחבי העולם שמתמודדים עם מגוון מכשולים באימוצה".

ניוריאליטי נוסדה בשנת 2019 ומונהגת על ידי צוות הנהלה בעל ניסיון רב בארכיטקטורת דטה סנטרים, מערכות ותוכנה. הצוות המוביל של החברה כולל את משה תנך, המשמש כמנכ"ל וכיהן בעבר בתפקידים בכירים במארוול ובאינטל, צביקה שמואלי, סגן נשיא לתפעול, כיהן בעבר כסגן נשיא במלאנוקס ובהבאנה לאבס, יוסי קסוס המשמש כסגן נשיא לפיתוח שבבים, שימש כדירקטור בכיר להנדסה במלאנוקס וראש פיתוח השבבים באיזיצ'יפ, וליאור חרמוש, המשמש כ-CTO, לשעבר מייסד משותף ב-ParallelM וכן בכיר ב-PMC Sierra.

ניוריאליטי יצאה מ-Stealth בשנה שעברה כשהכריזה על גיוס סיד מ-Cardumen Capital, OurCrowd ו-Varana Capital. לאחרונה הודיעה Samsung Ventures על השקעת הון בחברה. בנובמבר 2021, הכריזה החברה על חתימת הסכם עם IBM לפיתוח הדור הבא של פלטפורמות בינה מלאכותית עתירות ביצועים להסקה (inference) שיציעו שיפורים משמעותיים בעלויות ובצריכת ההספק ביישומי למידה עמוקה. ניוריאליטי משתפת פעולה גם עם AMD בכדי לספק ללקוחות את פלטפורמות הAI-centric מבוססות ה-FPGA שלה, עבור האצת יכולות הסקה.

הפוסט NeuReality מגייסת עשרות עובדים כדי לתמוך באתגרי פתרונות ה-AI שפיתחה הופיע לראשונה ב-Chiportal.