ארכיון ניוראליטי - Chiportal https://chiportal.co.il/tag/ניוראליטי/ The Largest tech news in Israel – Chiportal, semiconductor, artificial intelligence, Quantum computing, Automotive, microelectronics, mil tech , green technologies, Israeli high tech, IOT, 5G Mon, 30 Jun 2025 15:22:12 +0000 he-IL hourly 1 https://wordpress.org/?v=6.5.5 https://chiportal.co.il/wp-content/uploads/2019/12/cropped-chiportal-fav-1-32x32.png ארכיון ניוראליטי - Chiportal https://chiportal.co.il/tag/ניוראליטי/ 32 32 ניוריאליטי משיקה מערכת AI משודרגת עם מודלי LLM מותקנים מראש https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%9e%d7%a9%d7%99%d7%a7%d7%94-%d7%9e%d7%a2%d7%a8%d7%9b%d7%aa-ai-%d7%9e%d7%a9%d7%95%d7%93%d7%a8%d7%92%d7%aa-%d7%a2%d7%9d-%d7%9e/ https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%9e%d7%a9%d7%99%d7%a7%d7%94-%d7%9e%d7%a2%d7%a8%d7%9b%d7%aa-ai-%d7%9e%d7%a9%d7%95%d7%93%d7%a8%d7%92%d7%aa-%d7%a2%d7%9d-%d7%9e/#respond Mon, 30 Jun 2025 22:16:00 +0000 https://chiportal.co.il/?p=47662 חברת NeuReality זכתה בפרס מוביל ב-InnoVEX -  זרוע הסטארט-אפים הגלובלית של תערוכת Computex בטייוואן – כהוקרה על החדשנות שלה ועל הפוטנציאל שלה בקידום פתרונות בינה מלאכותית זמינים ונגישים יותר. באירוע הציגה NeuReality את מערכת ה- NR1 Inference Appliance שתומכת בבינה מלאכותית גנרטיבית ובסוכנים חכמים, ומבוססת על שבב ה-NR1 

הפוסט ניוריאליטי משיקה מערכת AI משודרגת עם מודלי LLM מותקנים מראש הופיע לראשונה ב-Chiportal.

]]>
חברת NeuReality זכתה בפרס מוביל ב-InnoVEX –  זרוע הסטארט-אפים הגלובלית של תערוכת Computex בטייוואן – כהוקרה על החדשנות שלה ועל הפוטנציאל שלה בקידום פתרונות בינה מלאכותית זמינים ונגישים יותר. באירוע הציגה NeuReality את מערכת ה- NR1 Inference Appliance שתומכת בבינה מלאכותית גנרטיבית ובסוכנים חכמים, ומבוססת על שבב ה-NR1 

חברת סטארט-אפ החומרה הישראלית ניוריאליטי (NeuReality), המפתחת ארכיטקטורת היסק (Inference) ייעודית לבינה מלאכותית, הודיעה על שדרוג של מערכת ההיסק NR1® Inference Appliance, הכוללת כעת מודלי שפה גדולים (LLMs) פופולריים כגון Qwen, Mistral, Llama ו-Granite מותקנים מראש, ותומכת בפריסת מודלים של בינה מלאכותית יוצרת (GenAI) ו-agentic AI גם בענן פרטי וגם באתר הלקוח.

המערכת ממבוססת על שבב ה-NR1, ה-AI-CPU הראשון מסוגו. היא ניתנת להפעלה בתוך פחות מ-30 דקות ומעניקה ללקוחות יכולת ליישם פתרונות חדשים באופן מהיר ויעיל, תוך שיפור ביצועים של עד פי 3. מבחני ביצועים אחרונים חושפים שיפור דרמטי: עד פי 6.5 יותר יחידות מידע (Tokens) בהשוואה לפתרונות מבוססי מעבדי x86 – וכל זאת באותה עלות ובצריכת אנרגיה זהה. מדובר בהישג משמעותי שהופך את יישומי הבינה המלאכותית לנגישים, יעילים ומשתלמים יותר עבור ארגונים וממשלות בכל קנה מידה.

בניגוד לארכיטקטורות CPU מסורתיות, רכיב ה- NR1משתלב בצורה חלקה עם כל מעבד גרפי (GPU) או מאיץ בינה מלאכותית אחר. הוא מציע יתרון מהותי במדדי עלות, צריכת הספק ושטח – גורמים קריטיים להטמעה נרחבת של AI. בניסוי השוואתי מול שרתי x86, מערכת NR1 Inference Appliance השיגה חיסכון ניכר בעלות לכל מיליון טוקנים בעת הרצת מודל Llama 3.3B-70B על אותו מאיץ גרפי.

משה תנך, מייסד משותף ומנכ"ל NeuReality: "הפוטנציאל של בינה מלאכותית ברור לכולם – האתגר האמיתי הוא להפוך אותה לכלכלית ונגישה מספיק כדי לאפשר הטמעה פשוטה ושימוש רחב בשירותי ההיסק (inference)  בתוך ארגונים". לדברי תנך, "פתרון ה-AI-CPU פורץ הדרך שפותח על ידי NeuReality נועד להסיר את החסמים שמגבילים את פעולת ה-GPU ושמעכבים את יישום ה-AI בקנה מידה רחב. המערכת שלנו מספקת את תוספת הביצועים הדרושה כדי למצות את מלוא הפוטנציאל של המעבדים הגרפיים, תוך ניהול חכם של שאילתות ופלט. כך אנו מאפשרים לחברות להפיק את המירב מהשקעותיהן במערכות AI יקרות בדטה סנטרים".

תנך המשיך: "באמצעות מערכת המשלבת סיליקון ותוכנה ייעודית ל AI Inference-, הפתרון שלנו הופך לפשוט ונוח הרבה יותר לשימוש. המערכת כוללת מודלים מוכנים מראש וכלי פיתוח מתקדמים, שמאפשרים למהנדסים ולמפתחים להפעיל אותה במהירות, בקלות ובעלות נמוכה מאי פעם. המשמעות היא שהם יכולים להתמקד ביישום והטמעת AI בעסק שלהם – במקום להשקיע זמן ומשאבים בתשתיות, אינטגרציה ואופטימיזציה" .

המערכת מותאמת לצרכים של מגזרים כמו שירותים פיננסיים, מדעי החיים, ממשל וספקיות ענן, וכוללת ערכות פיתוח API מוכנות מראש לצד עדכוני מודלים רבעוניים.

"בעידן שבו ארגונים וספקיות ענן מאמצים יישומי בינה מלאכותית וסוכני AI בקצב מואץ, המיקוד כיום הוא במתן ביצועים מקסימליים בעלות מינימלית", אומר ראשיד עטר, סגן נשיא בכיר למחשוב בענן בחברת קוואלקום (Qualcomm Technologies). "בזכות השילוב של מאיצי ה-Qualcomm Cloud AI 100 Ultra עם ארכיטקטורת ה-AI-CPU הייחודית של ניוריאליטי, ניתן להגיע לרמות חדשות של יעילות – הן בביצועים, הן בעלות, והן בקלות הפריסה והסקיילינג".

הפתרון של ניוריאליטי כבר נמצא בשימוש אצל לקוחות בענן ובענף הפיננסים. שיתוף פעולה עם קוואלקום  (Qualcomm)מאפשר שילוב עם מאיצי Qualcomm Cloud AI 100 Ultra – מהלך שמחזק את היתרון התחרותי של החברה באספקת ביצועים גבוהים לצד יעילות תפעולית.

ניוריאליטי השתתפה בתערוכת InnoVEX 2025 שהתקיימה בטאיפיי, טייוואן, בין התאריכים 20–23 במאי, והציגה למשקיעים, לקוחות ושותפים טכנולוגיים פוטנציאליים את שרת האינפרנס החדש שלה לאינטליגנציה מלאכותית גנרטיבית (GenAI) וסוכנית (Agentic AI). מתוך 150 חברות מועמדות מרחבי העולם, ניוריאליטי הייתה הנציגה היחידה מישראל שעלתה לשלב הגמר והגיעה לרשימת 15 המובילות.

במהלך האירוע החי, הציג תנך את טכנולוגיית ה-AI-CPU פורצת הדרך של ניוריאליטי, המשולבת במוצר ה- NR1® Inference Appliance החדש — פתרון ייעודי ל-AI גנרטיבי ולסוכני AI המציע יחס עלות\ביצועים משופר. בעקבות הצגת הטכנולוגיה, ניוריאליטי זכתה בפרס מיוחד מקרן Applied Ventures, זרוע ההשקעות של Applied Materials . הפרס ניתן כהוקרה על סיפור החדשנות והמנהיגות של החברה, ועל הפוטנציאל הרב שלה בשוק ה-AI Inference המתפתח— כפלטפורמה שאינה תלויה ב-GPU ומאפשרת למצות את הביצועים המלאים של כל מאיץ AI.

ניוריאליטי (NeuReality), שנוסדה בשנת 2019, היא חלוצה בבניית ארכיטקטורת AI Inference ייעודית, המאפשרת למערכותAI  מתקדמות להיות נגישות הן מבחינת המחיר, והן מבחינת קלות היישום. החדשנות של החברה גלומה בשבב ה- NR1- ה-AI-CPU הראשון מסוגו שתוכנן ספציפית לניהול היסק בבינה מלאכותית ולהסרת החסמים הקיימים, באמצעות גישה פתוחה ושיתופי פעולה. השבב של ניוריאליטי מותאם באופן מלא לכל מאיץ AI. ה- NR1מגלם טכנולוגיה פורצת דרך המגיעה ללקוחות ולארגונים כפתרון מוכן לשימוש, שעולה בתוך פחות משעה, עם מודלים של AI המותקנים מראש ומספקים AI Inference ברמה המתאימה לארגונים גדולים ובקלות חסרת תקדים.  ניוריאליטי מונה היום כ-80 אנשי מקצוע מיומנים, הפועלים מישראל, פולין וארה"ב, במטרה לקדם את עולם הבינה המלאכותית אל הדור הבא. החברה מגייסת עובדים נוספים בישראל על מנת לתמוך באתגרי הפיתוח.

הפוסט ניוריאליטי משיקה מערכת AI משודרגת עם מודלי LLM מותקנים מראש הופיע לראשונה ב-Chiportal.

]]>
https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%9e%d7%a9%d7%99%d7%a7%d7%94-%d7%9e%d7%a2%d7%a8%d7%9b%d7%aa-ai-%d7%9e%d7%a9%d7%95%d7%93%d7%a8%d7%92%d7%aa-%d7%a2%d7%9d-%d7%9e/feed/ 0
ניוריאליטי תאפשר להריץ מודלי AI חדשים ללא צורך להשקיע מיליוני דולרים במעבדי GPU https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%aa%d7%90%d7%a4%d7%a9%d7%a8-%d7%9c%d7%94%d7%a8%d7%99%d7%a5-%d7%9e%d7%95%d7%93%d7%9c%d7%99-ai-%d7%97%d7%93%d7%a9%d7%99%d7%9d/ https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%aa%d7%90%d7%a4%d7%a9%d7%a8-%d7%9c%d7%94%d7%a8%d7%99%d7%a5-%d7%9e%d7%95%d7%93%d7%9c%d7%99-ai-%d7%97%d7%93%d7%a9%d7%99%d7%9d/#respond Wed, 17 Apr 2024 22:41:00 +0000 https://chiportal.co.il/?p=44045 ההשקה מהווה אבן דרך משמעותית עבור ניוריאליטי, לאחר שהחברה סיפקה והפעילה את שרת ה-AI על גבי שבב ב-7 ננו-מטר מדגם NR1 NAPU והשלימה את ההפעלה והאימות של כל מערכת החומרה והתוכנה NR1 שלה ברבעון הראשון

הפוסט ניוריאליטי תאפשר להריץ מודלי AI חדשים ללא צורך להשקיע מיליוני דולרים במעבדי GPU הופיע לראשונה ב-Chiportal.

]]>
ההשקה מהווה אבן דרך משמעותית עבור ניוריאליטי, לאחר שהחברה סיפקה והפעילה את שרת ה-AI על גבי שבב ב-7 ננו-מטר מדגם NR1 NAPU והשלימה את ההפעלה והאימות של כל מערכת החומרה והתוכנה NR1 שלה ברבעון הראשון

חברת סטארט-אפ ה-AI ניוריאליטי (NeuReality) מקיסריה, שמפתחת ומספקת תשתיות בינה מלאכותית עבור ארגונים וממשלות, השיקה פורטל חדש וכלי הדגמה שיאפשרו למפתחים להתקין בקלות את כל פתרון התוכנה וממשקי תכנות היישומים (APIs) שלה. ההשקה מהווה אבן דרך משמעותית עבור ניוריאליטי, לאחר שהחברה סיפקה והפעילה את שרת ה-AI על גבי שבב ב-7 ננו-מטר מדגם NR1 NAPU והשלימה את ההפעלה והאימות של כל מערכת החומרה והתוכנה NR1 שלה ברבעון הראשון.

ה-NR1, פתרון ההסקה (inference) לבינה מלאכותית של ניוריאליטי, מאפשר לעסקים ולממשלות להריץ מודלי AI חדשים ויישומים קיימים ללא צורך להשקיע מיליוני דולרים במעבדי GPUs (יחידות עיבוד גרפיות) הנמצאים כיום במחסור. מעבדי CPU נותרו צווארי הבקבוק העיקריים לביצועי הסקה לבינה מלאכותית, ללא תלות בביצועי מאיץ ה-AI, מה שמביא לרמות גבוהות מדי של צריכת הספק ועלויות ולא מאפשר לרוב הארגונים להתקין ולהפעיל מערכות AI חדשניות.

מערכת NR1 מוכנה לפריסה אצל לקוחות החל מהרבעון הראשון של 2024 לאחר שמעבד ה-NAPU הגיע בדצמבר, ממפעלי ייצור השבבים של TSMC בטאיוואן, ועבר בהצלחה אקטיבציה, בדיקות אימות מקיפות ואינטגרציית מערכת בתוך 90 יום בלבד. "העובדה שסטארט אפ עם צוות טכני קטן מצליח לבצע אינטגרציית מערכת AI כה מורכבת, מהסיליקון ועד השרת והתוכנה, באופן מהיר וחלק היא מרשימה", אמר אילן אביטל, מנהל המו"פ בניוריאליטי.

המערכת של ניוריאליטי עמדה במכלול הדרישות הפונקציונליות בהיבטים של שרת על גבי שבב, IP ייעודי, מערכת ותוכנה. אבן דרך זו מסמנת את המוכנות של המערכת לפיילוטים אצל לקוחות בדגש על ספקי שירותי ענן, שירותים פיננסיים ושירותי בריאות, עבור יישומים של ראייה ממוחשבת, זיהוי אוטומטי של דיבור ועיבוד שפה טבעית. הישג זה מניח יסודות כלכליים איתנים למערכות עתידיות של בינה מלאכותית יוצרת (Generative AI), מערכות מולטי-מודאליות (שיכולות לטפל בקלטים ממגוון סוגים) וטכנולוגיות מתקדמות נוספות. לדברי ניוריאליטי, האקטיבציה והתיקוף המהירים של NR1 נובעים מתהליך קפדני של תכנון מערכת ושל אמולציה מקיפה שהחברה ביצעה בשיתוף עם סינופסיס לפני הטייפ אאוט ב-2023.

הפתרון של ניוריאליטי מקנה למפתחים את היכולת לפרוס את מערכות ה-AI המתקדמות והמורכבות ביותר באופן גמיש וקל יותר על בסיס הדרישות הספציפיות של כל פרויקט. הוא מעניק למפתחים מערך כלים להאצת כל תהליכי הפיתוח, השילוב וההקצאה של מערכות AI, לצד ממשקי תכנות יישומים להסקה המאפשרים לזרז את תהליך פריסת המערכות.

לדברי אילן אביטל: "שיעור האימוץ של AI עומד על 35% בממוצע עולמי ופחות מ-25% בארצות הברית. ניוריאליטי ממוקדת בהנמכת החסמים שעומדים בפני ענפים מרכזיים בכלכלה בכל הקשור ליישום מערכות AI. יישום כזה הוא כרגע מחוץ להישג היד של רוב העסקים. שרתי ההסקה האידיאליים לבינה מלאכותית דורשים תצורות שרת שונות לחלוטין ויעילות יותר ביחס למחשבי העל ולמעבדי ה-GPU המתקדמים בהם נעשה כיום שימוש באימון של בינה מלאכותית. אנחנו יכולים להתחיל לשנות זאת כבר עכשיו דרך צמצום של צריכת ההספק הגבוהה כבר במקור והורדת עלויות עבור הלקוחות".

ניוריאליטי נוסדה בשנת 2019 ומונהגת על ידי צוות הנהלה בעל ניסיון רב בארכיטקטורת דאטה סנטרים, מערכות ותוכנה. מייסדי החברה הם משה תנך, המשמש כמנכ"ל, צביקה שמואלי, סגן נשיא לתפעול, ויוסי קסוס המשמש כסגן נשיא לפיתוח שבבים. הצוות המוביל של החברה כולל את ה-CTO ליאור חרמוש ואת אילן אביטל מנהל המו"פ(CRO – Chief R&D Officer) , מבכירי מערך המו"פ של אינטל לשעבר. ניוריאליטי, שגייסה מהקמתה 70 מיליון דולר, מעסיקה כיום למעלה מ-60 עובדות ועובדים בישראל, אירופה וארצות הברית. בכוונת החברה לגייס בשנה הקרובה עשרות עובדות ועובדים נוספים למרכזי הפיתוח של החברה בקיסריה ובתל אביב על מנת לתמוך באתגרי הפיתוח ובצמיחה המואצת של החברה.

הפוסט ניוריאליטי תאפשר להריץ מודלי AI חדשים ללא צורך להשקיע מיליוני דולרים במעבדי GPU הופיע לראשונה ב-Chiportal.

]]>
https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%aa%d7%90%d7%a4%d7%a9%d7%a8-%d7%9c%d7%94%d7%a8%d7%99%d7%a5-%d7%9e%d7%95%d7%93%d7%9c%d7%99-ai-%d7%97%d7%93%d7%a9%d7%99%d7%9d/feed/ 0
ניוריאליטי הכריזה על NAPU – שבב ייעודי להיסק AI https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%94%d7%9b%d7%a8%d7%99%d7%96%d7%94-%d7%a2%d7%9c-napu-%d7%a9%d7%91%d7%91-%d7%99%d7%99%d7%a2%d7%95%d7%93%d7%99-%d7%9c%d7%94%d7%99/ https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%94%d7%9b%d7%a8%d7%99%d7%96%d7%94-%d7%a2%d7%9c-napu-%d7%a9%d7%91%d7%91-%d7%99%d7%99%d7%a2%d7%95%d7%93%d7%99-%d7%9c%d7%94%d7%99/#respond Sat, 06 Apr 2024 22:00:00 +0000 https://chiportal.co.il/?p=43921 כיום המעבד המרכזי לא מנוצל והפתרון הזה יאפשר להוריד את מספר המעבדים הראשיים ובכך לחסוך אנרגיה ביישומי בינה מלאכותית

הפוסט ניוריאליטי הכריזה על NAPU – שבב ייעודי להיסק AI הופיע לראשונה ב-Chiportal.

]]>
כיום המעבד המרכזי לא מנוצל והפתרון הזה יאפשר להוריד את מספר המעבדים הראשיים ובכך לחסוך אנרגיה ביישומי בינה מלאכותית

הסטארטאפ הישראלי NeuReality רוצה להחליף את מעבדי המחשב במרכזי הנתונים המיועדים להיסק נתונים ב-AI בשבבים ייעודיים שיכולים לצמצם את הוצאות הבעלות הכוללת ואת צריכת החשמל. החברה הישראלית פיתחה מחלקה של שבבים שהיא קוראת להם יחידת עיבוד נגישה ברשת (NAPU), שכוללת יישומים חומרתיים לתפקידים טיפוסיים של מעבד כמו ההיפרוויזור. מטרתה של NeuReality היא להגביר את השימושיות של מאיצי ה-AI על ידי הסרת המגבלות שמטילים היום מעבדי המחשב המארחים.

מנכ"ל NeuReality, משה תנך, סיפר ל-EE Times כי NAPU מאפשרת שימושיות של 100% של מאיצי ה-AI. "בענן, או במהלך הבדיקות שלנו כאן, אנו רואים שתסריטי שימוש שונים משתמשים במאיצים בצורה שונה," אמר תנך. "חלקם לא יעלו מעל 25-30% משימושיות ה-GPU או ה-ASIC, וחלקם פשוט ישאירו את המעבד פנוי מכיוון שהם מריצים מודל שפה גדול, כך שהם נתונים למגבלות של ה-GPU וממשק הזיכרון, והמעבד פשוט יושב שם ולא עושה הרבה."

בימים אלו, שרתי ה-AI עשויים להכיל שני מעבדים עם נתב רשת, או לפעמים יחידת עיבוד נתונים או SmartNIC לצד כל מאיץ AI. שרת זה ישרת מספר מכונות וירטואליות, כאשר המעבד מתמודד עם משימות כמו סיום רשת, איכות שירות בין לקוחות והכנת נתונים לפני שליחתם למאיץ ה-AI.

NeuReality רוצה לפתור את בעיית השימושיות על ידי הפרדת עיבוד הקווים של ה-AI מהמעבד. החברה הקשיחה את משימות המעבד כמו סיום רשת ואיכות שירות בשבב מחשוב הטרוגני שנבנה במיוחד לעומסי עבודה של היסק AI בקנה מידה ייצורי. תנך הדגיש כי NAPU אינה "מעבד AI". למעשה, היא גוש סיליקון ייעודי לשרתי היסק AI במרכזי נתונים, שתוכנן להתמודד עם הנפח והמגוון של השאילתות בהיסק AI המודרני בקנה מידה גדול. היא מחוברת לרשת, כך שהשאילתות של AI מועברות מ-Ethernet ישירות ל-NAPU.

הפוסט ניוריאליטי הכריזה על NAPU – שבב ייעודי להיסק AI הופיע לראשונה ב-Chiportal.

]]>
https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%94%d7%9b%d7%a8%d7%99%d7%96%d7%94-%d7%a2%d7%9c-napu-%d7%a9%d7%91%d7%91-%d7%99%d7%99%d7%a2%d7%95%d7%93%d7%99-%d7%9c%d7%94%d7%99/feed/ 0
ניוריאליטי משיקה את פלטפורמת NR1 המגבירה ביצועים ומפחיתה עלויות ישומי AI                                                           https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%9e%d7%a9%d7%99%d7%a7%d7%94-%d7%90%d7%aa-%d7%a4%d7%9c%d7%98%d7%a4%d7%95%d7%a8%d7%9e%d7%aa-%d7%94%d7%94%d7%a1%d7%a7%d7%94-nr1/ https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%9e%d7%a9%d7%99%d7%a7%d7%94-%d7%90%d7%aa-%d7%a4%d7%9c%d7%98%d7%a4%d7%95%d7%a8%d7%9e%d7%aa-%d7%94%d7%94%d7%a1%d7%a7%d7%94-nr1/#respond Mon, 13 Nov 2023 22:00:00 +0000 https://chiportal.co.il/?p=42502 המערכת למודלי LLM ו- GenerativeAI, עוקפת צווארי בקבוק בדאטה סנטרים שמבוססים על מעבדי CPU, ומביאה לביצועים גבוהים פי 10 ולחיסכון של עד 90% עבור כל דולר שמושקע בתשתיות AI

הפוסט ניוריאליטי משיקה את פלטפורמת NR1 המגבירה ביצועים ומפחיתה עלויות ישומי AI                                                           הופיע לראשונה ב-Chiportal.

]]>
המערכת למודלי LLM ו- GenerativeAI, עוקפת צווארי בקבוק בדאטה סנטרים שמבוססים על מעבדי CPU, ומביאה לביצועים גבוהים פי 10 ולחיסכון של עד 90% עבור כל דולר שמושקע בתשתיות AI

חברת הסטארט אפ ניוריאליטי (NeuReality) תציג השבוע הבא בכנס SC23 בדנוור את פלטפורמת ההסקה NR1, הדור הבא של פתרון ההסקה (inference) לבינה מלאכותית. הפתרון מספק מענה לאתגרים של דאטה סנטרים גדולים המבוססים על מעבדי CPU וסובלים מחוסר יעילות ועלויות גבוהות. שרתי הבינה המלאכותית הייחודיים של ניוריאליטי מאפשרים רמת ביצועים גבוהה פי 10 וחיסכון של עד ל-90% עבור תשתיות AI ובמקביל להשקת המוצרים ניוריאליטי חושפת גם שורה של שותפים עסקיים ולקוחות. המוצרים החדשים מבוססים על ארכיטקטורת ה AI-centric והם שרתי ה-AI הראשונים שתוכננו במיוחד לתהליך ההסקה (Inference) ומאופיינים ביכולות הסקלביליות הגבוהות שלהם ובעלויות משתלמות ביותר.

הסקה בבינה מלאכותית נותרת נקודה עיוורת בתעשייה של ימינו, לדברי משה תנך, מייסד משותף ומנכ"ל NeuReality. "ChatGPT הוא כמובן דוגמא חדשה ופופולרית, אבל בינה מלאכותית יוצרת (generative AI) נמצאת בחיתוליה. כבר היום, עסקים שהטמיעו יכולות AI מתקשים להגדיל את כמות השימוש שלהם ולעמוד בעלויות הגבוהות של יישומי AI יומיומיים – החל ממערכות לזיהוי קול ומנועי המלצות ועד למערכות ראייה ממוחשבת וניהול סיכונים", אמר תנך. "בינה מלאכותית יוצרת (Generative AI) מגדילה את הבעיה אפילו יותר וכדי שחברות תוכלנה להטמיע את הטכנולוגיה החדישה הזו חובה לשנות את קבועי המחיר והסקלביליות של המערכות הקיימות. בהשתמש בטכנולוגיה הייחודית שפיתחנו, הלקוחות ירוויחו באופן מיידי בעלויות ובקלות ההתקנה וההטמעה של שימושי ה-AI אותם הם מתכוונים להטמיע".

ניוריאליטי זיהתה את בעיית ה"הסקה" של הבינה המלאכותית כבר בשנת 2019. כיום המיקוד שלה הפך להיות אחת הבעיות הגדולות ביותר בתחום ה-AI: הפיכת תהליך ההסקה לתהליך בר קיימא מבחינה כלכלית וגם סקלבילית מספיק בכדי לתמוך בביקוש של הצרכנים והארגונים עם ההאצה ביישומי בינה מלאכותית. התחום הזה צפוי לצמוח מאוד מעבר לשימוש הנרחב היום וגם מנכ"ל אנבידיה טען לפני מספר חודשים שעבור כל דולר שמושקע באימון של מודל AI כיום, עסקים יוציאו 8 דולרים על הרצת המודלים האלה, לדברי תנך: "עלויות האנרגיה והעלויות הכספיות האסטרונומיות האלה רק יגדלו ככל שתוכנות, יישומים ו-pipelines יתפתחו בשנים הבאות על גבי מודלי AI מתוחכמים יותר".

מערכת ה-NR1 שהיא תשתית ייעודית להרצת AI. תאפשר לדאטה סנטרים של העתיד, להשיג שיפור של פי 10 בביצועים שלהם בכדי להעצים את ענפי הפיננסים, הבריאות, הממשל והעסקים הקטנים ולסייע להם ליצור חוויות לקוח טובות יותר עם מרכיב גדול יותר של בינה מלאכותית במוצריהם. מהלך זה יוכל לסייע לחברות ליצור הכנסות גבוהות יותר בשורה העליונה תוך הפחתה בעלויות של השורה התחתונה בשיעור של עד 90% ומעבר לכך יאפשר לשווקים נוספים ושימושים נוספים להטמיע יכולות AI בשל חסם נמוך יותר כספית ושימושית.

ניוריאליטי תדגים בשבוע הבא גם את הערכה לפיתוח תוכנה ואת ה-APIs שלה שמביאים איתם בשורה של קלות פריסה וחסכון משמעותי בעלויות. שני מוצרי חומרה יוצגו: שרת הסקה מלא – NR1-S™ בארכיטקטורת AI-centric וכרטיס הסקה בודד המתחבר לשרתי CPU-centric רגילים – NR1-M™. לצד ספקי מאיצי למידה עמוקה (DLAs – Deep Learning Accelerators). ניוריאליטי גם תציג הדגמה חיה של התכנה והמערכת כולה יחד עם שותפויות עם ספקי מאיצי דיפ לרנינג, OEM-ים, וספקי מערכת. הטכנולוגיה הייחודית של ניוריאליטי מוגנת באמצעות 14 פטנטים ומבוססת על מספר מכלולים ייחודיים שמספקים את היתרון התחרותי כמו: NR1 AI-Hypervisor™ – מאיץ תהליכי ביצוע וחיבוריות בין מעבדים שונים; מנוע רשת מדגם NR1 AI-over-Fabric™ ורכיב ייחודי ראשון בקטגוריה של NAPU (Network Addressable Processing Unit) הנקרא NR1.

ניוריאליטי תוציא את המוצרים לשוק בסוף 2023 בליווי שותפים בתחומי התוכנה, ה-OEM, הסמיקונדטורים, ה-DLAs ואספקת שירותי ענן, לצד חברות לפתרונות IT ארגוניים דוגמת Arm, AMD, Cirrascale, IBM, Lenovo, Qualcomm, Supermicro ועוד.

משה תנך מסכם: "יחד עם שותפינו, הגדרנו מחדש את תחום ההסקה ובתהליך זה קבענו את הסטנדרט לעתיד הבינה המלאכותית – עתיד עם עלויות משתלמות יותר, עם מודעות לפליטות פחמן ועם ביצועים גבוהים. מעבד ה-NAPU הוא אולר שווייצרי של שרתי ההסקה בבינה מלאכותית וניתן לשלב אותו בקלות עם כל ארכיטקטורת DLA. כך, אף אחד לא צריך לחכות שנתיים או שלוש עד שמישהו ימציא את שבב ה-AI האידיאלי להסקה. אנחנו כבר עשינו את זה".

הפוסט ניוריאליטי משיקה את פלטפורמת NR1 המגבירה ביצועים ומפחיתה עלויות ישומי AI                                                           הופיע לראשונה ב-Chiportal.

]]>
https://chiportal.co.il/%d7%a0%d7%99%d7%95%d7%a8%d7%99%d7%90%d7%9c%d7%99%d7%98%d7%99-%d7%9e%d7%a9%d7%99%d7%a7%d7%94-%d7%90%d7%aa-%d7%a4%d7%9c%d7%98%d7%a4%d7%95%d7%a8%d7%9e%d7%aa-%d7%94%d7%94%d7%a1%d7%a7%d7%94-nr1/feed/ 0
סמסונג ונצ'רס משקיעה בחברת הסטארט אפ NeuReality המפתחת שבבי AI https://chiportal.co.il/%d7%a1%d7%9e%d7%a1%d7%95%d7%a0%d7%92-%d7%95%d7%a0%d7%a6%d7%a8%d7%a1-%d7%9e%d7%a9%d7%a7%d7%99%d7%a2%d7%94-%d7%91%d7%97%d7%91%d7%a8%d7%aa-%d7%94%d7%a1%d7%98%d7%90%d7%a8%d7%98-%d7%90%d7%a4-neureality/ https://chiportal.co.il/%d7%a1%d7%9e%d7%a1%d7%95%d7%a0%d7%92-%d7%95%d7%a0%d7%a6%d7%a8%d7%a1-%d7%9e%d7%a9%d7%a7%d7%99%d7%a2%d7%94-%d7%91%d7%97%d7%91%d7%a8%d7%aa-%d7%94%d7%a1%d7%98%d7%90%d7%a8%d7%98-%d7%90%d7%a4-neureality/#respond Mon, 20 Jun 2022 22:09:00 +0000 https://chiportal.co.il/?p=38030 הטכנולוגיות של החברה הכוללות את יכולת הפרדת עיבוד AI מהעיבוד הכללי (disaggregation), שינוע הנתונים ועיבוד הנתונים משפרות את ביצועי המערכת בעיבוד AI ובשינוע המידע בין מערכות אחסון (storage) ויחידות המחשוב שבתוכן (computational storage)

הפוסט סמסונג ונצ'רס משקיעה בחברת הסטארט אפ NeuReality המפתחת שבבי AI הופיע לראשונה ב-Chiportal.

]]>
הטכנולוגיות של החברה הכוללות את יכולת הפרדת עיבוד AI מהעיבוד הכללי (disaggregation), שינוע הנתונים ועיבוד הנתונים משפרות את ביצועי המערכת בעיבוד AI ובשינוע המידע בין מערכות אחסון (storage) ויחידות המחשוב שבתוכן (computational storage)

קרן ההשקעות סמסונג ונצ'רס (Samsung Ventures), משקיעה בחברת סטארט-אפ ה-AI ניוריאליטי (NeuReality), המפתחת שבבים המשמשים להסקה (inference) ליישומים דוגמת ראיה ממוחשבת ועיבוד שפה טבעית (NLP). פתרונות החברה הופכים את תהליכי הטמעת פתרונות הבינה המלאכותית לפשוטים, קלים ומהירים יותר ומאפשרים להרחיב את שוק החברות המשתמשות ב-AI גם לחברות פחות טכניות באופיין.

ניוריאליטי מפתחת פלטפורמות AI ייעודיות המאפשרות רמה גבוהה של שידרוגיות ביישומי בינה מלאכותית. מוצר ה-NR1 הוא שבב הדור הבא של החברה המבוסס על ארכיטקטורת AI-centric. המערכת על גבי שבב (SoC) משפרת את הניצולת של משאבי החישוביות לבינה מלאכותית המותקנים כיום. ה-SoC מסיר צווארי בקבוק קיימים במערכת, מקצר את זמן השיהוי (latency) של פעולות AI וחוסך צריכת הספק ועלויות בכלל המערכת. החברה גם מפתחת כלי תוכנה משלימים המקלים על לקוחות ברמות מיומנות שונות ובעלי מגוון טופולוגיות מערכת לאמץ שירותים חדשים מבוססי AI כחלק מהתהליכים העסקיים שלהם.

בכוונת החברה, המעסיקה כיום כ-30 עובדים, להכפיל את גודלה בשנה הקרובה ולגייס טאלנטים בתחומי תכנון השבבים, הבינה המלאכותית, התוכנה והחומרה, על מנת להאיץ את תהליכי הפיתוח .

אורי קירשנר, העומד בראש סמסונג ונצ'רס ישראל, מסר: "אנחנו רואים צורך מהותי ומיידי בשיפור היעילות וקלות ההתקנה של פתרונות הסקה לדטה סנטרים ולמערכות הפרוסות באתרים של חברות, וזו הסיבה שאנו משקיעים בניוריאליטי. הטכנולוגיות של החברה הכוללות את יכולת הפרדת עיבוד AI מהעיבוד הכללי (disaggregation), שינוע הנתונים ועיבוד הנתונים משפרות את ביצועי המערכת בעיבוד AI ובשינוע המידע בין מערכות אחסון (storage) ויחידות המחשוב שבתוכן (computational storage). כל אלה הם קריטיים ליכולת לאמץ ולהרחיב את הפריסה של פתרונות AI. בסמסונג ונצ'רס אנו משקיעים בחברות שיש לנו סינרגיה חזקה איתן – וניוריאליטי תואמת היטב את המחויבות הזו".

ניוריאליטי יצאה מ-stealth בשנה שעברה כשהכריזה על גיוס סיד של 8 מיליון דולר מ-Cardumen Capital, OurCrowd ו-Varana Capital. בנובמבר 2021, הכריזה החברה על חתימת הסכם עם IBM לפיתוח הדור הבא של פלטפורמות בינה מלאכותית עתירות ביצועים להסקה (inference) שיציעו שיפורים משמעותיים בעלויות ובצריכת ההספק ביישומי למידה עמוקה. ניוריאליטי משתפת פעולה גם עם AMD בכדי לספק ללקוחות את פלטפורמות הAI-centric מבוססות ה-FPGA שלה, עבור האצת יכולות הסקה.

ניוריאליטי נוסדה בשנת 2019 ומונהגת על ידי צוות הנהלה בעל ניסיון רב בארכיטקטורת דטה סנטרים, מערכות ותוכנה. מייסדי החברה הם משה תנך, המשמש כמנכ"ל, צביקה שמואלי, סגן נשיא לתפעול, ויוסי קסוס המשמש כסגן נשיא לפיתוח שבבים. לפני הקמת ניוריאליטי, משה תנך כיהן בתפקידים בכירים כמנהל הנדסה במארוול ובאינטל וסגן נשיא למו"פ בדיזיינארט נטוורקס (שנרכשה מאוחר יותר על ידי קוואלקום). צביקה שמואלי כיהן כסגן נשיא Backend במלאנוקס וכסגן נשיא להנדסה בהבאנה לאבס. יוסי קסוס שימש כדירקטור בכיר להנדסה במלאנוקס וכראש תחום פיתוח השבבים באיזיצ'יפ. הצוות המוביל של החברה כולל את ה-CTO ליאור חרמוש, לשעבר מייסד משותף ומדען ראשי של ParallelM ו-fellow בחברה PMC Sierra.

משה תנך, מנכ"ל ומייסד-משותף של ניוריאליטי, שיתף: "ההשקעה מסמסונג ונצ'רס היא הבעת אמון גדולה בטכנולוגיה של ניוריאליטי. המימון יסייע לנו לקחת את החברה לשלב הבא ולסיים את פיתוח שבב ה-NR1 שלנו לקראת ייצור המוני. מהלך זה יאפשר ללקוחות שלנו לשדרג את המערכות שלהם עם ארכיטקטורת AI-Centric העדיפה בהרבה על הארכיטקטורות הקיימות. התפתחות זו תקל עליהן להגדיל את היקף תשתיות ה-AI שלהם בדטה סנטרים שלהם, בענן או במערכות המותקנות באתרי החברה".

הפוסט סמסונג ונצ'רס משקיעה בחברת הסטארט אפ NeuReality המפתחת שבבי AI הופיע לראשונה ב-Chiportal.

]]>
https://chiportal.co.il/%d7%a1%d7%9e%d7%a1%d7%95%d7%a0%d7%92-%d7%95%d7%a0%d7%a6%d7%a8%d7%a1-%d7%9e%d7%a9%d7%a7%d7%99%d7%a2%d7%94-%d7%91%d7%97%d7%91%d7%a8%d7%aa-%d7%94%d7%a1%d7%98%d7%90%d7%a8%d7%98-%d7%90%d7%a4-neureality/feed/ 0