עמותת DICTA מפתחת מודל שפה גדול בעברית במסגרת שיתוף פעולה בינלאומי, וצוותי אנבידיה בישראל תורמים לפיתוח המודל המתקדם Mistral-Nemotron

במסגרת הכרזותיה בכנס GTC Paris, הודיעה אנבידיה על שילובם של גופים מישראל בפרויקטים מובילים לפיתוח תשתיות ומודלים ריבוניים של בינה מלאכותית באירופה ובאזור הים התיכון.

במוקד ההכרזה עומד שיתוף הפעולה עם עמותת DICTA, אשר מפתחת מודל שפה גדול בעברית (Hebrew LLM) כחלק ממיזם נרחב המשלב מוסדות וארגונים ממדינות שונות, לרבות צרפת, פולין, איטליה, שבדיה, סלובקיה ואיחוד האמירויות. המודל העברי יופץ דרך מנוע השאלות והתשובות Perplexity, ויהיה בין הראשונים שמונגשים לציבור הרחב בשפה המקומית באמצעות פלטפורמות AI מתקדמות.

בנוסף, צוותי אנבידיה בישראל לקחו חלק בפיתוח המודל החדש Mistral-Nemotron – ממשפחת מודלי Nemotron – שנחשב ל"מודל טורבו" בתחום השפה. המודל החדש מתוכנן לספק חיסכון משמעותי במשאבי חישוב תוך שמירה על דיוק גבוה, ומיועד בין היתר להנעת סוכנים חכמים (Agentic AI) בתחומים כמו שירות לקוחות, פיתוח תוכנה ויישומי קוד.

המודלים יהיו זמינים גם כ-NIM – פורמט המאפשר פריסה מקומית (on-premises), בענן, או בפלטפורמת La Plateforme של חברת Mistral.

"הגיוון הלשוני והתרבותי הוא כוח על, והמודלים הריבוניים החדשים יאפשרו לכל מדינה וגוף לפתח פתרונות מותאמים לסביבה שלה", אמר מנכ"ל אנבידיה ג'נסן הואנג. "שיתוף הפעולה עם DICTA וצוותי הפיתוח בישראל מדגים את הפוטנציאל הבינלאומי של חדשנות עברית בעידן הבינה המלאכותית".

ההכרזה הזו משתלבת עם פעילות רחבה של אנבידיה בישראל, כולל מרכזי מו"פ בתחומי חומרה, תוכנה ובינה מלאכותית – ומחזקת את מעמדה של ישראל כשותפה טכנולוגית חיונית באקוסיסטם הבינלאומי של החברה.

הפוסט אנבידיה משתפת פעולה עם ישראל בפיתוח מודלי שפה לבינה מלאכותית ריבונית הופיע לראשונה ב-Chiportal.

בפתח הרצאתה בכנס ChipEx2025 שהתקיים בתל אביב, הציגה אנה ברנוב, מנכ"לית HowHardAI, רעיון מהפכני להפיכת מודלי שפה גדולים (LLM) לסוכנים אוטונומיים המסוגלים לפתור בעיות טכניות מורכבות בזמן אמת. לדבריה, מרבית “Agentic Frameworks” המקובלים כיום – דוגמת Identity AI ואחרים – פועלים כמעין מעטפת תוכנה סביב ה-LLM, שבה היכולות המודליות נשמרות בגדר גנרי, והכוונה למשימות השונות מתבצעת באמצעות prompt engineering בלבד מבלי לשנות את המשקלים הפנימיים של המודל.

HowHardAI מנגישה במקום זאת גישה של Reinforcement Learning המבוססת על תהליך trial-and-error המוכר מעולמות אחרים בבינה מלאכותית. על פי ברנוב, כדי לאפשר למודל ללמוד באמת להפעיל אמצעים חיצוניים או לבצע סדרת פעולות מורכבות, יש לתרגם אתגרים כמו תכנון פריסה (floor planning) לסביבה סימולטיבית שסולקת ציון מוצקות לפעולותיו של המודל בכל איטרציה. רק כך ניתן לעדכן את המשקלים שלו באופו איטרטיבי, ולא להסתפק בפקודות טקסט בלבד

בתיאור הניסוי שהציגה, המודל התחיל במיקום ראשוני של שני רכיבי מפתח (MR ו-ML) וזכה לפידבק סביבתי שכלל דירוג תלוי־פעולות. באיטרציה הבאה הוא הריץ פעולת “rotate” לשיפור המיקום, ובאיטרציה השלישית הציע התאמות נוספות עד שהסביבה קבעה כי האופטימיזציה הושלמה ואתרו את נקודת העצירה האופטימלית. התהליך כולו נעשה ב–one shot גנרטיבי, ללא צורך בארגון המודל בפרדיקציה מוקדמת.

יתרונן של שיטות RL במרחב זה הוא ביעילות האימון ובהסתמכות על reasoning פנימי של ה-LLM, שאיננו מוגבל עוד למערכת חיצונית המורה לו מה לעשות. ברנוב מתחזקת כי ברגע שמגדירים נכון את הבעיה – את הסט המוגבל של הפעולות ואת אופן החישוב של ה-reward – ניתן להפעיל סוכנים חכמים שיבצעו אופטימיזציה בכל שלב של שרשרת הפיתוח, החל מנתוני post-silicon ועד לניתוב אוטומטי בין תהליכי ייצור בעלי node שונים.

HowHardAI נמצאת כבר כיום בשלבי שיתוף פעולה עם מספר חברות מובילות בתעשיית השבבים בישראל וברחבי העולם, במטרה ליישם את הגישה ולייעל באופן מהותי את שלבי התכנון והייצור. “ההצלחה תלויה קודם כל בפרמליזציה נכונה של הבעיה,” סיכמה ברנוב, “כשהמודל מבין בדיוק אילו פעולות הוא יכול לבצע ואיך לקבל על כך משוב, הוא הופך לכלי אימון רב־עוצמה.”

o4-mini-high

הפוסט “HowHardAI מאמנת LLM לתכנון אוטומטי של Netlist" הופיע לראשונה ב-Chiportal.

ענקית הייצור פוקסקון (Foxconn) הכריזה על השקת FoxBrain – מודל בינה מלאכותית ראשון מסוגו לתמיכה בתהליכי ייצור ושרשרת אספקה. המודל פותח במקור לשימוש פנימי, אך החברה מתכננת כעת להרחיב את השימוש בו בשיתוף פעולה עם גורמים נוספים בתעשייה.

FoxBrain פותח עם התאמה ייחודית לשפה הסינית המסורתית וסגנון השפה הטאיוואני, והוא מציע יכולות מתקדמות בניתוח נתונים, תמיכה בקבלת החלטות, שיתוף מסמכים, פתרון בעיות ויצירת קוד. בנוסף, פוקסקון מתכוונת לפרסם רכיבים מסוימים מהמודל בקוד פתוח, במטרה להאיץ את האימוץ של טכנולוגיות AI בתעשיית הייצור ושרשרת האספקה.

המודל החדש אומן במיוחד לסגנונות לשוניים סיניים וטאיוואניים, עם ארכיטקטורה המותאמת לעיבוד נתונים מורכבים. FoxBrain פותח בהתבסס על מודל שפה גדול, תוך אופטימיזציה לנתונים תפעוליים ולשיפור קבלת ההחלטות בתהליכים מורכבים.

המודל הותאם במיוחד לסגנונות השפה של טייוואן וסין ופועל היטב בניתוח נתונים מורכבים, תמיכה בהחלטות, שיתוף פעולה במסמכים, פתרון בעיות והפקת קוד.

ההכרזה על FoxBrain מגיעה בזמן שפוקסקון משקיעה משמעותית בתשתיות AI, כולל השקעה של 900 מיליון דולר במפעל לשרתים במקסיקו וצמיחה חזקה בהכנסות החברה המונעת בעיקר מביקושים גבוהים ליישומי AI.

הפוסט פוקסקון משיקה את FoxBrain – מודל AI ראשון מסוגו לתעשיית הייצור ושרשרת האספקה הופיע לראשונה ב-Chiportal.

מאמר שפורסם לאחרונה בכתב העת Engineering עוסק בעתיד הבינה המלאכותית (AI) מעבר למודלים גדולים לשפה (LLMs). המודלים הללו הציגו התקדמות מרשימה במשימות מולטימודליות, אך הם מתמודדים עם מגבלות כמו מידע מיושן, הזיות, חוסר יעילות והיעדר יכולת לפרשנות. כדי להתמודד עם בעיות אלו, החוקרים בוחנים שלושה כיוונים מרכזיים: העצמת ידע, שיתוף פעולה בין מודלים והתפתחות משותפת של מודלים.

העצמת ידע שואפת לשלב ידע חיצוני בתוך המודלים הגדולים. ניתן להשיג זאת באמצעות שיטות שונות, כולל שילוב ידע במטרות האימון, כוונון לפי הנחיות, הסקת מסקנות מוגברת על בסיס אחזור ידע והנחיות מבוססות ידע. לדוגמה, ישנם מחקרים המעצבים פונקציות הפסד מודעות לידע במהלך האימון המוקדם, בעוד שאחרים משתמשים בדור מוגבר אחזורית כדי לשלוף ידע רלוונטי בזמן ההסקה. טכניקות אלו משפרות את הדיוק העובדתי, יכולות ההסקה והפרשנות של המודלים.

שיתוף פעולה בין מודלים מתמקד בניצול החוזקות המשלימות של מודלים שונים. הדבר כולל אסטרטגיות כמו מיזוג מודלים ושיתוף פעולה פונקציונלי. מיזוג מודלים, כמו שילוב מודלים (Ensembling) ומיזוג פונקציונלי (לדוגמה, תערובת מומחים), מאפשר לשפר את הביצועים. בשיתוף פעולה פונקציונלי, המודלים הגדולים יכולים לשמש כמנהלי משימות המכוונים מודלים קטנים ומומחים. לדוגמה, במשימות יצירת תמונות, המודלים הגדולים יכולים להדריך מודלים מתמחים כדי לענות בצורה מיטבית לדרישות ההנחיות.

התפתחות משותפת של מודלים מאפשרת למודלים שונים להתפתח יחד. תחת סוגים שונים של הטרוגניות – מודלים, משימות ונתונים – הוצעו טכניקות מגוונות. עבור הטרוגניות מודלים, משתמשים בשיטות כמו שיתוף פרמטרים, זיקוק ידע כפול והשלכת פרמטרים מבוססת היפר-רשתות. בהקשר של הטרוגניות משימות, למידה כפולה, למידה אדוורסרית (שני מודלים המציעים הצעה מנוגדת זה לזה, מעין איפכא מסתברא) ומיזוג מודלים משחקות תפקיד מרכזי. כאשר מדובר בהטרוגניות נתונים, למידה מבוזרת וזיקוק ידע מחוץ לחלוקה (Out-of-Distribution) הן טכניקות מפתח. שיטות אלו משפרות את יכולת ההתאמה והטיפול במשימות מגוונות של המודלים.

ההתקדמות בעידן שאחרי המודלים הגדולים משפיעה במגוון תחומים. במדע, היא תורמת לפיתוח השערות באמצעות שילוב ידע ייעודי לתחום. לדוגמה, במטאורולוגיה, מודלים מבוססי AI המשולבים עם ידע ייעודי יכולים לשפר תחזיות לאנרגיה מתחדשת. בהנדסה, הם מסייעים בגיבוש ופתרון בעיות. בחברה, יישומיהם כוללים תחומים כמו בריאות וניהול תחבורה.

בעתיד, המאמר מציין מספר כיווני מחקר נוספים, כולל בינה מלאכותית מואנשת, בינה מלאכותית בהשראה מוחית, מודלים בסיסיים שאינם טרנספורמרים ויצירת מודלים בשילוב LLMs. תחומים אלו נושאים פוטנציאל רב להמשך קידום יכולות הבינה המלאכותית. ככל שה-AI ממשיך להתפתח, השילוב של ידע, שיתוף פעולה והתפתחות משותפת יהיה קריטי בבניית מערכות AI חזקות, יעילות ואינטליגנטיות יותר.

למאמר המדעי

הפוסט העידן שאחרי מודלי השפה הגדולים הופיע לראשונה ב-Chiportal.