אנבידיה הכריזה אמש (ב׳) על NVIDIA Open Agent Safety Platform, פלטפורמת תוכנה ותכנון ייחוס לחומרה שנועדו לפקח על פעילותם של סוכני בינה מלאכותית. בהודעה שהועברה לעיתונות בישראל ציינה החברה כי שלושה מרכיבים מרכזיים במנגנון האבטחה שלה — Sentry, סביבת הפיתוח DOCA ומעבדי BlueField-4 — פותחו בישראל.

הרעיון הוא להציב לסוכן גבולות גם מחוץ לתוכנה שבה הוא פועל. ככל שסוכני AI מקבלים גישה לקבצים, לשירותים ולכלים שמבצעים פעולות בשם המשתמש, ארגון צריך לדעת אילו בקשות הם שולחים והאם הם חורגים מההרשאות שנקבעו להם. אנבידיה מציעה לשלב פיקוח בזמן הריצה עם שכבת בקרה נפרדת בחומרה.

רכיב התוכנה OpenShell מפעיל סוכנים בסביבת ריצה מוגבלת, מתעד את פעולותיהם ואוכף מדיניות גישה. הוא זמין בקוד פתוח ומיועד לפעול על מעבדי Vera של אנבידיה; לדברי החברה, ניתן להתאימו גם לפלטפורמות מחשוב של Arm ואינטל. לצדו הציגה החברה את Sentry כתכנון ייחוס למנגנון פיקוח הפועל על מעבדי עיבוד הנתונים BlueField-4. המנגנון אמור לעקוב אחר פעילות הסוכן מסביבה מבודדת, שאינה בשליטתו, ולמנוע ממנו להמשיך לפעול אם חרג מהגבולות שהוגדרו לו.

Sentry נשען על סביבת התוכנה DOCA לצורך בדיקת בקשות ותגובות, אימות זהות ואכיפת הרשאות גישה לנתונים, לכלים ולממשקי תכנות. אנבידיה טוענת שהמערכת יכולה לבודד ולעצור סוכן שחורג מן המדיניות בתוך אלפיות השנייה. מדובר בטענה של החברה ובתכנון ייחוס; ההכרזה אינה מציגה נתוני בדיקה עצמאיים לביצועים האלה.

לפי אנבידיה, יותר מ־100 ארגונים עובדים עם טכנולוגיות הקשורות לפלטפורמה, בהם אנתרופיק, מיקרוסופט, פאלו אלטו נטוורקס וסיילספורס. זה אינו נתון של לקוחות שרכשו את המערכת בשלמותה. תוכנת OpenShell זמינה למפתחים, ואילו רכיב Sentry הוצג במסגרת תכנון הייחוס מבוסס BlueField-4. עבור פעילות הפיתוח בישראל, ההכרזה מדגישה את תפקידם של שבבי התקשורת ועיבוד הנתונים גם בהגנה על מערכות AI, מעבר להאצתן.

הפוסט אנבידיה מציגה פלטפורמה לאבטחת סוכני AI; שבב BlueField-4 שפותח בישראל ישמש לפיקוח על פעילותם הופיע לראשונה ב-Chiportal.

אנבידיה הציגה בכנס Hot Chips את NVIDIA Scale-In, תשתית תקשורת מואצת שנועדה להפעיל, לנהל ולאבטח מפעלי בינה מלאכותית גדולים. מרכיביה המרכזיים – מעבד BlueField-4, פלטפורמת התוכנה DOCA ורשת Spectrum-X Ethernet – פותחו במרכז המחקר והפיתוח של אנבידיה בישראל.

מפעלי AI כוללים לא רק מעבדים גרפיים, אלא גם מערכות אחסון, אבטחה, ניטור, תקשורת והקצאת משאבים. כאשר משימות אלה מתבצעות במעבדים המרכזיים של השרת, הן צורכות משאבים שאחרת היו יכולים לשמש להרצת מודלי בינה מלאכותית.

Scale-In נועדה להפריד את שירותי התשתית ממשאבי המחשוב המריצים את מודלי ה־AI. היא מבוססת על BlueField-4, מעבד תשתית המשלב יכולות תקשורת, עיבוד ואבטחה, ועל DOCA, סביבת התוכנה שבאמצעותה ניתן לתכנת ולנהל את פעולות המעבד.

החיבור בין השרתים ורכיבי התשתית נעשה באמצעות Spectrum-X Ethernet, פלטפורמת התקשורת של אנבידיה למרכזי נתונים של בינה מלאכותית. לדברי החברה, המערכת תומכת בהפרדה בין לקוחות, בגישה לאחסון עתיר ביצועים, באבטחה המוטמעת בחומרה, בהקצאת משאבים ובניטור בזמן אמת.

המטרה היא לאפשר לשירותי האבטחה, הגישה לנתונים והתפעול להתרחב יחד עם מספר המאיצים במפעל ה־AI, בלי להפוך לצוואר בקבוק ובלי להעמיס על המעבדים הגרפיים.

ההכרזה מחזקת את תפקידו של מרכז הפיתוח הישראלי באסטרטגיית מרכזי הנתונים של אנבידיה. הפעילות המקומית, שהתרחבה בעקבות רכישת מלאנוקס, אחראית לחלק ניכר מטכנולוגיות התקשורת וה־DPU המשמשות לחיבור מספר גדול של מאיצי AI.

הפוסט אנבידיה מציגה תשתית Scale-In המבוססת על טכנולוגיות שפותחו בישראל הופיע לראשונה ב-Chiportal.