חברת AI21 Labs, שנחשבה במשך שנים לאחת ההבטחות הגדולות של תעשיית הבינה המלאכותית הישראלית, מבצעת שינוי אסטרטגי חד: החברה מפטרת כ־110 עובדים, יותר מ־60% מכוח האדם שלה, ומצמצמת את מצבת העובדים מכ־180 לכ־70. רוב המפוטרים נמצאים בישראל. על פי הדיווח שפורסם בכלכליסט, החברה הודיעה לעובדים כי היא ממקדת את כל פעילותה בטכנולוגיית אופטימיזציה לסוכני AI, העומדת בבסיס מערכת Maestro, ומפסיקה למכור את מודלי השפה שלה כמוצר עצמאי.

המהלך מגיע לאחר שמשא ומתן לרכישת AI21 בידי חברת תשתיות הבינה המלאכותית נביוס לא הבשיל לעסקת רכישה. במקום זאת, שתי החברות חתמו על הסכם שיתוף פעולה מסחרי. לפי CTech, AI21 הודיעה גם על חוזים בהיקף של עשרות מיליוני דולרים עם לקוחות בינלאומיים שיטמיעו את Maestro, בהם נביוס, וכן על שיתופי פעולה נוספים ובהם Wix.

ממודל שפה עצמאי למערכת תפעול לסוכנים

AI21 הוקמה בשנת 2017 על ידי פרופ' אמנון שעשוע, פרופ' יואב שוהם ואורי גושן. במשך שנים היא התמקדה בפיתוח מודלי שפה גדולים, ובהם משפחת Jamba, שנועדה לאפשר עבודה עם הקשרים ארוכים וכמויות גדולות של מידע. המודלים אף שולבו בשירות Amazon Bedrock של AWS, שבו הוצגו Jamba 1.5 Large ו־Jamba 1.5 Mini כמודלים ארגוניים בעלי חלון הקשר ארוך במיוחד של עד 256 אלף טוקנים. (Amazon Web Services, Inc.)

הבסיס המדעי־הנדסי של Jamba היה ארכיטקטורה היברידית ששילבה Transformer, Mamba ומנגנון mixture-of-experts. במאמר שפרסמו חוקרי AI21 ב־2024 נטען כי הארכיטקטורה מאפשרת תפוקה גבוהה, צריכת זיכרון נמוכה יחסית וביצועים טובים בהקשרים ארוכים. (arXiv)

אולם השוק השתנה במהירות. העלויות הגבוהות של אימון והפעלה של מודלי שפה גדולים, לצד התחרות מצד ענקיות כמו OpenAI, גוגל, אנתropic, מטא ואנבידיה, הפכו את מכירת המודלים עצמם לאתגר עסקי כבד. AI21 מנסה כעת לעבור משוק המודלים לשוק מערכות התפעול והבקרה של סוכני AI. באתר החברה מוגדרת Maestro כמערכת אורקסטרציה לבינה מלאכותית, הכוללת תכנון משימות, אימות עצמי, גרף ביצוע חזותי וציוני ביטחון, כדי להפוך סוכני AI לכלים אמינים יותר בסביבות ארגוניות. (AI21)

ההבטחה הגדולה והמציאות העסקית

המהלך הנוכחי בולט במיוחד משום ש־AI21 גייסה לאורך השנים סכומים גדולים ממשקיעים בולטים. באוגוסט 2023 הודיעה החברה על גיוס של 155 מיליון דולר לפי שווי של 1.4 מיליארד דולר, בהשתתפות Google ו־NVIDIA לצד משקיעים נוספים. באותה עת הציגה החברה את עצמה כאחת מחברות הבינה המלאכותית הגנרטיבית המובילות לארגונים. (AI21)

לאחר הפיטורים תישאר AI21 עם צוות קטן בהרבה, שרובו אנשי פיתוח. בדיווח נוסף נכתב כי חלק משמעותי מצוות ההנדסה צפוי לעבור לנביוס, אם כי AI21 מכחישה כי החברה עצמה נמכרה. לכן נכון יותר לתאר את המהלך בזהירות: לא כרכישה מלאה, אלא כשילוב בין רה־ארגון עמוק, הסכם מסחרי, ואפשרות למעבר של חלק מהעובדים לפעילות הקשורה בנביוס.

ההחלטה של AI21 משקפת מגמה רחבה יותר בתעשייה: המעבר מהמרוץ לבניית מודלים כלליים אל שכבת היישומים, הבקרה והאופטימיזציה. ארגונים רבים כבר אינם שואלים רק איזה מודל הוא החזק ביותר, אלא כיצד מפעילים סוכני AI בצורה אמינה, מבוקרת, זולה ומהירה מספיק לשימוש יומיומי. זהו בדיוק השוק שבו AI21 מבקשת כעת להתמקם מחדש.

מבחן ההישרדות של חברות ה־AI העצמאיות

הקיצוץ החריף ב־AI21 מדגים את הקושי של חברות AI עצמאיות להתחרות לאורך זמן במרוץ תשתיתי עתיר הון. מודלי שפה גדולים דורשים כוח מחשוב עצום, מאגרי מידע גדולים, צוותי מחקר חזקים ותשתיות ענן יקרות. גם חברה עם מוניטין מדעי חזק, משקיעים אסטרטגיים ומייסדים מוכרים נדרשת למצוא מודל הכנסות חד וברור.

עבור AI21, ההימור החדש הוא Maestro. החברה מוותרת על חלק גדול מהפעילות שבנתה את שמה, ומנסה להפוך את הידע שנצבר בפיתוח מודלי שפה למוצר ארגוני ממוקד יותר: מערכת שמסייעת לבחור מודלים, כלים ואסטרטגיות פעולה לסוכני AI, ולשפר את היחס בין איכות, עלות וזמן תגובה. אם המהלך יצליח, AI21 עשויה למצוא מקום חדש בשוק הארגוני. אם לא, הוא עלול להיזכר כסימן נוסף לכך שמרוץ מודלי השפה העצמאיים נסגר סביב מספר קטן של ענקיות טכנולוגיה.

הפוסט AI21 מפטרת 110 עובדים ומוותרת על מרוץ המודלים העצמאיים הופיע לראשונה ב-Chiportal.

Google Cloud הכריזה היום על שיתוף פעולה חדש עם AI21 Labs, חברת בינה מלאכותית מישראל המובילה בפיתוח מודלי שפה גדולים. במסגרת שיתוף הפעולה, AI21 Labs תמנף את תשתית ה-AI/ML הייעודית של Google Cloud כדי להאיץ את הכשרת המודלים ויכולת הסקת המסקנות שלהם. חברת הבינה המלאכותית הישראלית היא אחת השותפות הראשונות שהציעו תכונות בינה מלאכותית גנרטיבית על גבי BigQuery.

בזכות שיתוף הפעולה של AI21 Labs ו-Google Cloud, לקוחות יכולים כעת להשתמש בפונקציות של BigQuery כדי לשלב בטבעיות מספר יכולות יצירתיות וקונקרטיות של בינה מלאכותית גנרטיבית לתעשייה. לדוגמה, לקוחות Ecommerce יכולים עכשיו להשתמש בממשקי API ספציפיים ויעודיים במטרה לכתוב תיאורי  מוצרים או לחלץ תובנות מביקורות של לקוחות. כך גם חברות המספקות שירותים פיננסיים יוכלו להשתמש בהן כדי לנתח דוחות במהירות.

AI21 Labs הטמיעה את מחשבי העל מתוצרת Google Cloud לבינה מלאכותית, Tensor Processor Units, (TPUs), לאימון והגשת  ה-LLM המתקדמים שלה. מינוף ה- TPUs של Google Cloud מאפשר ל- AI21 להשתמש באותה תשתית למידת מכונה בהתאמה אישית, המניעה מוצרים רבים של Google. בשילוב עם TPUs בענן, AI21 Labs נהנית גם מהפורטפוליו הרחב של מכשירי VM GPU של Google Cloud, כולל מכשירי ה-VM A3 שהוכרזו לאחרונה, המופעלים על ידי NVIDIA H100 GPUs. הגישה הפתוחה של Google Cloud לפיתוח בינה מלאכותית והובלה במוצרי סיליקון מותאם אישית מציידת את AI21 Labs בחוויית משתמש חלקה יותר המושרשת בתשתית הסקלבילית, המאובטחת והיציבה שלו.

"פורטפוליו החומרה הרחב והמרשים של Google Cloud הוא הסיבה שבחרנו לעבוד עם החברה. אנחנו גאים להרחיב את היצע פתרונות הבינה המלאכותית שלנו לצדם", אומר אורי גושן, מנכ"ל ומייסד-שותף AI21 Labs. "השותפות שלנו עם Google Cloud השפיעה בצורה עמוקה על עבודתנו  להנגשה  של פתרונות בתחום הבינה המלאכותית ועיבוד שפה טבעית. שיתוף הפעולה הנוכחי מסמן צעד חשוב קדימה במסע הזה".

"AI21 Labs הוא סטארט-אפ מוביל בתחום הבינה המלאכותית הגנרטיבית, הממנף את הביצועים המדהימים שמציעה התשתית המובילה של Google Cloud", אמר תומאס קוריאן, מנכ"ל Google Cloud. "האינטגרציות החדשות שלנו ב-BigQuery הן דוגמה מצוינת לאופן שבו אנחנו עובדים יחד כדי להביא את הערך של בינה מלאכותית גנרטיבית לעסקים בכל תעשייה". 

הפוסט שיתוף פעולה בין AI21 Labs ל- Google Cloud ישלב יכולות בינה מלאכותית גנרטיבית עם BigQuery הופיע לראשונה ב-Chiportal.