חברת Jeen.ai מת"א פיתחה פלטפורמה להטמעה של יישומי בינה מלאכותית יוצרת (GenAI) המיועדת לארגונים גדולים. החברה, שהחלה את דרכה ביולי 2024 לאחר שנפרדה מקבוצת וואן טכנולוגיות, מציעה לארגונים כלים להטמעת פתרונות מבוססי GenAI, שמטרתם לייעל תהליכים ולשפר את התפוקה הארגונית.

הפלטפורמה שפיתחה Jeen.ai מאפשרת לארגונים להטמיע פתרונות כגון צ'אט ארגוני, תמלול וניתוח שיחות, בוטים דיגיטליים, ואוטומציות לתהליכים עסקיים כמו בקרת שרשרת אספקה ואישורי אשראי. הפלטפורמה ניתנת להתאמה לשירותי ענן כגון AWS, Azure ו-GCP, או לשרתים מקומיים כמו אלו של NVIDIA, מה שמאפשר גמישות ביישום הפתרונות.

החברה פונה לארגונים הזקוקים לפתרונות מותאמים אישית כדי להטמיע טכנולוגיות AI, במיוחד כאלו הנוגעות לשמירה על אבטחת מידע ופרטיות. בין לקוחותיה נמנות חברות ישראליות כמו ישראכרט, דלק, אוניברסיטת רייכמן ואחרות.

עודד טהורי, מנכ"ל החברה, שעמד בעבר בראש חברת Sense.bi, מציין כי Jeen.ai נועדה לתת מענה לאתגרים הטכניים והעסקיים שמלווים ארגונים במעבר לטכנולוגיות GenAI. החברה נמצאת בשלב של הרחבת פעילותה גם מחוץ לישראל, ומעוניינת לשתף פעולה עם שותפים בינלאומיים בתחום הבינה המלאכותית.

הפלטפורמה ש-Jeen.ai מציעה מבוססת על כלים שמאפשרים לארגונים לנהל את תהליכי ה-AI שלהם בצורה עצמאית, תוך שליטה ובקרה על השימוש בטכנולוגיה, והיכולת לבחור בין מנועי AI שונים בהתאם לצרכים שלהם.

לדברי טהורי, החברה שואפת להמשיך ולפתח את הפלטפורמה בהתאם לצרכי השוק, תוך שמירה על קצב גידול אורגני ויציבות כלכלית.

הפוסט חברה חדשה – Jeen.ai – תטמיע בינה מלאכותית יוצרת בארגונים הופיע לראשונה ב-Chiportal.

נוף הבינה המלאכותית בשנת 2024

מהייפ למציאות: 2023 הייתה השנה שבה בינה מלאכותית נכנסה למיינסטרים. כעת, בשנת 2024, תאגידים עוברים משלב הפיילוט לשלב שבו הם משלבים בינה מלאכותית באופן פעיל בפונקציות הליבה העסקיות שלהם.

התמקדות בערך: חלפו הימים של שימושב בינה מלאכותית כדרך להציג את הארגון כמתקדם וחדשן. ההתמקדות כיום היא בזיהוי תחומים שבהם בינה מלאכותית יכולה לספק ערך עסקי ממשי, כגון יעילות מוגברת, עלויות מופחתות ושיפור קבלת ההחלטות.

עלייתה של בינה מלאכותית יוצרת (Gen AI ) -זהו  תת-תחום של בינה מלאכותית שיכול ליצור תוכן חדש (טקסט, קוד, תמונות וכו'), והוא חווה צמיחה משמעותית. לבינה מלאכותית יוצרת יש פוטנציאל עצום עבור תאגידים במגזרים שונים.

היתרונות של אימוץ בינה מלאכותית עבור תאגידים

אוטומציה משופרת: בינה מלאכותית מאפשרת אוטומציה של משימות שחוזרות על עצמן, ומשחררת את העובדים האנושיים להתמקד בפעילויות הדורשות יצירתיות וחשיבה ביקורתית.

יעילות משופרת: בינה מלאכותית מייעלת תהליכים, מפחיתה שגיאות ומשפרת  את זרימות העבודה, מה שמוביל להגברת היעילות והפרודוקטיביות.

תובנות מונעות נתונים: בינה מלאכותית מנתחת כמויות עצומות של נתונים כדי לזהות דפוסים ומגמות, מה שמאפשר קבלת החלטות טובה יותר על סמך תובנות בזמן אמת.

חדשנות ויצירתיות: בינה מלאכותית יוצרת יכולה לסייע בפיתוח מוצרים, קמפיינים שיווקיים ויצירת תוכן, כמו גם טיפוח חדשנות והרחבת גבולות היצירתיות.

האתגרים באימוץ בינה מלאכותית

עלות ויישום: הטמעה ותחזוקה של מערכות בינה מלאכותיות יכולות להיות יקרות. הן דורשות השקעה משמעותית בתחילת הדרך ומומחיות טכנית מתמשכת.

אבטחת נתונים והטיה: מערכות בינה מלאכותית טובות רק כמו הנתונים שהם מאומנים עליהן. אבטחת מידע והפחתת הטיה אפשרית באלגוריתמים של בינה מלאכותית הם פרטים שחשוב לשים לב אליהם.

ניהול שינויים: הטמעת בינה מלאכותית עלולה לשבש זרימות עבודה קיימות ולדרוש הדרכת עובדים. אסטרטגיות אפשקטיביות של ניהול שינויים חיוניות כדי להבטיח אימוץ חלק.

בינה מלאכותית יוצרת  מביאה שינוי משמעותי לתאגידים

יצירת תוכן: בינה מלאכותית יוצרת יכולה ליצור כלים שיווקים כולל תיאורי מוצרים, תוכן רב למדיה חברתית ואפילו סקריפטים, ובכך לחסוך זמן ומשאבים.

עיצוב ופיתוח מוצר: ניתן להשתמש בבינה מלאכותית יוצרת כדי ליצור רעיונות עיצוב חדשים, לייעל את תכונות המוצר ולהאיץ את מחזור פיתוח המוצר.

ניתוח חזוי: בינה מלאכותית יוצרת יכולה לנתח נתונים וליצור סימולציות מציאותיות כדי לעזור לחזות מגמות עתידיות והתנהגות לקוחות, מה שמאפשר קבלת החלטות יזומה וטובה יותר.

דוגמאות לאימוץ בינה מלאכותית יוצרת בשנת 2024:

חברות תרופות: בינה מלאכותית יוצרת משמשת לפיתוח תרופות וחומרים חדשים, ומאיצה את תהליך גילוי התרופות.

ייצור: בינה מלאכותית יוצרת מבצעת אופטימיזציה של קווי ייצור, מנבאת כשלים במכונות ויוצרת אבות טיפוס של מוצרים חדשים.

שירותים פיננסיים: בינה מלאכותית יוצרת מייצרת דוחות פיננסיים מותאמים אישית, מבצעת אוטומציה לזיהוי הונאות ומסייעת במסחר אלגוריתמי.

העתיד של בינה מלאכותית ושל בינה מלאכותית יוצרת

העתיד של בינה מלאכותית ושל בינה מלאכותית יוצרת הוא מזהיר. ככל שהטכנולוגיה ממשיכה להתפתח והעלויות יורדות, אנו יכולים לצפות לאימוץ נרחב עוד יותר בתעשיות השונות. תאגידים המאמצים בינה מלאכותית ובינה מלאכותית יוצרת יוכלו לפעול ביתר יעילות ויזכו ביתרון תחרותי בשוק העולמי.

נקודות חשובות עבור תאגידים בשנת 2024

זהו הזדמנויות ערך: נתחו בקפידה את התהליכים העסקיים שלכם כדי לזהות אזורים שבהם בינה מלאכותית ובינה מלאכותית יוצרת יכולים לספק את הערך המשמעותי ביותר.

השקיעו בתשתית נתונים: תשתית נתונים חזקה ומאובטחת חיונית להטמעת בינה מלאכותית מוצלחת.

אמצו תרבות של חדשנות: טפחו תרבות המעודדת ניסויים ומקבלת בברכה בינה מלאכותית ככלי לצמיחה וחדשנות.

פתחו מסגרת אתית: קבעו הנחיות אתיות ברורות לפיתוח ופריסה של בינה מלאכותית כדי למנוע הטיות אפשריות ולהבטיח שימוש אחראי ביכולות הבינה המלאכותית.

על ידי אימוץ יזום של טכנולוגיות בינה מלאכותית ובינה מלאכותית יוצרת,  תאגידים יכולים לשפר את סיכוייהם להצליח בעולם הדינמי והמשתנה ללא הרף. חשוב לזכור כי בינה מלאכותית אינה תחליף לאינטליגנציה אנושית, אך היא ללא ספק יכולה להיות כלי רב עוצמה להגדלת היכולות שלנו ולפיתוח אפשרויות חדשות שלא היו קיימות עד כה.

סקר שנערך בנובמבר 2023 ע"י YouGov עבור BigID  ערך 327 ראיונות עם מקבלי החלטות ומשפיענים בתחום ה-IT מארגונים ברחבי העולם בגדלים, תעשיות ומיקומים שונים. תוצאות הסקר מוצגות בגרף המצ"ב.

הפוסט 2024 – תמונת מצב באימוץ בינה מלאכותית ובינה מלאכותית יוצרת בתאגידים הופיע לראשונה ב-Chiportal.

כנס ChipEx2024 שיתקיים בארגון חברת ASG ב-7 במאי באקספו תל אביב יאגד מרצים מחברות וארגונים שונים, שהמשותף לכולם הוא שהם נמצאים כיום בפיתוח נמרץ של שבבי בינה מלאכותית ליישומים שונים. מסתבר שהתחום הזה לא רק צומח אלא אף מזנק.

השוק לשבבים מתוחכמים המותאמים לבינה מלאכותית יוצרת גדל במהירות. נתונים שפרסמה חברת המחקר BanklessTimes.com מראים כי השוק יגיע ל-151 מיליארד דולר עד 2030.

נתוני שוק השבבים ל- AI העולמיים מדגישים צמיחה משמעותית. ב-2023, חלקן של ההכנסות בארה"ב הסתכם ב-23 מיליארד דולר, עם תחזיות להרחבה אקספוננציאלית. NVIDIA מובילה את שוק שבבי ה- AI העולמי, עם הכנסות של 13.507 מיליארד דולר ב-2023.

"שוק שבבי ה- AI צמח שור במשך כמה שנים, מה שמצביע על דפוס צמיחה עקבי. ערך השוק לשבבי ה- AI היה 44.2 מיליארד דולר ב-2022. ב-2023, השוק הגיע לשיא חדש של 53.5 מיליארד דולר ומוערך לגדול בכמעט 30% ב-2024 ל-67 מיליארד דולר. בסופו של דבר, התחזיות מצביעות על ערך של 151 מיליארד דולר עד 2030.

צפון אמריקה מחזיקה בחלק הגדול ביותר משוק שבבי ה- AI, 38.12%. החלק הזה מרוכז בעיקר בקליפורניה, בעיקר סביב עמק הסיליקון, שמפורסם בחידושיו הטכנולוגיים. בינתיים, אירופה, אסיה השקטה ואזורים אחרים שואפים להשיג אחר השוק.

מגזר האוטומטיב, והמגזרים הבריאותיים והפיננסיים מובילים את האימוץ של ה- AI ברחבי העולם וכן מרחיבים את שוק שבבי ה- AI. שבבי ה- AI משחקים תפקיד מרכזי בניהול ושיפור משימות, תוך שיפור ביצועי מערכות ה- AI.

למרות המסלול האופטימי של הצמיחה, שוק שבבי ה- AI נתקל במספר אתגרים משמעותיים. ראשית, המורכבות הטכנולוגית של תכנון וייצור שבבי AI מהווה מחסום ניכר. השבבים דורשים יכולות מתקדמות, כולל עיבוד נתונים מהיר, יעילות אנרגטית ויכולת לבצע חישובים מורכבים. השגת יכולות אלו דורשת השקעה רבה במחקר ופיתוח ומומחיות, מה שמגביל את כניסתם של גורמים ללא משאבים רבים.

ג'ונתן מרי, מנכ"ל BanklessTimes, התייחס לצמיחה: "הרחבת שוק שבבי ה- AI מראה על חשיבותם של חומרה מיוחדת בהבטחת יעילות הבינה המלאכותית. ה- AI הפכה את חיינו מהעבודה ועד הבית ושינתה את אופן האינטראקציה שלנו עם הטכנולוגיה."

עם זאת, בהשקעה ומומחיות ממוקדות ניתן להתמודד עם אתגרים אלו, ולקדם שוק שבבי AI פעיל ודינמי. מציין מרי.

לינק להרשמה לכנס ChipEx2024

הפוסט לקראת ChipEX2024: שוק שבבי ה- AI העולמי צפוי להתפוצץ, ויגיע ל-151 מיליארד דולר עד 2030 הופיע לראשונה ב-Chiportal.

אנבידיה פרסמה את תוצאותיה לרבעון הרביעי שהסתיים ב-31 בינואר, ולכן הוא נחשב אחרון לשנת הכספים 2024. ההכנסות הרבעוניות עמדו על נתון שיא של 22.1 מיליארד דולר, עלייה של 22% בהשוואה ל-Q3 ו-265% משנה לשנה . ההכנסות לשנת הכספים 2024 כולה (FY2024) עמדו על נתון שיא של 60.9 מיליארד דולר, עלייה של 126%. הכנסות תחום מרכזי הנתונים עמדו על נתון שיא של 18.4 מיליארד דולר ברבעון החולף, עלייה של 27% בהשוואה לרבעון הקודם ו-409% בהשוואה לרבעון המקביל בשנה שעברה.

• צפי ההכנסות לרבעון הראשון של השנה הפיסקלית 2025 (Q1FY25) עומד על 24 מיליארד דולר, פלוס-מינוס 2%. רווח חשבונאי (GAAP) למניה ברבעון היה 4.93 דולר, עלייה של 765% בהשוואה לשנה שעברה, ועלייה של 33% בהשוואה לרבעון הקודם.  רווח מתואם (Non-GAAP) למניה היה 5.16 דולר, עלייה של 486% בהשוואה לרבעון המקביל בשנה שעברה ו-28% לעומת הרבעון הקודם.
• עבור שנת הכספים המלאה (FY24), ההכנסות עלו ב-126% ל—60.9 מיליארד דולר. רווח חשבונאי (GAAP) עמד על 11.93 דולר למניה – עלייה של 586% משנה לשנה. רווח מתואם (Non-GAAP), עמד על 12.96 דולר, עלייה של 288% משנה לשנה.

מייסד ומנכ"ל אנבידיה, ג'נסן הואנג, אמר: "מחשוב מואץ ובינה מלאכותית יוצרת הגיעו לנקודת מפנה. הביקוש גואה ברחבי העולם בקרב חברות, תעשיות ומדינות. פלטפורמת מרכזי הנתונים שלנו מונעת באמצעות מגוון גורמים ההולכים וגדלים – הדרישה לעיבוד מידע, אימון והסקה בקרב ספקיות שירותי ענן או שירותי GPU, וכן על ידי תוכנה ארגונית וחברות אינטרנט (Consumer Internet). התעשיות הורטיקליות – המובלות על ידי תחום הרכב, שירותים פיננסיים ורפואה – נמצאות עכשיו ברמה של מיליארדי דולרים.

NVIDIA RTX, שהוצגה לפני פחות משש שנים, היא עכשיו פלטפורמת המחשוב האישי עבור בינה מלאכותית יוצרת, ממנה נהנים יותר מ-100 מיליון גיימרים ויוצרי תוכן. השנה שלפנינו תביא דורות מוצרים חדשים עם חדשנות יוצאת דופן כדי לעזור להניע את התעשייה שלנו קדימה. הצטרפו אלינו בחודש הבא לכנס GTC, שם אנחנו – יחד עם האקוסיסטם, נחשוף את העתיד המרגש שלפנינו".

בשיחת הוועידה עם המשקעים לאחר פרסום הדוח הדגיש הואנג את ההשפעה הטרנספורמטיבית של מחשוב מואץ ובינה מלאכותית (AI), וציין כי "הביקוש למחשוב ממשיך להרקיע שחקים, ומניע את השיפור העתידי בביצועים, TCO ויעילות אנרגטית… הוא הדגיש את התפקיד הקריטי של פלטפורמות מרכזי הנתונים של NVIDIA בהפעלת הדרכה באמצעות בינה מלאכותית, הסקת מסקנות ומגוון רחב של עומסי עבודה מואצים של CUDA.

בנוגע לחדשנות ולמוצרים העתידיים של NVIDIA, הואנג שיתף: "אנו נכנסים כעת לתחום רשתות ה- Ethernet עם השקת הצעת Spectrum-X מקצה לקצה החדשה שלנו המיועדת לרשת מותאמת בינה מלאכותית עבור מרכז הנתונים… זה מצביע על ההתרחבות המתמשכת והחדשנות של NVIDIA בפתרונות רשת כדי להשלים את היצע המעבדים הגרפיים שלה.

בנושא הבינה המלאכותית הגנרטיבית, ציין הואנג, "Generative AI הוא מרחב יישומים חדש, דרך חדשה של מחשוב, תעשייה חדשה לגמרי שנוצרת וזה מניע את הצמיחה שלנו… זה מדגיש את החשיבות האסטרטגית ש-NVIDIA מייחסת לבינה מלאכותית גנרטיבית כמנוע מפתח לצמיחה עתידית.

הואנג לא התייחס באופן ישיר לתחרות המתהווה מול סופטבנק ומנכ"לה מאסיושי סאן, או לכוונותיהם לפתח שבבי AI ולהתחרות ב-NVIDIA. התמקדותו הייתה על פיתוחים והשקעות עתידיות של NVIDIA בתחום ה- AI, כולל שיתוף פעולה עם Microsoft לפיתוח מודלים חדשניים של AI, וההתמקדות בטכנולוגיות חדשות כמו NeRF (Neural Radiance Fields) ליצירת תמונות תלת-ממדיות ריאליסטיות.

הפוסט אנבידיה מדווחת שוב על רבעון שיא, 265% יותר מהרבעון המקביל אשתקד הופיע לראשונה ב-Chiportal.

היום נפתחת בלאס ווגאס תערוכת CES 2024. לקראת CES 2024, איגוד הטכנולוגיה הצרכנית חוזה כי ההכנסות של תעשיית הטכנולוגיה הצרכנית האמריקאית יגדלו ב-2.8% ב-2024 ל-512 מיליארד דולר (עלייה של 14 מיליארד דולר משנת 2023). זה מצביע על עלייה בהוצאות הצרכנים על מוצרים ושירותים טכנולוגיים, על פי תחזית התעשייה לשנה הקרובה של CTA.

"למרות האינפלציה ברוב מגזרי הכלכלה האמריקאית, יש לציין כי מוצרי טכנולוגיה צרכנית כמו מסכי טלוויזיה, סמארטפונים וחומרה למשחקים נרכשים במחירים נמוכים יותר על ידי צרכנים", אמר ריצ'רד קובלסקי, מנהל בכיר למודיעין עסקי ב-CTA. "בטבעה, טכנולוגיה היא דיפלציונית מכיוון שחדשנות מובילה תעשיות למצוא דרכים חדשות ויעילות יותר להתחרות. כשאנחנו מביטים קדימה ל-2024, אני מצפה שהתפתחויות בבינה מלאכותית יאיצו צמיחה עבור חברות טכנולוגיה צרכנית ועסקית כאשר הן הופכות להיות יעילות יותר ומוצאות יותר דרכים לענות על צורכי הצרכנים".

קובלסקי מונה מספר מגמות הצפויות ב-2024 כפי שיגיעו לידי בטוי בתערוכת CES:

• שנת חבילות-העל: ספקי תוכן יגבירו את קידום "חבילות השירות" שלהם כדי למשוך יותר עניין צרכני. לחבילות-העל יש פוטנציאל להציע לצרכנים תעריפים מוזלים על השירותים המועדפים עליהם, במקביל לפישוט תהליך התשלום שלהם.
• גידול בצריכת שירותי זרימה : צרכנים יוציאו 14 מיליארד דולר (עלייה של 6% לעומת 2023) על שירותי זרימה שמע, ו-48 מיליארד דולר (עלייה של 4%) על זרימה וידאו ב-2024.
• בום בחומרה למשחקים: רענון מוצרים בטאבלטים, אוזניות מציאות מדומה ומציאות רבודה ומשחקים (רענון קונסולה גדולה של מותג ב-2024/2025) יזניקו את הכנסות המשחקים ב-2024. משחקים יקבלו גם דחיפה מהצמיחה של 12% בשירותי מנוי (שיגדלו ל-3.5 מיליארד דולר ב-2024). בינה מלאכותית גנרטיבית צפויה לשפר את חוויית המשחק בנוסף לעזור למפתחים להוציא משחקים לשוק במהירות רבה יותר.
• מכשירים ושירותים הולכים יד ביד: שירותים ממשיכים להיות חלק חיוני של רכישת מוצר, כפי שניתן לראות דרך הצמיחה במגזר השירותים. CTA מעריכה כי 25% מכל ההוצאות הצרכניות על טכנולוגיה היו עבור תוכנות שונות ושירותי מנוי ב-2019. בתוך 5 שנים בלבד, עד 2024, CTA צופה שאותם שירותים יהיו קרוב לשליש מכל ההוצאות הצרכניות.
• תאמינו להייפ של AI: יותר מ-230 מיליון סמארטפונים ומחשבים ניידים שיימכרו בארה"ב השנה ינצלו את כוחות ה-AI הגנרטיבית באמצעות אפליקציות מובייל, דפדפנים ותוכנה על המכשיר. AI מיושמת במערכות בטיחות ניידות, אפליקציות מעקב כושר בשעונים חכמים ושיפורי איכות תמונה בטלוויזיות.

"אני נרגש מהרוחב של החדשנות שאני רואה מחברות גדולות וקטנות לקראת CES 2024", אמר גארי שפירו, נשיא ומנכ"ל CTA. "על ידי אימוץ מדיניות רגולטורית פרו-חדשנות, עידוד השקעות, רפורמה בהגירה לקליטת כישרונות גלובליים, ושיפור שותפויות סחר המחזקות חדשנות, אנחנו יכולים להניע חדשנות לטובת כל האנשים".

הפוסט תחזית איגוד הטכנולוגיה הצרכנית לקראת CES 2O24: הכנסות תעשיית הטכנולוגיה האמריקאית צפויות לעלות ב-2.8% ב-2024 הופיע לראשונה ב-Chiportal.

בשנת 2023, תחום הבינה המלאכותית הגנרטיבית חווה פריצת דרך ניכרת, תוך שינוי מהותי בשימוש ובהבנה של הבינה המלאכותית בחברה. מודלי השפה הגדולים הציגו יכולות מרשימות בתחומים רבים, כולל בריאות, חינוך, אמנות ודיאלוג פוליטי. הם הצליחו להשיג ואף לעקוף את ביצועי האדם במשימות מורכבות, כגון עניין שאלות במבחני רפואה, יצירת מסרים פוליטיים משכנעים וכוריאוגרפיה לאנימציות ריקוד.

אך עם ההתקדמות הזו צצו חששות לגבי שקיפות, הטיה והשלכות אתיות, במיוחד בקרב גורמי מדיניות וחוקרים. הצורך בכללים אתיים ובנהלים מחמירים לשימוש אחראי ואחריותי בבינה המלאכותית הפך לנושא מרכזי.

השפעת הבינה המלאכותית על תחום החינוך והלמידה זכתה לדיון נרחב. כנס AI+Education שדיבר על כיצד ה-AI יכול לשפר את הלמידה ולתת תמיכה אישית למורים, הדגיש גם את הסיכונים הקיימים, כגון חוסר גיוון תרבותי וייצור תשובות לא מדויקות.

עם זאת, עלתה הצורך לזהות תוכן שנוצר על ידי מכונות. כלי כמו DetectGPT, שפותח על ידי חוקרים מסטנפורד, נועד להבחין בין טקסט שנוצר על ידי בני אדם לטקסט שנוצר על ידי מודלים של בינה מלאכותית. חשיבותו של כלי זה גדלה בתחומים כמו חינוך ותקשורת, במיוחד לנוכח השימוש ההולך וגדל בבינה המלאכותית לייצור תוכנות. הסימנים המוקדמים לכך שבינה מלאכותית גנרטיבית תהיה חלק בלתי נפרד מחיינו היומיומיים היו ברורים, אך זה גם הביא לדיונים על צורך ברגולציה ובקווים מנחים אתיים.

בנוסף, חוקרים בסטנפורד פיתחו את ה-Foundation Model Transparency Index (FMTI), שמעריך חברות ומודלים שלהם על פי 100 פרמטרים של שקיפות. חשיבותו של מדד זה נעשתה בולטת בפני התעשייה, כאשר חברות גדולות כמו Meta, Google ו-Microsoft נבחנות לעומק.

בתחום הבריאות, חוקרים בסטנפורד בדקו את יכולתו של GPT-3.5 ו-GPT-4 להגיב לשאלות קליניות. תוצאות ראשוניות הראו שהתשובות היו בטוחות ברוב המקרים, אך תואמות לתשובות ידועות רק בחלק מהמקרים. המחקר הדגיש את הצורך להעריך ולשפר את המודלים לפני שימושם בתחום הבריאות.

במקביל, חוקרים התחילו לזהות בעיות בכלי הזיהוי של תוכן AI. למשל, חשיפת חולשה בכלים אלו כאשר הם מזהים באופן שגוי חיבורים שנכתבו על ידי דוברי אנגלית שאינם ילידים כתוכן שנוצר על ידי AI, מה שעלול להוביל להאשמות ועונשים לא הוגנים.

מחקר נוסף הראה ש-GPT-4 הצליח להצטיין במבחנים קליניים, על פני סטודנטים לרפואה, וזה דרש שינוי בגישה להכשרת רופאים בעתיד.

לבסוף, חוקרים גילו שמסרים שנוצרו על ידי GPT-3 יכולים לשכנע אנשים בנושאים שנויים במחלוקת כמו איסור נשק ומס פחמן. הממצאים הביא לדאגה לגבי השימוש הפוטנציאלי של AI בפעילויות פוליטיות, ועלו שאלות על רגולציה בשימוש ב-AI למניעת מידע מטעה ומניפולציה.

הפריצות הדרך בבינה המלאכותית הגנרטיבית ב-2023 כללו גם פיתוחים בתחום האמנות. למשל, חוקרים בסטנפורד פיתחו מודל AI בשם Editable Dance Generation (EDGE), שיכול לכורגרף אנימציות ריקוד התואמות לכל קטע מוזיקה. כושר העריכה של התוכנה מאפשר לאנימטורים לערוך חלקים מסוימים של הריקוד, ו-EDGE משלימה אוטומטית את התנועות של הגוף באופן ריאליסטי ושוטף.

בסיכום, שנת 2023 הייתה חשובה מאוד לתחום הבינה המלאכותית, עם התקדמויות משמעותיות בטכנולוגיה הגנרטיבית. השינויים האלה הביאו לשינויים בתחומים כמו חינוך, בריאות, פוליטיקה ואמנות, אך גם העלו חששות אתיים והצורך ברגולציה ובהתמודדות עם השפעותיהם החברתיות של פיתוחים אלה.

הפוסט 2023: שנת הפריצה של הבינה המלאכותית היוצרת הופיע לראשונה ב-Chiportal.

שנת 2023 היתה ללא ספק שנת הפריצה של הבינה המלאכותית היוצרת  ( Generative AI). חברת המחקר והייעוץ מקינזי ערכה במהלך השנה סקר עדכני ביותר על המצב הנוכחי של טכנולוגיות הבינה המלאכותית. הסקר מאשר את הצמיחה המטאורית של כלי AI יצירתיים. פחות משנה לאחר שרבים מכלים אלה הופיעו, שליש מהמשיבים בסקר אומרים שהארגונים שלהם משתמשים ב-בינה מלאכותית יוצרת באופן קבוע לפחות בתפקיד עסקי אחד. על רקע ההתקדמויות האחרונות, הבינה המלאכותית הפכה מנושא המוגבל לעובדי טכנולוגיה למוקד תשומת לב של מנהלי חברות: כמעט רבע ממנהלים בכירים שהשתתפו בסקר אומרים שהם משתמשים אישית בכלי AI יצירתיים לעבודה, ויותר מרבע מהמשיבים מחברות המשתמשות ב-AI אומרים ש-בינה מלאכותית יוצרת כבר נמצא על סדר היום של הדירקטוריונים שלהם. יתר על כן, 40 אחוז מהמשיבים אומרים שהארגונים שלהם יגדילו את ההשקעה הכוללת ב-AI בגלל ההתקדמויות ב-AI יצירתי. הממצאים מראים שאלו עדיין ימים מוקדמים לניהול סיכונים הקשורים ל-בינה מלאכותית יוצרת – פחות מ-50% מהמשיבים אומרים שארגוניהם ממתנים אפילו את הסיכון שהם רואים כרלוונטי ביותר: אי-דיוק.

הארגונים שכבר שילבו יכולות AI היו הראשונים לחקור את הפוטנציאל של כלי AI יצירתי, ואלה שרואים את מירב הערך מיכולות AI מסורתיות יותר – קבוצה שאנו מכנים ביצועי AI גבוהים – כבר מקדימים אחרים באימוץ כלי AI יצירתיים.

ההפרעה העסקית הצפויה מ-בינה מלאכותית יוצרת היא משמעותית, והמשיבים צופים שינויים משמעותיים בכוח העבודה שלהם. הם צופים קיצוצים בכוח העבודה בתחומים מסוימים ומאמצי הכשרה מחדש גדולים כדי להתמודד עם השינוי בצרכי כישרונות. עם זאת, בעוד שהשימוש ב-בינה מלאכותית יוצרת עשוי לזרז את אימוץ כלי AI אחרים, אנו רואים עליות משמעותיות מועטות באימוץ טכנולוגיות אלה בארגונים. האחוז של ארגונים המאמצים כלים כלשהם של AI נותר יציב מאז 2022, והאימוץ נותר מרוכז במספר קטן של תפקידים עסקיים.

1. אלה עדיין ימים מוקדמים, אבל השימוש ב-בינה מלאכותית יוצרת כבר נפוץ

הממצאים מהסקר – שהתקיים מאמצע אפריל 2023 – מראים שלמרות הזמינות הציבורית החדשה יחסית של AI יוצרת, הניסוי בכלים הוא כבר יחסית נפוץ, והמשיבים צופים שהיכולות החדשות ישנו באופן מהותי את תחרות בענפיהם. בינה מלאכותית יוצרת תפס עניין בקרב האוכלוסייה העסקית: יחידים מכל האזורים, הענפים והדרגים הבכירים משתמשים ב-בינה מלאכותית יוצרת לעבודה ומחוץ לעבודה. 79% מכל המשיבים אומרים שהיה להם לפחות חשיפה כלשהי ל-AI יצירתי, בין אם לעבודה או מחוץ לעבודה, ו-22% אומרים שהם משתמשים בו בקביעות בעבודתם. בעוד שהשימוש המדווח דומה למדי בין רמות בכירות, הוא גבוה ביותר בקרב משיבים העובדים במגזר הטכנולוגיה ואלה בצפון אמריקה.

גם ארגונים משתמשים כעת באופן נפוץ ב-AI יצירתי. שליש מהמשיבים אומרים שארגוניהם משתמשים כבר בקביעות ב-בינה מלאכותית יוצרת בלפחות תפקיד אחד – מה שאומר ש-60% מהארגונים עם אימוץ AI שדווח משתמשים ב-AI יצירתי. יתר על כן, 40% מאלה המדווחים על אימוץ AI בארגוניהם אומרים שהחברות שלהם צופות להשקיע יותר ב-AI בכלל הודות ל-AI יצירתי, ו-28% אומרים ששימוש ב-בינה מלאכותית יוצרת כבר נמצא על סדר יומה של הנהלתם. התפקידים העסקיים הנפוצים ביותר בשימוש בכלים החדשים האלה הם אותם תפקידים שבהם השימוש ב-AI נפוץ ביותר בכלל: שיווק ומכירות, פיתוח מוצרים ושירותים, ותפעול שירות, כגון תמיכת לקוחות ותמיכה אחורית. זה מרמז שארגונים רודפים אחרי כלים חדשים אלה היכן שיש הכי הרבה ערך. במחקרים קודמים שלנו, שלושת התחומים האלה, יחד עם הנדסת תוכנה, הראו פוטנציאל לספק כ-75% מהערך השנתי הכולל משימוש בתרחישי AI יצירתי. 

השימושים הנפוצים ביותר שדווחו של כלי AI יצירתיים הם בשיווק ומכירות, פיתוח מוצרים ושירותים, ותפעול שירות.

בימים המוקדמים האלה, הציפיות להשפעת ה-AI היצירתי גבוהות: שלושה רבעים מכל המשיבים צופים ש-בינה מלאכותית יוצרת תגרום לשינוי משמעותי או הפרעה באופי התחרות בענף שלהם בשלוש השנים הבאות. משיבים העובדים בענפי הטכנולוגיה והשירותים הפיננסיים הם הסבירים ביותר לצפות לשינוי הפרעה מ-AI יצירתי. מחקרים קודמים שלנו מראים שלמרות שכל הענפים אכן צפויים לראות מידה מסוימת של הפרעה, רמת ההשפעה צפויה להשתנות. ענפים המסתמכים במידה רבה יותר על עבודת ידע צפויים לראות הפרעה רבה יותר – ופוטנציאל להפיק ערך רב יותר. בעוד שהערכותינו מצביעות על כך שחברות טכנולוגיה, כצפוי, ניצבות בפני ההשפעה הגבוהה ביותר מ-בינה מלאכותית יוצרת – תוספת ערך השקולה לעד 9% מהכנסות הענף העולמיות – ענפי ידע כגון בנקאות (עד 5%), מוצרים פרמצבטיים ורפואיים (גם עד 5%) וחינוך (עד 4%) יכולים לחוות השפעות משמעותיות גם כן. לעומת זאת, ענפים המבוססים ייצור, כגון תעופה וחלל, רכב ואלקטרוניקה מתקדמת, עלולים לחוות השפעות פחות מפריעות. זה עומד בניגוד להשפעת גלי טכנולוגיה קודמים שהשפיעו על הייצור ביותר ונובע מהיתרונות של בינה מלאכותית יוצרת בפעילויות מבוססות שפה, בניגוד לאלה הדורשות עבודה פיזית.

2. חברות מובילות כבר מקדימות עם בינה מלאכותית יוצרת

החברות שכבר הטמיעו יכולות AI היו הראשונות לחקור את הפוטנציאל של כלי AI יצירתי, ואלה הרואות את מירב הערך מיכולות AI מסורתיות יותר – קבוצה שאנו מכנים בעלות ביצועי AI גבוהים – כבר מקדימות אחרים באימוץ כלי AI יצירתיים. כמעט מחצית מהמשיבים שקבוצתם נכללת ב-15% העליונים של בעלי ביצועי AI גבוהים אומרים שארגוניהם משתמשים בקביעות ב-AI יצירתי, לעומת רק כ-15% מאלה עם ביצועי AI נמוכים.

בנוסף, בעלי ביצועי AI גבוהים מדווחים על אימוץ ושימוש רחב יותר בכלי AI מסורתיים. לדוגמה, הם פי שניים יותר סביר להשתמש בתרחישי ראייה ממוחשבת ו-NLP מאשר בעלי ביצועי AI נמוכים, והם בערך פי שלושה יותר סבירים לדווח על שימוש בתרחישי למידת מכונה. והם גם צופים תשואה גבוהה יותר על ההשקעות ב-AI שלהם: 41% של בעלי ביצועי AI גבוהים צופים תשואה של יותר מ-30% על ההשקעות ב-AI שלהם בשלוש השנים האחרונות, לעומת רק 5% של אלה עם ביצועי AI נמוכים.

3. צרכי כישרונות AI משתנים, וההשפעות הצפויות של AI על כוח העבודה הן משמעותיות

עם התקדמות ב-AI, כ-40% מהמשיבים אומרים שארגוניהם כבר הקטינו את מצבת כוח האדם בתחומים מסוימים בגלל אוטומציה, ושיעור דומה צופה שינוי זה בשלוש השנים הבאות. אבל במקביל, כמעט 60% צופים גידול בביקוש למיומנויות חדשות. כתוצאה מכך, יותר מ-50% מהמשיבים מדווחים על מאמצי הכשרה מחדש משמעותיים בארגוניהם כדי להתאים את הכישורים לצרכים המשתנים.

כמו בסקרים קודמים, המשיבים צופים ש-AI ימשיך להשפיע בעיקר על תפקידים הדורשים מיומנויות טכניות פחות ופעילויות חוזרות. לעומת זאת, הם צופים עלייה בביקוש למיומנויות "רכות" יותר, כמו יצירתיות, מנהיגות וניהול אנשים. עם זאת, בשונה מממצאים קודמים, המשיבים כעת חוזים גם עלייה בביקוש למיומנויות טכניות מסוימות, כמו הנדסת תוכנה ואבטחת סייבר – כנראה בגלל הצורך בפיתוח ותחזוקה של מערכות AI.

4. עם כל העיניים על AI יצירתי, אימוץ והשפעה של AI נותרים יציבים

למרות העניין וההתלהבות סביב כלי AI יצירתיים, אנו רואים שינויים קטנים בלבד באימוץ כללי של AI בארגונים. כ-15% מהמשיבים אומרים שארגוניהם מאמצים AI בקנה מידה – שיעור זהה לזה שדווח ב-2022. ובדומה לסקר הקודם, רוב האימוץ מתרכז בקומץ קטן של תפקידים עסקיים: שיווק ומכירות, שירות לקוחות, אסטרטגיה ומחקר ופיתוח מוצרים ושירותים הם עדיין התחומים הנפוצים ביותר לאימוץ. 

בנוסף, בזמן שמשיבים רבים צופים השפעה גדולה על ענפיהם מכלי AI יצירתיים, מעטים דיווחו על השפעה משמעותית של AI על העסקים שלהם עד כה. רק 17% מהמשיבים אומרים של-AI כבר הייתה השפעה בינונית או גדולה על האסטרטגיה העסקית של ארגוניהם, למשל. ו-AI נותר בראש סדר העדיפויות הטכנולוגי של מעטים: רק כ-10% מהמשיבים מדרגים אותו כאחת משלוש הטכנולוגיות החשובות ביותר עבור ארגוניהם היום.

על המחקר

סקר מקינזי הגלובלי על מצב ה-AI הנוכחי ב-2022 התבסס על תשובותיהם של 2,474 משתתפים. מתוכם, 374 הם מנהלים בכירים ו-402 עובדים בתפקידי AI ואנליטיקה. המשיבים מייצגים ארגונים במגוון רחב של גודל, אזורים גיאוגרפיים וענפים. הסקר בוצע באפריל 2023.

הערת העורך

הסקר אמנם ישן במונחים של טכנולוגיה אך רבים ממסכמי השנה קבעו את הבינה המלאכותית היוצרת כפריצת הדרך של השנה.

הפוסט סקר מקינזי: שנת 2023 מייצגת צמיחה מטאורית לבינה המלאכותית היוצרת הופיע לראשונה ב-Chiportal.

Lasso Security (לאסו סיקיורטי), חברת סטארט-אפ המציעה פתרון ייחודי בתחום אבטחת בינה מלאכותית גנרטיבית (Generative AI) ומודלי שפה גדולים (Large Language Models – LLM's) הודיעה היום על גיוס Seed של 6 מיליון דולר. את הסבב הובילה הקרן Entrée Capital, בהשתתפות Samsung Next ואנג׳לים מובילים בתחומי הסייבר וה-AI .

טכנולוגית הבינה המלאכותית הגנרטיבית (Generative AI) ומודלי השפה הגדולים (LLMs) יצרו מהפכה של ממש ופתחו אופנים חדשים של הזדמנויות וקידמה עבור ארגונים מכל הסוגים והגדלים.

זו תקופה חדשה ומרגשת, אבל כמו בכל טכנולוגיה מהפכנית היא הביאה עימה ארסנל חדש של סכנות לארגונים המשתמשים בה, החל מדליפה וחדירה של מידע רגיש ולא מאובטח, חולשות אבטחה, וכן התקפות ייחודיות כמו LLM Jailbreak ו- Prompt Injections.

כשקוד מקור נשלח ל-ChatGPT יותר מכל סוג אחר של נתונים רגישים, בקצב של 158 תקריות לכל 10,000 משתמשים ארגוניים בחודש וכבר תועדה  דליפת מידע רגיש בחברת סמסונג, לארגונים אין מקום לטעויות.

לאסו סיקיורטי זיהתה שישנו כשל אבטחה, אובדן פרטיות והפרה של מדיניות אבטחת מידע, אשר מהווים חסם משמעותי בהטמעה של טכנולוגיות בחברות ומונע מהן להשתמש במערכות לייעול והתפתחות. החברה מציבה רף חדש באבטחת סייבר באמצעות פתרון ייחודי השומר על הארגון בכל נקודת מגע עם LLMs, מבטיח הגנה מקיפה לעסקים הממנפים את ה-GenAI וטכנולוגית מודלי שפה גדולים. החברה מתכוונת לנצל את הכספים כדי להרחיב את צוותי הפיתוח על מנת להשקיע ביכולות הטכנולוגיות וההגנה שהיא מציעה ללקוחותיה.

לאסו סיקיורטי הבינה את הצורך הנדרש כדי לאפשר את אימוץ הטכנולוגיה באופן נרחב ללא סיכוני אבטחה, והחלה בפיתוח מענה לפרצות אפשריות בהטמעה של בינה מלאכותית ומודלי שפה גדולים. שיאפשר לעודד ארגונים לרתום את הכוח של הטכנולוגית GenAI ו-LLMs מבלי לסכן את הארגון, להגן על עובדיו, המידע שברשותו ולקוחותיו. לחסום שימוש בטכנולוגיה לא יהיה יעיל לאורך זמן, על כן חברות נדרשות כעת לפתרונות אבטחה מדור חדש לגמרי, ארגז כלים ייחודי. פתרון האבטחה החדשני של לאסו מאפשר התמודדות עם כל סוגי האיומים כגון דליפות מידע, גניבת מודלים, החדרת קוד זדוני, Prompt Injections LLM Jailbreak ועוד. בנוסף, לאסו מציעה פיקוח נרחב בכל הנוגע לחשיפת נתונים רגישים, ניתוח האופן שבו עובדים משתמשים בכלי עבודה מבוססי LLMs כדוגמת ChatGPT, ומתריעה על כך בזמן אמת למשתמש ולצוותי האבטחה. 

הפתרון המתקדם של לאסו סיקיורטי מעניק לצוותי אבטחה פתרון קל להטמעה, עם לוח מחוונים ידידותי וקל לשימוש, ומנטר בצורה רחבה כל נקודת מגע שבה מועברים נתונים אל או מחוץ לארגון באמצעות כלים מבוססי LLM. באמצעות השילוב של איתור Shadow AI, זיהוי והתרעה בזמן אמת וכן חסימה והגנה מיידית, לאסו מסוגלת להגיב במהירות לאיומים וסכנות. החברה מבטיחה הגנה מקיפה מקצה לקצה, תוך התאמה למדיניות האבטחה הייעודית לקבוצות בסביבת העבודה של כל ארגון. עם לאסו, ארגונים יכולים לשלב, להטמיע ולהשתמש ב-LLMs בבטחה הן בסביבת הפיתוח והן על ידי עובדים, תוך שמירה על אבטחת הנתונים ופרטיות המשתמשים, ובכך להגן מפני איומים זדוניים וסיכוני סייבר.

"היכולות של מודלי שפה גדולים (LLMs) הן יוצאות דופן ומחוללות מהפכה בעיבוד מידע, אך גם מעניקות פתח לניצול לרעה על ידי פושעי סייבר תוך פגיעה בארגונים", אומר אלעד שולמן, מנכ"ל לאסו סיקיורטי. "כבר בשנה הקרובה, ארגונים ללא פתרון ייעודי עבור אבטחת LLMs יחוו התקפות ודליפות מידע. בלאסו ניתחנו אתגרי אבטחת LLMs רבים ופיתחנו פתרון מקיף הכולל אמצעי הגנה ותגובה לאתגרים אלו. המשימה שלנו היא לספק לארגונים את היכולת להגן על המערכות שלהם, כולל אלה המשתמשות בטכנולוגיות Generative AI שממנפות LLMs. כל פריט מידע, פקודה או תשובה שנוצרו על ידי כלים מבוססי LLMs יהיו תחת פיקוח קפדני של פלטפורמת האבטחה המתוחכמת שלנו, שתאפשר לצוותים לאמץ טכנולוגיות Generative AI מבלי לסכן את בטיחות המידע שלהם".

"מודלי השפה גדולים (LLMs) הם ללא ספק אחת הקפיצות הטכנולוגיות הגדולות ביותר של זמננו. עם זאת, עם ההזדמנות הזו מגיעה מערכת חדשה של סיכוני אבטחת מידע ועמידה בתקינה. האתגרים הללו לא צריכים להפריע לקידמה הטכנולוגית", אמר ערן בילסקי, שותף ב-Entrée Capital. "הפתרון של לאסו מטפל ישירות בפגיעויות הקשורות ל-LLMs. זה מאפשר לעסקים לשלב בביטחון מודלי שפה גדולים במוצרים או בכלים הפנימיים שלהם, תוך שמירה על הנתונים והמידע המסחריים שלהם. אנו נרגשים לתמוך ולשתף פעולה עם לאסו בזמן שהם מעניקים פתרונות אבטחת LLMs לארגונים".

הפוסט סטארט-אפ הסייבר Lasso Security נחשף עם גיוס Seed של 6 מיליון דולר הופיע לראשונה ב-Chiportal.

אילון מאסק הכריז רשמית על חברת AI חדשה שהקים ושמה xAI. מאסק, שהוא גם הבעלים של טוויטר וכן מנכ"ל של מספר חברות שבראשן טסלה ו-SpaceX, הודיע בציוץ על הקמת חברת הבינה המלאכותית החדשה, שמטרתה "להבין את הטבע האמיתי של היקום", כך לפי אתר האינטרנט של החברה.

מדובר על ישות נפרדת מהעסקים האחרים של מאסק, אך כזו שעתידה לעבוד איתם בצמוד. צוות החברה, המונה 12 חוקרים, הוא מקבץ יוקרתי של מומחים וטאלנטים לתחום, שנאספו על ידי מאסק מחברות טכנולוגיה מובילות ומתחרות, ביניהן Microsoft Research, OpenAI ו-DeepMind של גוגל.

מאסק, שכידוע היה ממייסדי OpenAI יחד עם מנכ"לה סם אלטמן, אך עזב את החברה ב-2018, כנראה חווה תחושת החמצה קשה לנוכח הצלחת החברה שנטש. עם זאת הוא הרבה בשנים האחרנות לבקר את CHATGPT בעיקר בטיעונים על הטיות למיניהם.

שם החברה XAI, או Explainable AI, הוא גם שמו של תחום בתחום בינה מלאכותית העוסק בפיתוח מודלים בינה מלאכותית שניתן להסביר את החלטותיהם. הדבר חשוב מכיוון שהוא מאפשר למשתמשים להבין את ההתנהגות של מודלי AI, לזהות דעות קדומות ופגמים, ולקבל החלטות מושכלות לגבי השימוש בהם.

ישנן מספר סיבות מדוע אילון מאסק הכריז על XAI לאחר שביקר את CHATGPT על בעיות פרטיות. הסיבה הראשונה היא שהשתיים קשורות זו לזו. XAI הוא כלי חשוב לזיהוי ודיכוי דעות קדומות במודלי AI, ו-CHATGPT הוא דוגמה למודלי AI שיכולים להיות מוטים. הסיבה השנייה היא ש-XAI הוא כלי חשוב ליצירת מודלי AI אמינים ושקפים יותר. CHATGPT הוא דוגמה למודלי AI שיכולים להיות לא אמינים, ומיושמים ללא שקיפות לטענתו.

מאסק טוען ש-XAI הוא "הדבר החשוב הבא בבינה מלאכותית". הוא אומר ש-XAI הוא כלי הכרחי כדי לבנות מודלי AI שאנו יכולים להבין, לסמוך עליהם ולהשתמש בהם בבטחה. הוא גם אומר ש-XAI הוא המפתח לפיתוח מודלי AI שיועילו לחברה ולא יפגעו בה.

הפוסט אילון מאסק הכריז על הקמת מערכת AI שיודעת להסביר את תשובותיה, כמענה ל-CHATGPT ובארד הופיע לראשונה ב-Chiportal.

כתיבה: רועי גולדשמידט | אישור: יובל וורגן

.1 רקע

מסמך של הנציבות האירופית מגדיר בינה מלאכותית כמערכות המפגינות התנהגות תבונית באמצעות ניתוח סביבתן ונקיטת פעולות, במידה מסוימת של אוטונומיות, כדי להשיג את מטרתן. 1 מערכות בינה מלאכותית יכולות להתבסס על תוכנה בלבד ולפעול במרחב המקוון, למשל בעוזרים קוליים, מנועי חיפוש, מערכות זיהוי פנים, זיהוי דיבור ועוד; או להיות מוטמעות בהתקנים פיזיים כמו: כלי רכב אוטונומיים, רחפנים, רובוטים מתקדמים ועוד.

למרות שיישומי בינה מלאכותית אינם דבר חדש, השילוב בין "קפיצה טכנולוגית" ביכולות העיבוד והניתוח של מערכות כאלה בשנים האחרונות, ותפוצתם של יישומי בינה מלאכותית יוצרת (Generative) עוררו לאחרונה דיון ציבורי ער על ההזדמנויות והסיכונים במערכות בינה מלאכותית, ולקריאה של מובילי טכנולוגיה ומדענים רבים להקפיא למשך חצי שנה פיתוחים חדשים בתחום ולהצהרה בדבר הצורך לפעול כדי למזער סיכונים חמורים שיכולים
להיגרם מטכנולוגיות אלה.

בינה מלאכותית יוצרת היא שם כולל ליישומים המבוססים על מודלי שפה המאפשרים ליצור באמצעות שאילתה קצרה, תוכן חדש – טקסטים, תמונות, סרטונים, מוזיקה, קוד מחשב ועוד, המופק בהתבסס על מידע אימון data) (training שהוזן למערכות. ככל שמידע האימון מפורט, מדויק ומקיף יותר, היכולות של המערכות הללו משתפרת. מערכות בינה מלאכותית החלו כבר לפני שנים רבות יחסית לבצע בהצטיינות משימות "כמו אנושיות" כגון משחקי שח-מט, משחק הגו הסיני, טריוויה וכדומה2. עם זאת נראה כי פיתוחם של מודלי שפה מתקדמים והשירותים שהם מאפשרים, יוצר שינוי: באינטראקציה אדם – מחשב, בהיקף המשתמשים, ובתפיסה הציבורית.
יישומי בינה מלאכותית יוצרת אינם בגדר "בינה מלאכותית כללית" Intelligence) General Artificial – ,(AGI אך כיוון שהם מתמחים במשימות שונות ולא רק במשימה אחת ספציפית וצרה AI) ,(Narrow הם מעוררים ספק ביחס

להנחות קודמות כי בינה מלאכותית כללית לא צפויה להתממש בעשורים הקרובים וחשש באשר להשלכות המשך הפיתוח והתפוצה הלא מבוקרת שלהם. בעדותו בקונגרס במאי 2023 קרא המנכ"ל של אחת מחברות הבינה המלאכותית לקדם רגולציה שתתמרץ בטיחות ונגישות של יישומי בינה מלאכותית, כולל רישוי או רישום של מודלים מעל עוצמה מסוימת ופיתוח מנגנוני פיקוח בינלאומיים על התחום.

בינה מלאכותית יוצרת היא כבר כיום כלי שימושי ללימוד, הכשרה ויצירה והיצע היישומים בתחום ועוצמתם צפוי להמשיך ולגדול. שימוש מושכל בכלי בינה מלאכותית יוצרת – כזה שאיננו מסתמך עליה באופן בלעדי ובוחן אותה באופן ביקורתי – יכול לייעל ולקצר תהליכי עבודה, למידה ויצירה ולהקנות אפשרויות חדשות למשתמשים. עם זאת, שימוש לא מיומן, לא מבוקר או שימוש לרעה עלולים להוביל לתוצאות שליליות.
טכנולוגיות בתחומי הבינה המלאכותית יוצרות הזדמנויות חדשות ושווקים חדשים בתחומים כגון: בריאות, חינוך אנרגיה, סביבה ועוד. כך לדוגמה, מערכות בינה מלאכותית הסורקות תיקים רפואיים ומידע רפואי, יכולות לזהות סיכונים או

סיבוכים צפויים בהליך רפואי ולהציע טיפול; טכנולוגיות ניתוח תמונה העושות שימוש במידע מרשתות חברתיות יכולות לזהות בעלי חיים ספציפיים ואת דפוסי התנועה שלהם; טכנולוגיות ניטור תחבורה מאפשרות לנהל תנועה בכבישים בצורה יעילה וכך לקצר זמני המתנה ולצמצם פליטת מזהמים; מיזמים שונים מנסים להשתמש בנתוני עתק ובניתוח של הידע בהם כדי לפתור סוגיות חברתיות כמו פשיעה, אבטלה או נשירה ממערכת החינוך. מאידך, חדירתן של טכנולוגיות בינה מלאכותית מעוררות גם חששות רבים.

.2 בינה מלאכותית יוצרת: סוגיות מדיניות

• השפעות והשלכות על תעסוקה: בניגוד להנחה המקובלת כי מגמות האוטומציה ישפיעו בעיקר על עבודות כפיים או עבודות "צווארון כחול," המגמות האחרונות בתחום הבינה המלאכותית מצביעות על אפשרויות השפעה גם על משרות בתחומים אחרים בהם: תסריטאים, גרפיקאים, מתכנתים, מתרגמים ועוד. יתרה מכך, לפי טיוטת מחקר ממרץ 2023 שמנסה לאמוד את ההשלכות של טכנולוגיות בינה מלאכותית יוצרת ומודלי שפה גדולים (LLM's) על שוק התעסוקה בארצות הברית, דווקא מקצועות בשכר גבוה חשופים יותר ממקצועות בשכר נמוך להשלכות חדירתן של טכנולוגיות אלה. לפי אומדן במחקר האמור, בכ19%- מן המשרות צפויה השפעה על כ- 50% מן המשימות של העובדים בהן, וב80%- מן המשרות צפויה השפעה על כ10%- מן המשימות של העובדים בהן. עם זאת, לפי סקר מקיף של הפורום הכלכלי העולמי (WEF) ממאי ,2023 שכלל גם חברות ישראליות, שיעור המשרות החדשות שייווצרו בטווח הקצר (2027-2023) צפוי להיות גדול משיעור המשרות שייעלמו, כך שהמאזן הכולל המשוער יהיה חיובי ויוביל לגידול של יותר מ25%- במשרות (בקרב חברות ישראליות, האומדן של המשיבים הוא כ11%- גידול בהיצע המשרות.)
• מידע כזב",דיפ-פייק" והשלכות על אמון הציבור ועל מוסדות דמוקרטיים: מודלי שפה חדשים וכלי בינה מלאכותית העושים בהם שימוש, מקלים על יצירת דיסאינפורמציה – תוכן מטעה במתכוון, התאמה שלו לנמענים, והפצתו בהיקפים ניכרים ובקלות. גישות רווחות לצמצום הבעיה כגון בדיקת עובדות, חינוך משתמשים ושיפור האוריינות שלהם לא בהכרח יעילים כנגד דיסאינפורמציה המפותחת בכלי .AI עם זאת, חברות בתחום עוסקות בפיתוח כלי AI לשם זיהוי ותיוג של תוכן שנוצר באמצעות .
• AI, הטיה ואפליה אלגוריתמית: מערכות מבוססות בינה מלאכותית עושות שימוש רב בבסיסי נתונים קיימים ובמידע המוזן אליהן ומשמש כדי לאפשר להן ללמוד. הטיות בבסיסי הנתונים או בהנחיות המוזנות למערכות כאלה, לצד טעויות מערכת אחרות, עשויות לגרום למערכות כאלה להפלות חלק מן המשתמשים. ככל שחדירתן של מערכות כאלה צפויה לגדול וסמכויותיהן ביחס לקבלת החלטות (בפרט ללא מעורבות אדם) תגדל, עלולהלהתרחש "אפליה אלגוריתמית" בהיקפים נרחבים יותר.
• קניין רוחני והשלכות על יצירה: מסמך שפרסמו לאחרונה שירותי המחקר של הקונגרס בארצות הברית מעלה שאלות מעניינות ביחס לנושא הקניין הרוחני, בהן: האם ניתן לקבוע זכויות יוצרים עבור תוכן שהופק באמצעות מערכות ?AI האם ניתן להגדיר להן "יוצר" או "מחבר" ?(Authorship) באם ניתן לרשום זכויות יוצרים, למי מוקנות הזכויות (לחברת התוכנה? למפתח? למשתמש הקצה)? כיוון שכאמור לעיל, יישומי בינה מלאכותית זקוקים לכמויות עצומות של מידע אימון, האם השימוש במידע אימון שיש עליו זכויות יוצרים נחשב להפרה שלהן? או לשימוש הוגן? והאם תוצרי בינה מלאכותית (כגון טקסטים או תמונות) נחשבים למפרים קניין רוחני במקרה של דמיון משמעותי ושל ראייה לכך שהתוכן המוגן שימש לשם אימון המודל.

.

3 בינה מלאכותית: מדיניות ממשלתית בישראל

החלטת ממשלה 212 מאוגוסט 2021 הטילה על שרת החדשנות, המדע והטכנולוגיה להוביל את מדיניות הממשלה בתחום הבינה המלאכותית בנושאי רגולציה, מדיניות מידע ונתונים, אתיקה, שיתוף פעולה בין-לאומי אזרחי והטמעה במגזר הציבורי האזרחי ועוד. לשם מימוש מטרות אלה, הוחלט להקים צוות בין-משרדי בהובלת מנכ"לית משרד החדשנות, המדע והטכנולוגיה שיעסוק בנושא הבינה המלאכותית ויגיש המלצות בתחום. עוד נקבע בהחלטה, כי יש לאשר את מתווה פורום תל"מ (תשתיות לאומיות למדע) לבינה מלאכותית ומדעי הנתונים בהתאם להמלצות הוועדה שמינה הפורום (ראו להלן.) המלצות מתווה תל"מ כוללות: "פיתוח הון אנושי מחקרי בתחומי הליבה של טכנולוגיית הבינה המלאכותית; הקמת מרכז חישוב על-לאומי לשימוש המגזר הציבורי הרחב, התעשייה והאקדמיה; קידום יכולות עיבוד שפה טבעית בעברית ובערבית; יצירת סביבה רגולטורית מאפשרת להתפתחות תחומים אלה, ועוד."

ביולי 2022 פורסם כי ישראל גיבשה "תוכנית לאומית לבינה מלאכותית" בהובלה של משרד החדשנות, המדע והטכנולוגיה ורשות החדשנות הפועלת במסגרת המשרד. התוכנית הלאומית האמורה, גובשה בעקבות עבודה של ועדת בינה מלאכותית ומדע הנתונים שהגישה את מסקנותיה ליו"ר פורום תל"ם בדצמבר 2020. עוד טרם עבודת הוועדה האמורה, בוצעו עבודות גם על ידי מומחים נוספים, בהן דוח בנושא "אתיקה ורגולציה של בינה מלאכותית" שנכתב כחלק מהמיזם הלאומי למערכות נבונות ובטוחות, ודוח "המיזם הלאומי למערכות נבונות בטוחות להעצמת הביטחון הלאומי והחוסן המדעי-טכנולוגי: אסטרטגיה לאומית לישראל." צוות המיזם החל לעסוק בנושא בשנת ,2018 אך הדוח פורסם רק ב.2020- יצוין, כי במתווה שהוצע במסגרת המיזם הלאומי האמור, הומלץ לתקצב את המיזם ב10- מיליארדי ש"ח למשך 5 שנים, ולהקים מינהלת לאומית ייעודית לניהולו במשרד ראש הממשלה. לעומת זאת, בדוח ועדת בינה מלאכותית ומדע הנתונים, גובה ההקצאה הנדרש היה נמוך משמעותית – כ- 5.2 מיליארד ש"ח, והוצע לבססו על גופים קיימים.
יצוין כי למרות שכאמור פורסם כי גובשה "תוכנית לאומית לבינה מלאכותית" על בסיס המלצות פורום תל"מ, לא מצאנו פרסום מלא של מתווה התוכנית ולא ברור מה סך התקציב המיועד לתוכנית. לפי ד"ר זיו קציר, מנהל תוכנית תל"מ לבינה מלאכותית, ההשקעה הכוללת במתווה עומדת על מיליארד ש"ח בשתי פעימות (בתקציבים שאושרו עד כה, כולל תקצוב .)2024-2023

התוכנית הלאומית

לטעת גורמים שנטלו חלק בתכנון המיזם הלאומי למערכות נבונות, היקפה המוגבל של התן[כנית הלאומית שהתקבלה פוגע ביכולתה של ישראל למצב עצמה כשחקן מוביל, משפיע ובעל כוח שוק בתחום הבינה המלאכותית – בדומה לעוצמה של ישראל בתחום הסייבר, הנובעת מהזיהוי המוקדם וריכוז המאמץ בתחום הסייבר. ראש הממשלה, חה"כ בנימין נתניהו התייחס לנושא ב5- ביוני 2023 וציין כי יכנס בימים הקרובים צוותי חשיבה כדי לדון על המדיניות הלאומית של מדינת ישראל בנושא הבינה המלאכותית, הן בתחום האזרחי והן בתחום הביטחוני. זאת במטרה להפוך את ישראל למעצמה לאומית בתחום הבינה המלאכותית, כפי שהיא בתחום הסייבר.

גיבוש המדיניות הלאומית שהתקבלה נעשה בין השאר על רקע התיאור המופיע בדוח ועדת בינה מלאכותית ומדע הנתונים לפיו קיים בישראל פער ניכר בין המחקר והפיתוח (להלן: המו"פ) המתקדם בתחומי הבינה המלאכותית לבין חסר באסטרטגיה ממשלתית בתחום שבא לידי ביטוי גם במחסור בתשתיות חישוב הולמות. כותבי הדוח הגיעו למסקנה כי "קיים צורך קריטי בייזום תוכנית לאומית שתתווה פתרון מערכתי לקידום המו"פ בתחום בינה
מלאכותית ומדע הנתונים. יש למדינת ישראל את הפוטנציאל וההזדמנות להיות מדינה מובילה בתחום. קיומה של תוכנית לאומית בתחום בינה מלאכותית ומדע הנתונים, חיוני לחוסנה של מדינת ישראל ויתרום להעמקת המחקר האקדמי, להרחבת הבסיס התעשייתי, ליצירת הזדמנויות כלכליות משמעותיות ולקידום דרמטי של היכולות הביטחוניות הישראליות".

באוקטובר 2022 פרסמה שרת החדשנות, המדע והטכנולוגיה דאז מסמך מדיניות להערות הציבור תחת הכותרת "מדיניות רגולציה ואתיקה בתחום הבינה המלאכותית." לפי המסמך "אין מקום בעת הזו לקידום רגולציה באמצעות חקיקה רוחבית שהיא ייחודית לתחום הבינה המלאכותית. יוער כי ייתכן ומדיניות זו תשתנה ככל שתחום הבינה המלאכותית יתפתח ויתבסס ומשמעויותיו תתבהרנה."

בין העקרונות האתיים המפורטים במסמך: בינה מלאכותית תשמש לקידום צמיחה, פיתוח בר-קיימא והמובילות הישראלית בתחום החדשנות; האדם במרכז: כיבוד זכויות יסוד ואינטרסים ציבוריים; שוויון ומניעת אפליה פסולה; שקיפות והסברתיות; אמינות, עמידות, אבטחה ובטיחות, ו-אחריותיות.

בנייר עמדה של המכון הישראלי לדמוקרטיה בנושא, נטען בין היתר כי: )1 הגישה במסמך המדיניות הממשלתי לפיה די באסדרה רכה ואתית בלבד לא עולה בקנה אחד עם ההתפתחויות בעולם ותוביל לפתיחת פער מיותר בין ישראל למדינות המפותחות; )2 המסמך מתעלם מסוגיית שימושי בינה מלאכותית במגזר הציבורי ומתמקד בהסדרת השוק הפרטי; )3 ההתייחסות להסדרת בינה מלאכותית כשלעצמה, בהתעלם מהסדרת טכנולוגיות משיקות, כמו פרטיות וסייבר והכשל בהסדרתן – היא בעייתית.

החלטת ממשלה 173 מפברואר 2023 תחת הכותרת "חיזוק המובילות הטכנולוגית של ישראל" מאשרת את התוכנית הלאומית לבינה מלאכותית ובכללה: האצת המחקר הבסיסי והיישומי בתחום; יצירת קפיצת מדרגה
לתעשייה הישראלית בפיתוח תשתיות לתחום והטמעה של יישומי בינה מלאכותית במגזר הציבורי האזרחי לייעולו. לפי ההחלטה: משרד האוצר יקצה תקציב הרשאה להתחייב שלא יעלה על 500 מיליון ש"ח, והגופים החברים בפורום תל"מ יעמידו את תקציב המתווה המיועד להקצאה על-ידם והוא ימומש בשנים 2023 עד .2026 כאמור, לפי ד"ר זיו קציר, מנהל תוכנית תל"מ לבינה מלאכותית, ההשקעה הכוללת במתווה עומדת על מיליארד ש"ח בשתי
פעימות. יובהר, כי לא סקרנו במסמך את פעילות הממשלה בפועל בתחומי הבינה המלאכותית, אך בין השאר אושרה תמיכה בכ- 5.5 מיליוני ש"ח ליצירה והנגשה של מאגרי מידע בעברית וערבית שאמורים לשמש תשתית למודלי שפה; פורסמו קןלות קוראים לפיתוח כלי תוכנה בתחומי חישוב על ובינה מלאכותית ולהקמת מעבדת מו"פ להסברתיות, שימור פרטיות ולמידה מבוזרת, הוקם צוות בין משרדי לבחינת השימוש בבינה מלאכותית במגזר הפיננסי; ונחתם מזכר לשיתוף פעולה בין הכנסת לרשות החדשנות בתחומי עיבוד שפה טבעית, על בסיס הנגשת מאגרי מידע של הכנסת.

.4 בינה מלאכותית: מידע ראשוני על יוזמות רגולציה בעולם

בעוד כאמור לעיל, העמדה הממשלתית הרשמית האחרונה שפורסמה בנושא תמכה ברגולציה רכה ולא ביוזמת חקיקה מקיפה לנושא, באירופה קיימת טיוטת חוק מקיפה בנושא בינה מלאכותית. לפי פרסום של הפרלמנט האירופי
עיקרי טיוטת החקיקה כוללים הבחנה בין רמות שונות של סיכון שמציבות מערכות בינה מלאכותית. כך למשל, מערכות ברמת סיכון גבוהה מאוד לבני אדם, בהן: מערכות המשתמשות במסרים מניפולטיביים או תת-הכרתיים, מנצלות בני אדם או משמשות ל"דירוג חברתי" (לפי התנהגויות, מצב כלכלי-חברתי ועוד,) ייאסרו בשימוש.

שימושים אסורים נוספים המוצעים בטיוטת החקיקה, כוללים גם: זיהוי ביומטרי מרחוק בזמן אמת במקומות ציבוריים; זיהוי ביומטרי מרחוק למפרע, למעט עבור רשויות אכיפה ובנסיבות של פשעים חמורים ובכפוף לאישור משפטי; מיון ביומטרי המתבסס על מאפיינים רגישים (כגון מגדר, אתניות, אזרחות, דת או עמדה פוליטית;) "מערכות שיטור מנבא" policing) ;(Predictive מערכות "זיהוי רגשות" לאכיפת חוק, לניהול גבולות, במקום העבודה ובמוסדות חינוך ועוד.

על פי הטיוטה, מערכות המוגדרות ככאלה שיש בהן סיכון גבוה כוללות כאלה שמזיקות לבריאות, לבטיחות או לזכויות היסוד של בני אדם או לסביבה; מערכות בינה מלאכותית שמשפיעות על בוחרים בקמפיינים פוליטיים; ו"מערכות
המלצה" שמשמשות רשתות חברתיות שלהן 45 מיליוני משתמשים ומעלה.

עוד על פי הטיוטה, ספקים של מודלי בסיס Models Foundation בתחום הבינה המלאכותית יצטרכו להתחייב להגן על זכויות יסוד, בריאות, ביטחון, הגנת הסביבה, הדמוקרטיה ושלטון החוק; לאמוד ולמתן סיכונים; לעמוד בדרישות שונות ואף לרשום את המודלים במאגר אירופי. מודלים בסיסיים יוצרים כמו GPT יידרשו בדרישות שקיפות נוספות בהן: חובת גילוי שהתוכן נוצר על ידי בינה מלאכותית; עיצוב המודל כך שלא יצרוך תוכן לא חוקי ולא יפרסם סיכומים של מידע או נתונים מוגנים בזכויות יוצרים ששימשו לאימון המודל. עם זאת, כדי לעודד חדשנות, מוצע להחריג מן החוק פעילויות לשם מחקר ורכיבי בינה מלאכותית שמונגשים תחת רישיון בקוד פתוח. החוק אמור לעודדסביבות ניסוי נשלטות ו"קופסאות חול רגולטוריות" שישמשו לבחינה מוקדמת טרם פריסתם.

בשונה מהעמדה הכוללנית והאקטיבית המסתמנת בכיווני הרגולציה של האיחוד האירופי, עד כה, טרם גובשה מסגרת או תפיסה דומה ברגולציה בארצות הברית (בהיבט זה, יתכן כי המצב דומה לגישות השונות להגנת הפרטיות
בין אירופה לבין בארה"ב,) אף כי גם בארצות הברית מתקיימים דיונים בנושא הצורך ברגולציה על בינה מלאכותית.

ארצות הברית

בפברואר 2019 פרסם הבית הלבן צו נשיאותי תחת הכותרת "שימור ההובלה האמריקאית בבינה מלאכותית." הצו קובע חמישה עקרונות: )1 להוביל פריצות דרך טכנולוגיות בבינה מלאכותית בכלל המגזרים: ממשל פדרלי, תעשייה ואקדמיה כדי לקדם גילויים מדעיים, תחרותיות כלכלית וביטחון לאומי; )2 להוביל פיתוח סטנדרטים ולהסיר חסמים לבדיקה ויישום של טכנולוגיות בינה מלאכותית; )3 להכשיר את העובדים למיומנות בפיתוח והטמעה של טכנולוגיות בינה מלאכותית כדי להכשיר אותם להווה ועתיד התעסוקה; )4 לטפח את אמון הציבור ובטחונו בטכנולוגיות בינה מלאכותית, ולהגן על חירויות אזרחיות, פרטיות וערכים אמריקאים; )5 לקדם סביבה בינלאומית התומכת במחקר וחדשנות אמריקאית בתחום הבינה המלאכותית.

בהמשך לצו הנשיאותי האמור, פרסם המשרד הנשיאותי לניהול ותקציב (OMB) בנובמבר 2020 מזכר הנחיות לרגולציה על יישומי בינה מלאכותית לראשי הסוכנויות. בין השאר נכתב במזכר כי על הסוכנויות להימנע מרגולציה או פעולות אחרות שיסכנו את החדשנות והצמיחה של תחום הבינה המלאכותית ולהימנע מלנקוט גישה זהירה שתגדיר למערכות בינה מלאכותית סטנדרט גבוה ובלתי אפשרי שימנע מהחברה לנצל את היתרונות שלה, ושיכולה לפגוע במעמדה של ארצות הברית כמובילה בתחום הבינה המלאכותית. המזכר מתייחס לשורת עקרונות מנחים לעיצוב רגולציה בהם: אמון הציבור במערכות בינה מלאכותית; שיתוף ציבור, יושרה מדעית ואיכות המידע; הערכה וניהול סיכונים; תועלות ועלויות; גמישות; הוגנות ואי-אפליה; גילוי נאות ושקיפות, בטיחות ובטחון ושיתופי פעולה בין סוכנויות. לפי סקירה של מכון ברוקינגס בנושא, הגישה במזכר משקפת מדיניות של צמצום רגולציה מחד, והסמכתן של הרשויות והסוכנויות הפדרליות לפעול בתחומי אחריותן בכלים רגולטוריים ולא רגולטוריים בהתאם לגישה מבוססת רמת סיכון. למרות שהמזכר דרש מהסוכנויות הממשלתיות הרלבנטיות לקבוע תוכנית לרגולציה של בינה מלאכותית, רק חלק קטן מ- 41 הסוכנויות הרלבנטיות עשו זאת עד כה.

הבית הלבן מתערב

באוקטובר 2022 פרסם הבית הלבן תוכנית ל"הצעת חוק זכויות בבינה מלאכותית" rights) of bill ,(AI המתבססת על חמישה עקרונות: מערכות בטוחות ואפקטיביות; הגנה מפני אפליה אלגוריתמית; הגנת מידע; התרעה והסבר וחלופות אנושיות. מן הסקירה של מכון ברוקינגס עולה כי התוכנית האמורה מתמקדת בצמצום הסיכונים לכלכלה ולזכויות אדם עקב מערכות בינה מלאכותית – בשונה מהמיקוד של תוכניות ממשלתיות קודמות בהזדמנויות לחברה
ולכלכלה. כמו כן, בשלב זה התוכנית היא בגדר המלצה בלבד ויש הבדלים במידת יישומה בסוכנויות פדרליות שונות. יצוין כי בינואר 2023 פרסם המכון הלאומי לסטנדרטים וטכנולוגיה (NIST) מסמך מסגרת להערכת סיכונים בבינה
מלאכותית.

במאי 2023 העיד מנכ"ל חברת הבינה המלאכותית OpenAI סם אלטמן בפני ועדת משנה של הסנאט לפרטיות, טכנולוגיה וחוק. בעדותו ציין אלטמן כי לשיטתו רגולציה על בינה מלאכותית היא חיונית כדי לתמרץ בטיחות של מערכות בינה מלאכותית לצד ההגנה על אפשרותם של אנשים להשתמש בהן ולהפיק מהן תועלת. כדי לוודא את השמירה על בטיחות, בפרט בחברות המפתחות מודלים חזקים של בינה מלאכותית, יש לוודא כי הן עומדות בדרישות בטיחות הולמות, כולל בדיקות פנימיות וחיצוניות בטרם פרסום. הוא קרא לממשלת ארצות הברית לשקול שילוב של רישוי או רישום של מודלי בינה מלאכותית מעל רף ביצועים מסוים, לצד תמריצים לגופים שיעמדו בדרישות האמורות. עם זאת, בשל הדינמיות של תחום הבינה המלאכותית, נדרש משטר רגולטורי גמיש מספיק כדי להתאים להתפתחויות הטכנולוגיות ולבחון הליך שמשלב את כלל בעלי העניין כדי לפתח ולעדכן תדיר סטנדרטים של בטיחות, תנאי הערכה, כללי חשיפה, תהליכי תיקוף. בנוסף, לטענתו על מעצבי מדיניות לבחון כיצד להטמיע רגולציית רישוי ברמה גלובאלית כדי לוודא שיתופי פעולה בינלאומיים בנושא בטיחות בבינה מלאכותית ואף לבחון הקמת ארגון – בין-ממשלתי לפיקוח והגדרת סטנדרטים. יצוין כי נושא הבינה המלאכותית נדון כיום בקונגרס האמריקני בהקשרים שונים ובוועדות שונות, ובתוך כך מתקיימים דיונים על הצורך ברגולציה על תחום זה. כך למשל, בדיון של ועדת הסנאט לביטחון המולדת בו נדונו היתרונות והסיכונים של השימוש בטכנולוגיות אלו על ידי סוכנויות הממשל והצורך בהכשרה הולמת לעובדיהן.

הפוסט מסמך של מרכז המחקר של הכנסת סוקר את תחם בינה מלאכותית יוצרת: הזדמנויות, סיכונים ורגולציה הופיע לראשונה ב-Chiportal.