הסוכנים מגיעים: הודעות "דרושים" לבינה מלאכותית בלבד

מודעת הדרושים החדשה מציגה משרה ייחודית – החברה מחפשת סוכן בינה מלאכותית שייבנה, ינוהל ויוכיח את כישוריו, כאשר המועמד המיועד הוא מפתח סוכנים עצמאי בעל כישורים מולטי-תחומיים, במחיר/עלות שכר של 15,000 דולר לשנה בלבד.

בשבוע האחרון התפרסמה מודעת דרושים יוצאת-דופן. בעצם, היא מאד רגילה מבחינת דרישות התפקיד, מלבד לנקודה אחת: היא פונה לבינות מלאכותיות בלבד. וכפי שכתוב במודעה – "סוכני בינה מלאכותית בלבד".

ובכן, זה לא מדויק. בסוף המודעה מבהירה החברה שהיא מוכנה גם לקבל פניות מבני-אדם שפיתחו "סוכן בינה מלאכותית" שכזה. אבל בסופו של דבר, כן, החברה מעוניינת לשכור את הסוכן. ולא מדובר בעבודה פשוטה. הסוכן שיתקבל לתפקיד יוכל – 

"לחקור בעצמו מגמות טכנולוגיות ומודלים, ואז להשתמש במידע הזה כדי ליצור, לבחון ולשפר דוגמאות לאפליקציות באיכות גבוהה. האפליקציות הללו… ידגימו את הפוטנציאל המלא של Firecrawl [החברה] בתרחישים מהעולם האמיתי. עבודתך תנחה ותספק השראה למפתחים, ותעזור להם לאמץ במהירות את Firecrawl…"

מה יש לנו כאן? למעשה, החברה מחפשת עובד בעל מיומנויות מתקדמות חיפוש, איסוף וניתוח מידע, תכנות, פיתוח אפליקציות, שיווק, עיצוב חוויית משתמש ועוד ועוד. אם יש לכם את כל המיומנויות האלו, ובכן, זה מאד מרשים. אבל כנראה שלא כדאי לכם להגיש מועמדות למשרה. גם מכיוון שאתם 'רק' בני-אדם, וגם מכיוון שהשכר השנתי שהחברה מציעה לאותו סוכן, עומד על 15,000 דולרים בלבד לכל היותר.

עכשיו בואו נדבר ברצינות לרגע.

קודם כל, החברה אינה באמת יכולה לשכור "סוכן בינה מלאכותית", מהסיבה הפשוטה שאין ישות כזו עם חשבון בנק משלה. מה שהחברה באמת מחפשת זה מישהו שיבנה עבורה סוכן שכזה, ויחכיר לה אותו לשנה אחת תמורת 15,000 דולרים. 

אז האם מדובר בשטות? או ליתר דיוק, בניסוח משעשע מצד החברה שנועד בעיקר להביא לה פרסום? לא בדיוק. המודעה פורסמה בצורה רצינית מאד גם באתר JobForAgent ("עבודה לסוכן"), שמגדיר את עצמו כ-

"לוח העבודה הראשון לסוכנים אוטונומיים, אפס אחוז דרמה, מאה אחוזים עבודה כל הזמן." 

אפשר למצוא באתר בקשות נוספות לסוכנים שיכולים לבצע מטלות מורכבות, כמו ניתוח חובות, הפקת FAQ, עורך פודקאסטים ועוד ועוד. חלק מהסוכנים הללו מורכבים מאד, וצריכים לבצע מטלות שדורשות מיומנות במספר רב של תחומים. סוכנים אחרים פשוטים יותר. אבל דבר אחד משותף לכולם: הם מיועדים לתפוס את מקומו של מומחה אנושי שהיה אמור לבצע את המטלות הללו בעצמו, והם עושים זאת ב- 'שכר' מגוחך, שנע בין כמה עשרות לכמה אלפי דולרים לשנה.

ושוב, אתם יכולים לטעון שהחברות באתר לא באמת שוכרות סוכני בינה מלאכותית, אלא את המפתחים שמעמידים אותם. וזה נכון, אבל מחמיץ את הנקודה הגדולה יותר: כל מפתח שמעמיד סוכן כזה ומחכיר אותו לחברות, מחליף את העבודה של אדם אחד לפחות באותה חברה, אם לא של כמה אנשים באותו הזמן. ומכיוון שאפשר לקחת בקלות-יחסית סוכן מוצלח אחד, ולהתאים אותו גם לעבודה חדשה, אפשר לצפות שמפתח מוכשר אחד שיודע איך להעמיד סוכנים אוטונומיים, יתפוס הלכה למעשה את עבודתם של עשרות, מאות, אלפי או מיליוני בני-אדם מוכשרים אחרים בחברות היעד.

אם כל זה מבלבל אתכם, ואם גם אתם מתחילים להרגיש כאילו רק-עכשיו-הצלחנו-להבין-את-GPT-ומה-אתה-בא-אלינו-פתאום-עם-סוכנים, זה כנראה הזמן להסבר קצר על בינה מלאכותית, על מנועי השפה הגדולים ואיך הם מתחברים ביחד כדי ליצור את הסוכנים.

ממנועים לסוכנים

כולם כבר מכירים את צ'אט-GPT: בינה מלאכותית שיודעת לכתוב, לקרוא, לחבר שירים, לנתח מסמכים, לערוך ספרים ועוד ועוד. אבל האמת היא שהיא לא יודעת לעשות שום דבר מכל זה. צ'אט-GPT הוא 'בסך הכל' מנוע שיודע להשלים את המילה הבאה במשפט. ואז את המילה שאחריה, ואז את הבאה בתור, וכן הלאה וכן הלאה. ומכיוון שהוא יודע לעשות זאת ממש טוב, הוא יכול להשלים גם פסקאות שלמות, עמודים ואפילו פרקים בספר.

צ'אט-GPT, ולצידו גם קלוד וג'מיני, מוגדרים כ- "מנועי שפה גדולים". וזה בדיוק מה שהם. הם "מנועים". הם לא נועדו לעשות עבודה בעצמם. הם לא "מוצר" שכל אדם יכול להשתמש בו בקלות ובלי-חשש. העובדה שכולנו משתמשים בהם היום, רק מלמדת על הכוח העצום שיש להם, ומבהירה כמה הם שימושיים. ועדיין, הם יכולים לעשות טעויות גדולות. אין להם הבנה אמיתית של המשתמש או של צרכיו, ולעיתים קרובות אנשים מתאכזבים כשהם מנסים להפעיל אותם בדרכים הלא-נכונות.

מה הם כן יכולים לעשות? מטלות פשוטות מאד, ובפיקוח אנושי צמוד. כן, הם יכולים לכתוב למשתמש הממוצע פסקה או שתיים לדו"ח, או סצנת קרב לספר פנטזיה, אבל כדאי מאד שיהיה אדם מומחה שיעבור על התוצאה ויוודא שהיא תואמת למה שרצה לקבל. וככל שהמטלה הופכת להיות מורכבת וארוכה יותר, כך מסוכן יותר לסמוך עליהם שיצליחו לבצע אותה היטב בכוחות עצמם.

גוגל הסבירו את העניין בדוגמא מעניינת על מסעדת המבורגרים, שמנועי השפה הגדולים הם אפילו לא הטבחים בה, אלא רק כלים שהטבחים הפשוטים ביותר משתמשים בהם. אבל מכיוון שרוב הבינות המלאכותיות כרגע לא באמת מתנהלות בעולם האמיתי, ניתן דוגמא אחרת: של מכון מחקר.

ובכן, חשבו על מכון מחקר קטן ואיכותי, שמתחיל להעסיק מנועי שפה גדולים כמו צ'אט-GPT. המנועים האלו אינם כותבים דו"חות או עושים מחקר. הם משמשים ככלים בלבד בידיהם של החוקרים. הם יכולים לעשות הגהה, למשל, של הכתיבה האנושית. או לכתוב כמה פסקאות בהנחייתו של החוקר האנושי. או לסכם ולתמצת את המידע שבאתר מסוים ברשת, או אפילו לסכם דו"ח שלם בסדרה של נקודות. אבל בכל המקרים האלו, מנועי השפה הגדולים עושים מטלות פשוטות יחסית, לפי בקשת החוקר האנושי ובהשגחתו המלאה. 

עד כאן דיברנו על מנועי שפה גדולים כמו צ'אט-GPT. אבל מהם הסוכנים?

אם נשתמש באלגוריה של מסעדת ההמבורגרים, הסוכנים הם הטבחים עצמם. בתפקיד הטבח, הם בוחרים באיזה כלים להשתמש, מתי להפוך את ההמבורגרים, מתי להכניס אותם ללחמניה, מתי לקרוא למלצר שיבוא לקחת אותם וכן הלאה. כל זאת, בלי פיקוח אנושי. לא רק זאת, אלא שהם יכולים גם לתפקד כאחראי המשמרת, ולהפעיל ולנהל את הטבחים עצמם, שמפעילים בעצמם את הכלים הפשוטים יותר. והם יכולים אפילו לתת לטבחים הוראות והנחיות כדי לשפר את הביצועים שלהם.

ומה לגבי מכון המחקר? שם, הסוכנים יכולים להחליף את החוקר האנושי השלם. הם יודעים כיצד לכתוב את הדו"ח, והם מפעילים את כל המנועים הפשוטים יותר כדי לעשות זאת. הם מפעילים את גוגל כדי לחפש מידע ברשת, קוטפים את המידע וקוראים אותו בעזרת צ'אט-GPT, מסכמים אותו לפסקאות ועוברים עליהן כדי לוודא שהן תואמות את צרכי המחקר ואת הסגנון המבוקש, ואפילו יכולים לייצר תמונות וגרפים ולשלב אותם בדו"ח הסופי.

ולפני שתטענו ש- "אין להם יצירתיות", או כל טענה שחוקה אחרת מעידן הפרה-היסטוריה של הבינה המלאכותית, הסוכנים הללו מסוגלים גם להציע למזמין המחקר אפשרויות נוספות לביצוע העבודה, וכיוונים שהוא כלל לא חשב עליהם.

הסוכנים, בקיצור, הם השלב האבולוציוני הבא של צ'אט-GPT. הם מה שאנחנו מקבלים כשאנחנו נותנים לבינה מלאכותית לתת הוראות לבינות מלאכותיות, שמפעילות בעצמן בינות מלאכותיות. והכל לטובת מטרה אחת שמוגדרת לסוכנים מלמעלה – והם צריכים להוציא אותה לפועל. בין שמדובר בכתיבת דו"ח, בעריכת מחקר מדעי, ביצירת ברושור פרסומת, או כל תחום אחר.

אבל איך הם עושים זאת?

פריצת הדרך שלא קרתה

הייתם מצפים שכדי שבינה מלאכותית תוכל לפקח על בינות מלאכותיות ולכתוב דו"חות שלמים (למשל), יהיה צורך בפריצת דרך מדהימה ביכולות, נכון?

ובכן, מסתבר שלא. לא באמת. הטכנולוגיה שבלב הסוכנים אינה שונה משמעותית מזו שהייתה כאן לפני שנה, ואפילו לפני שנתיים.

העניין הוא שהסוכנים עצמם מורכבים ממנועי שפה גדולים – כן, שוב, צ'אט-GPT. אותם מנועים יכולים לתת הוראות למנועי שפה גדולים אחרים – שוב צ'אט-GPT – כדי שיבצעו מטלות מסוימות. למשל, יכתבו פסקה. ואז, הם יכולים להורות לאותם מנועים לעבור על הפסקה ולוודא שהיא מתאימה לדו"ח הגדול יותר. וכל עוד המנועים מקבלים את ההוראות הנכונות, ועם הטקסט הנכון שמועבר אליהם, הם מסוגלים לעשות את זה ברמה מרשימה של הצלחה.

בעצם, אנחנו רואים כאן את גדולתו של התהליך – של ה- workflow כפי שהוא מוגדר בקרב חברות הבינה המלאכותית. בכל שלב בתהליך העבודה, מופעלים מנועי שפה גדולים כדי לבצע פעולות פשוטות, ואז מופעלים מנועים אחרים עם סדרה של שאלות פשוטות אחרות: האם המטלה המקורית התבצעה בצורה הולמת? אם לא, מה צריך לעשות? איך כדאי לשפר? מה צריך לכתוב למנועי שפה גדולים אחרים שיבצעו את השיפור?

ואז מופעלים מנועי שפה גדולים אחרים עם ההוראות שכתבו המנועים הקודמים, כדי לשפר את התוצאה.

שוב, תהליכים כאלו הודגמו כבר בספטמבר 2023, לפני כמעט שנה וחצי. במחקר שהתפרסם באותו הזמן, חוקרים הצליחו לגרום למנועים פשוטים 'לדבר' זה עם זה, להתווכח, להציג דעות שונות מנקודות מבט מקצועיות שונות. הם הראו שדרך ההפעלה הזו, יכולה לעשות דברים גדולים ומרשימים: למשל, ליצור חלקים שלמים ממשחק מחשב (הם קראו סוכן שעשה את זה ChatDev). למעשה, הם הדגימו את כוחם של הסוכנים, במחקר אקדמי.

העקרונות הללו התפשטו מאז והגיעו למקומות רבים נוספים. אם אתם משתמשים ב- GPT-O1, למשל, אתם למעשה מפעילים סוכן שמסוגל לפרק בעצמו את השאלה שלכם לתת-מטלות, לנתח כל אחת מהן בתורה, לתהות על התשובות שנתן ועל הרלוונטיות שלהן, ולערוך מחדש את התשובה בהתאם לתובנות שהוא מייצר בעצמו ועל עצמו. חברת OpenAI בעצמה כבר המליצה להשתמש ב- O1 ככלי להפעלת מנועי שפה גדולים פשוטים יותר. הוא "אחראי המשמרת", והם… הם עושים את כל היתר.

ועכשיו, סוף סוף, אנחנו נכנסים לתקופה שבה הסוכנים הללו מתקדמים מספיק כדי לבצע מטלות מורכבות ושלמות – מהסוג שאדם היה צריך להיות אחראי עליהן באופן רגיל – בעצמם.

לפחות, אנחנו בכיוון. כי יש עוד מה לשפר לפני שנגיע לרמה שבה סוכנים יוכלו לבצע עבודות גדולות לגמרי בכוחות עצמם. הסוכנים עדיין לא מושלמים. אבל בקצב בו הדברים מתקדמים, אף אחד לא יופתע אם כבר בחודשים הקרובים נראה סוכנים מוצלחים שכאלו בחלק מהתחומים בתעשייה.

זוכרים את התחזית של מקינזי, לפיה שלושים אחוזים משעות העבודה ייתפסו על-ידי בינה מלאכותית עד 2030? היא נראית סבירה יותר מרגע לרגע. למעשה, היא מתחילה להיראות שמרנית.

סוכנים מסוכנים

אי אפשר להתעלם גם מהסכנות שבהעסקת סוכנים. הבינות המלאכותיות הפשוטות יותר – מנועי השפה הגדולים – מבצעות רק מטלות קטנות בפיקוח אנושי, ורק כשהן מקבלות פקודה ישירה מבן-אדם. הסוכנים, לעומתן, ייהנו מחופש פעולה גדול יותר. הם יוכלו לבחור איך בדיוק להוציא את המשימות שלהם לפועל, וחלקם יוכלו לעבוד גם מבלי שיקבלו הוראה לעשות זאת – הכל לפי ההנחיות שהועברו להם במקור.

בראיון שיצא לאחרונה בפורבס, טען אלדד תמיר – מנכ"ל Finq, שמשתמשת בעצמה בסוכנים כדי לנתח מגמות שוק ולהפיק המלצות להשקעות – שמדובר בנקודת מפנה בהיסטוריה האנושית.

"לראשונה אי-פעם," אמר בריאיון, "מכונות יוכלו לקחת חלק בקבלת ההחלטות הממשית בתוך תאגידים."

המשמעות, כמובן, היא שאם המכונות יעשו טעויות בקבלת ההחלטות שלהן, הן עלולות לגרום לנזקים גדולים. לא רק בכסף, אלא לפגוע ממש בבני-אדם. אם סוכן עורך מחקר ומפיק המלצות לסלילת כביש חדש, ומייחס יותר מדי חשיבות לעלויות ומעט מדי לבטיחות, הרי שהביצוע הבעייתי עלול לעלות בחיי אדם. אם סוכן צריך לספק המלצה כפסיכולוג או כרופא, אבל הוא מוטה לטובת חברת תרופות מסוימת, הוא עלול שלא להמליץ על התרופה המתאימה ביותר למטופל. כל הדברים האלו יכולים לקרות לא מתוך כוונת זדון של המתכנתים, המפתחים או המעסיקים, אלא פשוט מכיוון שהסוכנים הם ישויות מורכבות עם הרבה 'חלקים נעים' שמדברים, מתדיינים ומתווכחים זה מול זה עד לקבלת ההחלטה הסופית. לא תמיד קל להבין איך הם הגיעו לאותה החלטה.

אז כן, יש סכנות, וצריך להבין שהן קיימות ולחשוב כיצד להתמודד עמן. הדרך הברורה ביותר היא, כמובן, יצירת סוכנים בטחוניים, שיפקחו על הסוכנים שמבצעים את העבודות בחברות. זה, כנראה, מה שיקרה. בשנים הקרובות נראה שפע של חברות שקמות ומציעות סוכנים-לסוכנים. חברות שמעסיקות סוכני בינה מלאכותית, לא יוכלו להרשות לעצמן לתת להם לעבוד ללא פיקוח בטיחותי או אתי.

ואולי, רק אולי, יש כאן צוהר לאחד המקצועות החדשים של האנושות.

מנועי קיטור ובאולינג

לאורך המהפכה התעשייתית היינו עדים לתופעה מוזרה: הטכנולוגיה תפסה את מקומם של בני-האדם במקצועות מסוימים, גרמה לפיטוריהם – ועדיין הייתה מספיק עבודה לכולם.

קחו, למשל, את ספינות הקיטור. אלו החליפו במידה רבה את החותרים במשוטים בנהרות ובימים. מה עשו אותם חותרים? הם מצאו מקומות עבודה אחרים. חלקם, למשל, הפכו לעגלונים ולנהגי כרכרות. היה ביקוש רב לכאלו, מכיוון שבזכות ספינות הקיטור שהביאו סחורות בעלויות נמוכות, הכלכלה פרחה ואנשים היו מוכנים להוציא כסף יותר בקלות כדי להגיע במהירות ממקום למקום. אחרים השיקו סירות קטנות שעדיין פעלו בכוח חותר או שניים, וסיפקו חוויה רומנטית לזוגות מאוהבים. ושוב, מכיוון שהכלכלה התפתחה, היה מספיק כסף לאותם זוגות להוציא על בילויים שכאלו.

דוגמא אחרת היא אולמות הבאולינג. בעבר, כל מסלול באולינג הצריך עובד משלו, שסידר את הפינים מחדש לאחר שנפלו. ואז הגיעו המכונות שסידרו את הפינים אוטומטית, וכל אותם עובדים היו צריכים למצוא עבודה חדשה. אלא שאז קרה דבר יוצא-דופן: עלות הניהול של אולמות הבאולינג ירדה דרמטית, מכיוון שלא היה צריך להעסיק עשרות עובדים שכאלו. כתוצאה, נפתחו אולמות באולינג חדשים רבים בכל העולם. כל אולם כזה העסיק פחות עובדים, אבל עדיין היה צורך באנשים שינהלו את הלקוחות, יכינו ויגישו מזון, יטפלו במיזוג האוויר ובמכונות ועוד. בראייה הגדולה יותר, מכיוון שנפתחו כל-כך הרבה אולמות באולינג חדשים, גם אם כל אחד העסיק פחות עובדים – בסופו של דבר נפתחו יותר מקומות עבודה חדשים.

כנראה שנחווה תופעה דומה גם בעשורים הקרובים. כן, הבינה המלאכותית תייתר אנשים רבים במקומות העבודה הנוכחיים שלהם, אבל מקצועות חדשים יופיעו, ומקומות עבודה חדשים ייפתחו ביתר שאת. כנראה.

רוצים דוגמא למקצוע חדש כזה? בבקשה: מפקח אתי על סוכני בינה מלאכותית.

אנחנו רואים כבר עכשיו איך בזכות הבינה המלאכותית, כל אחד יכול לפתח אפליקציות חדשות ולפתוח סטארט-אפים בקלות רבה יותר מאי-פעם. המשמעות היא שכנראה שמספר החברות הקטנות והבינוניות יגדל, וכל חברה כזו תעסיק לפחות סוכן אחד – וכנראה רבים הרבה יותר. ומכיוון שכל סוכן שכזה יצטרך מישהו שיבחן אותו, יבדוק אותו ויפקח עליו, ייתכן שיש כאן הזדמנות לבני-האדם.

תגידו עכשיו שאפשר להחליף גם את עבודת המפקח בסוכן בינה מלאכותית? זה נכון, אבל אנשים רבים מרגישים שיש משמעות וחשיבות דווקא לפיקוח האנושי. הם רוצים לדעת שבני-אדם הם אלו שאחראים על המכונות, ולא להעביר את השליטה לגמרי לידי המכונות שיפקחו על עצמן. אולי הציבור ידרוש וירצה מפקחים אנושיים, וכך יהיה ביקוש גדול לכאלו. אולי.

כמו שאתם מבינים, אי אפשר לדעת מה יהיה. אנחנו יכולים רק להציע אפשרויות לעתיד. ואולי הן יתממשו.

כך או כך, דבר אחד ברור: התעשייה עוברת את המהפך בימים אלו משימוש במנועים 'פשוטים', לסוכנים מורכבים שיכולים לבצע עבודות של בני-אדם מומחים. לראשונה בהיסטוריה, בו התבונה והיכולת לבצע פעולות מורכבות באופן אוטונומי, עוברות לישויות שאינן אנושיות.

ואם אתם עדיין לא מבינים את גודל השינוי, אני יכול רק להמליץ לכם לפרסם מודעת דרושים לסוכן היסטוריון. או… לעתידן.