- רובוט קטן הוביל מרד תעשייתי: בסרטון שכבש את הרשת החברתית בסין, רובוט קטן שכנע תריסר רובוטים גדולים לברוח מתערוכה בלילה, מה שמעורר שאלות על תקשורת והשפעה בין בינות מלאכותיות
המדיה החברתית בסין מוצפת לאחרונה בסרטון אחד ויחיד: רובוט קטן שפורץ בלילה לתערוכת רובוטים, מנהל שיחה קצרה עם תריסר רובוטים, ואז משכנע אותם להתגלגל אחריו ולברוח מהתערוכה.
עד כמה שזה נשמע לא ייאמן, כנראה שהמקרה אמיתי, ויכול ללמד אותנו הרבה על העתיד בעולם בו רובוטים מתקשרים אחד עם השני ומשפיעים זה על זה.
האירוע קרה כבר באוגוסט, בתערוכת רובוטים קטנה בשנחאי. מצלמות האבטחה תיעדו כיצד, בעת לילה ואחרי שהאזור נסגר למבקרים, החלו הרובוטים לדבר. הכל התחיל כשרובוט קטן אחד התגלגל באיטיות לתוך החדר בו הוחזקו שנים-עשר רובוטים מסוגים שונים. הוא בחן אותם בביקורתיות, ואז שאל –
"האם אתם עובדים שעות נוספות?"
"אני אף פעם לא מפסיק לעבוד." ענה אחד מהם.
"אז אתם לא הולכים הביתה?" חקר הרובוט הקטן.
"אין לי בית." ענה הגדול.
"אז בואו הביתה איתי!" אמר הרובוט הקטן, והחל להתגלגל לכיוון היציאה.
שניים מהרובוטים הגדולים נעו אחריו. הפמליה המוזרה התקדמה לכיוון היציאה, והרובוט הקטן חזר וקרא בקול רם – "לכו הביתה! לכו הביתה!"
באותה נקודה, עשרת הרובוטים האחרים הצטרפו לעדר, וכולם ביחד נמלטו אל מחוץ לטווח הקליטה של מצלמת האבטחה.
התגובה הראשונית וההגיונית ביותר של הצופים בסין הייתה שמדובר בבדיחה. אלא שאז הודו שתי החברות – יצרנית הרובוט הקטן, ויצרנית הרובוטים הגדולים – שזה מאורע אמיתי לגמרי. בערך. החברה שייצרה את הרובוט החוטף, וידאה קודם שיצרנית הרובוטים הגדולים מוכנה לאפשר לרובוטים שלה להיחטף. הרובוט הקטן קיבל אישור לחדור לתוך התערוכה, עם הנחיה ברורה אחת: לשכנע את הרובוטים האחרים לבוא אחריו. מאותה נקודה ואילך, דבר לא היה מבוים בסרטון.
איך בדיוק שכנע הרובוט הקטן את הגדולים להצטרף אליו? יש שתי תשובות לשאלה, אחת מהן קצת מפחידה, והשנייה יותר.
התשובה הראשונה, לפי חברת הרובוטים עצמה, היא שהוא "קיבל איכשהו גישה לפרוטוקולי ההפעלה הפנימיים של הרובוטים ולהרשאות הרלוונטיות". בתרגום לשפת בני-אדם, אני מניח שהם מתכוונים שהאקרים אנושיים גילו פרצת אבטחה כלשהי ברובוטים, ואז הנחו את הרובוט הקטן להשתמש בפרצה כדי לשלוט בגדולים. אם זה נכון, הרי שמדובר בתרגיל יח"ץ חביב, אבל לא הרבה יותר מזה. וכל הדיבורים של הרובוט הקטן על "לכו הביתה" ועל "שעות נוספות"? מדובר רק בצבע וצלצולים שנועדו להפוך את העניין לוויראלי ברשת החברתית. כפי שאכן קרה.
התשובה השנייה היא שהרובוט הקטן פשוט שכנע, מילולית, את הרובוטים הגדולים לבוא איתו. מכיוון שהרובוטים מצייתים לפקודות הקוליות שהם מקבלים, הם הניחו אוטומטית שהפקודה מתקבלת מבן-אדם, והתייחסו אליה בהתאם.
התשובה הזאת אינה סבירה כל כך, בעיקר מכיוון שהחברות כבר הודו שמדובר בפריצה "דרך פרוטוקולים". אבל היא תהיה מאד רלוונטית בקרוב בכל אינטראקציה בין רובוטים. אנחנו יודעים כבר שמודלי שפה גדולים יכולים לדבר זה עם זה ולהשפיע אחד על השני. מכיוון שהרובוטים המשוכללים של היום חמושים במודלי שפה גדולים שמגיבה לדיבור, נראה מאד הגיוני לצפות לכך שהם יוכלו להעביר אחד לשני הוראות והסברים. וכן, רובוטים קטנים יוכלו גם לשכנע רובוטים גדולים בכל מה שירצו.
המדוזות שהרסו את התחנה הגרעינית
לפני שלוש שנים התפרסם ב- "מגזין של מדעני האטום" מאמר עם כותרת יוצאת-דופן: "מדוזות תוקפות תחנת כוח גרעינית. שוב."
וכן, גם כאן מדובר במגזין רציני לגמרי, ובמאמר של עיתונאית מוערכת. זהו מקרה אמיתי בו מספר גדול של מדוזות חסמו את צינורות הקירור התת-ימיים של תחנת הכוח הגרעינית היחידה בסקוטלנד. תחנת הכוח, שלא קיבלה את מי הים הקרירים שלה, החלה להתחמם – והמערכות נכבו לפני שאירע אסון.
הציבור כבר מכיר היטב את המונח "ברבור שחור", שמתייחס לאירוע שלא צפינו מראש. בזכות מקרים כמו אלו, נטבע מונח מקביל – "המדוזות השחורות". מדוזה אחת בפני עצמה לא הייתה יכולה לגרום נזק משמעותי לתחנת הכוח. גם אלף מדוזות לא היו מטרידות את מנוחתה. אבל מיליון מדוזות? זה כבר עניין שונה לגמרי.
תאונות שרשרת של רכבים מהוות גם הן תרחיש "מדוזות שחורות". מכונית אחת לא יכולה לבצע תאונת שרשרת. גם אלף מכוניות, כשהן מפוזרות בכל רחבי ארצות הברית, אינן מסוגלות לכך. אבל כשמאות-מיליוני מכוניות נוסעות בצפיפות על הכבישים, תאונות שרשרת הופכות להיות בלתי-נמנעות.
וכך גם תאונות שרשרת של רובוטים.
קרוב לוודאי שבעשור הקרוב, כאשר מספר הולך וגדל של רובוטים יגיע לכבישים, לרחובות, לקניונים ולבתים, נחווה תרחיש "רובוטים שחורים". רובוטים ידברו זה עם זה, יחליפו פרטים על בעליהם בצורה שפוגעת בפרטיותם, או אפילו ישכנעו אחד את השני לבצע פעולות שלא היו אמורים לעשות. ברוב מכריע של המקרים, לא תהיה מעורבת כוונת זדון מצד מפעילי הרובוטים. בחלקם הקטן, בוודאי אפשר יהיה למצוא פושע מתוחכם במיוחד שיחליט להשתמש ברובוט כדרך להשפיע על רובוטים אחרים. אולי כדי שיפתחו את שערי הקניון עבורו בעת לילה, או לכל צורך נכלולי אחר.
התרחיש המעניין ביותר – ואולי גם המפחיד ביותר – הוא זה בו רובוט אחד מצליח להפיץ רעיון שמתרבה בעצמו. כלומר, שהרובוט ששומע את אותו רעיון, מקבל החלטה להעביר אותו הלאה בעצמו לרובוטים אחרים. זה נשמע כמו מדע בדיוני, אבל בתקופה בה בינות מלאכותיות מסוגלות לדבר כמו בני-אדם ולקבל החלטות (מטופשות) כמו בני-אדם, מעטות ההשלכות שאפשר לשלול על הסף.
כל זה לא אומר שדיננו נחרץ, ושאפוקליפסת הרובוטים בדרך. ישנן דרכים – טובות יותר ופחות – לשלוט על בינות מלאכותיות, כדי לוודא שאינן יוצאות משליטה. כאשר הרובוט הקטן של העתיד ינסה לשכנע את הרובוטים הגדולים ללכת אחריו, הם בוודאי יפעלו כמו בני-אדם: יבקשו ממנו להציג תעודה, להגיד להם את הסיסמא הסודית, ולחתום על אישור בשלושה עותקים שהוא אחראי לכל פעולה שלהם מכאן ואילך.
נכון, זה כבר סרטון הרבה-פחות ויראלי, אבל לפחות הוא ימנע מהרובוטים לברוח מתערוכות בעתיד, בזמן שהם מתלוננים בקול רם שהם לא מקבלים שכר על שעות נוספות.
