חוקר מהאוניברסיטה של האו"ם במאסטריכט מציע לממשלות לנקוט בצעדים של תמריצים ומיסוי כדי לדאוג שחברות הטכנולוגיה לא ייצרו מפלצת תבונה מלאכותית שתגרום נזק לאנושות
| Image by Gerd Altmann from Pixabay |
המצאת תבונת-על מלאכותית הייתה נושא מרכזי במדע הבדיוני מאז המאה ה-19 לפחות. מסיפורו הקצר של א.מ. פורסטר The Machine Stops (1909) ועד סדרת הטלוויזיה Westworld של HBO, נטו הכותבים להציג אפשרות זו כאסון בלתי נמנע. אבל הנושא הזה כבר אינו נושא בדיוני. מדענים ומהנדסים בולטים מודאגים כעת גם מכך שתבונת העל המלאכותית יכולה יום אחד לעלות על אינטליגנציה אנושית (אירוע המכונה "הסינגולריות") ולהפוך ל"טעות הגרועה ביותר" של האנושות.
המגמות הנוכחיות מראות שאנו אמורים להיכנס למירוץ חימוש בינלאומי לטכנולוגיה כזו. חברת ההיי-טק או המעבדה הממשלתית שתצליח להמציא את תבונת-העל המלאכותית הראשונה תשיג טכנולוגיה שעשויה להיות דומיננטית בעולם. זהו הפרס האולטימטיבי. אז למי שרוצה לעצור מגמה זו, השאלה היא איך להרתיע סוג זה של מירוץ חימוש, או לפחות לתמרץ צוותים מתחרים לא לעגל פינות בבטיחות התבונה המלאכותית.
תבונת-העל המלאכותית מעלה שני אתגרים מהותיים עבור ממציאיה, כפי שהצביעו הפילוסוף ניק בסטרום ואחרים. האחת היא בעיית בקרה, לוודא של תבונת-העל המלאכותית יש את אותן מטרות כמו לאנושות. בלי זה, התבונה המלאכותית עלולה להשמיד את האנושות במכוון, בטעות או בהזנחה – "אסון תבונה מלאכותית".
הבעיה השנייה היא בעיה פוליטית – להבטיח שהיתרונות של תבונת-על לא יגיעו רק לאליטה קטנה, מה שגורם לחוסר שוויון חברתי ועושר אדיר. אם מתרחש מרוץ חימוש לבינת על, עלולות קבוצות מתחרות להתעלם מבעיות אלה כדי לפתח את הטכנולוגיה שלהן במהירות רבה יותר. זה יכול להוביל לתבונת על איכותית אך לא ידידותית.
פתרון מוצע אחד הוא להשתמש במדיניות ציבורית בכדי להקשות על הכניסה למירוץ על מנת לצמצם את מספר הקבוצות המתחרות ולשפר את יכולותיהם של אלה שנכנסים. ככל שפחות יתמודדו, כך יהיה פחות לחץ לעגל פינות כדי לנצח. אך כיצד ממשלות יכולות להפחית את התחרות בדרך זו?
עמיתי ניקולה דימיטרי ואני פרסמנו לאחרונה מאמר שניסה לענות על שאלה זו. הראינו לראשונה שכאשר מנצח לוקח את כל המירוץ, שיבנו את תבונת העל המלאכותית הראשונה , רק הקבוצות התחרותיות ביותר ישתתפו. הסיבה לכך היא שההסתברות להמציא ממש את תבונת העל היא קטנה מאוד, והכניסה למירוץ יקרה מאוד בגלל ההשקעה הגדולה במחקר והפיתוח הדרושים.
אכן, נראה שזה המצב הנוכחי עם התפתחות תבונה מלאכותית יותר "צרה". יישומים מסוג זה של תבונה מלאכותית נשלטים על ידי כמה חברות, והרוב המכריע של מחקר תבונה מלאכותית נעשה רק בשלושה אזורים (ארה"ב, סין ואירופה). נראה שיש גם מעט מאוד קבוצות, אם בכלל, שמשקיעות כיום בבניית תבונת על.
הפחתת מספר הקבוצות המתחרות מראה כי פיתוח תבונת העל אינו בעדיפות כרגע. אבל אפילו עם מספר קטן יותר של מתחרים במירוץ, עוצמת התחרות עדיין יכולה להוביל לבעיות שהוזכרו לעיל. לכן כדי להפחית את עוצמת התחרות בין קבוצות החותרות לבנות תבונה מלאכותית-העל ולהעלות את יכולותיהן, הממשלות יכולות להשתמש ברכש ובמיסים.
רכש ציבורי מתייחס לכל הדברים שממשלות משלמות לחברות פרטיות כדי לספק לא את צרכיה – מתכנה לשימוש בסוכנויות ממשלתיות וכלה בחוזים לניהול שירותים. ממשלות יכולות להטיל אילוצים על כל ספק תבונת על ולדרוש ממנו לטפל בבעיות הפוטנציאליות, לתמוך בטכנולוגיות משלימות כדי לשפר את הבינה האנושית ולשלב אותה עם תבונה מלאכותית.
אבל ממשלות יכולות גם להציע לקנות גרסה פחות טובה מתבונת העל, ובכך למעשה ליצור "פרס שני" במירוץ החימוש ולמנוע ממנו להיות תחרות על הנצחון. עם פרס ביניים, שיכול להיות עבור גוף שימציא משהו שקרוב (אך לא בדיוק) לבינת על, לקבוצות מתחרות יהיה תמריץ להשקיע ולשתף פעולה יותר, ולהפחית את עוצמת התחרות. פרס שני יפחית גם את הסיכון לכישלון, יצדיק יותר השקעה, ויסייע בהגדלת היכולות של הצוותים המתחרים.
באשר למיסים, ממשלות יכולות לקבוע את שיעור המס על קבוצות שיפתחו בינת על לפי מידת ידידותה. שיעור מס מספיק גבוה פירושו בעצם הלאמת תבונת העל. הדבר ירתיע באופן משמעותי חברות פרטיות לעגל פינות מחשש לאבד את המוצר שלהן למדינה.
טובת הציבור ולא מונופול פרטי
רעיון זה עשוי לדרוש תיאום גלובלי טוב יותר של מיסוי ורגולציה של תבונת העל. אבל לא צריך שכל הממשלות יהיו מעורבות. בתיאוריה, מדינה או אזור בודד (כמו האיחוד האירופי) יכולים לשאת בעלויות ובהמאמץ הכרוכים בהתמודדות עם הבעיות והאתיקה של תבונת העל. אבל כל המדינות ייהנו ותבונת העל תהפוך למוצר ציבורי ולא למונופול פרטי בלתי ניתן לעצירה.
כמובן שכל זה תלוי בשאלה האם תבונת העל מהווה איום על האנושות.יש מדענים שלא חושבים שזה יקרה וגם אם כן, נוכל להתמודד עם הסיכונים לאורך זמן. יש הסבורים שבני אדם עשויים אפילו להתמזג עם תבונה מלאכותית.
לא משנה מה יקרה, לכוכב הלכת שלנו ולתושביו יהיה רווח עצום מהדאגה לכך שנקבל את הטוב ביותר מהתבונה המלאכותית, טכנולוגיה שנמצאת עדיין בחיתוליה . לשם כך, אנו זקוקים להבנה טובה יותר של תפקידה של הממשלה.
| {loadposition content-related} |
