עמדתו של מאסק חשובה כי הוא היה ממקימי אופן AI ופרש ממנה מכיוון שלטענתו היא לא ממזערת את הסיכונים הללו הכוללים בנוסף לסכנה לדמוקרטיה כלי נשק אוטונומיים, מעקב, סיכוני סייבר, אבטלה, הטיה ואפליה
מעלה מאלף מומחי בינה מלאכותית ובכירים בתעשיית הטכנולוגיה שהבולטים בהם היו אילון מאסק מנכ"ל נוירולינק, וסטיב ווזניאק, ממייסדי אפל.
המכתב, שהונפק על ידי מכון Future of Life קרא להשהות את פיתוח הבינה המלאכותית המתקדמת עד שפרוטוקולי בטיחות משותפים לעיצובים כאלה יפותחו, ייושמו ויבוקרו על ידי מומחים עצמאיים.
המכון הוקם במשותף על ידי הפיזיקאי מקס טגמרק מ-MIT ומייסד סקייפ לשעבר ג'אן טאלין, והיה בין הארגונים הקולניים ביותר שקראו לרגולציה רבה יותר של השימוש ב-AI.
חותמי המכתב קוראים להפסקה של שישה חודשים בפיתוח מערכות חזקות יותר מה-GPT-4 החדש של OpenAI. "יש לפתח מערכות AI חזקות רק ברגע שנהיה בטוחים שההשפעות שלהן יהיו חיוביות והסיכונים שלהן יהיו ניתנים לניהול", נכתב במכתב.
במכתב הם מונים את הסיכונים העיקריים הטמונים בטכנולוגית הבינה המלאכותית
- כלי נשק אוטונומיים: ניתן להשתמש בבינה מלאכותית כדי ליצור כלי נשק אוטונומיים שיכולים לפעול ללא פיקוח אנושי, מה שמוביל לאפשרות של נזק לא מכוון.
- מעקב: ניתן להשתמש בבינה מלאכותית כדי ליצור מערכות מעקב מתוחכמות שעלולות לפלוש לפרטיותם של אנשים ולהפר את חירויות האזרח שלהם.
- אבטחת סייבר: ניתן להשתמש בבינה מלאכותית כדי ליצור איומי סייבר חדשים, כגון דיפ-פייק, שיכולים לשמש למניפולציה של אנשים ולערער את האמון במוסדות.
- אבטלה: בינה מלאכותית עלולה להוביל לעקירת מקומות עבודה, במיוחד בתעשיות המסתמכות במידה רבה על עבודת כפיים או על משימות שגרתיות.
- הטיה ואפליה: אלגוריתמים של בינה מלאכותית עלולים להנציח או להחריף בשוגג הטיות חברתיות ואפליה, מה שיוביל ליחס לא הוגן לקבוצות מסוימות.
- שליטה: בינה מלאכותית עלולה להוביל לריכוז כוח בידי כמה אנשים או ארגונים, מה שעלול לערער ערכים ועקרונות דמוקרטיים.
מאסק הצהיר לעתים קרובות כי לבינה מלאכותית יש פוטנציאל לעלות על האינטליגנציה האנושית ולהפוך לאיום על האנושות. הוא השווה את הבינה המלאכותית ל"זימון השד" והזהיר כי בינה מלאכותית עלולה להוביל לאיום קיומי על האנושות אם לא תוסדר כראוי.
בשנת 2014 ייסד מאסק את OpenAI, חברת מחקר המוקדשת לפיתוח בינה מלאכותית כללית. עם זאת, בשנת 2018 התפטר מאסק ממועצת המנהלים של OpenAI, בנימוק של חששות לגבי הכיוון של הארגון וניגודי עניינים פוטנציאליים.
בשנת 2015, מאסק ייסד את Neuralink, חברה המתמקדת בפיתוח טכנולוגיה שיכולה למזג את המוח האנושי עם בינה מלאכותית. המטרה של Neuralink היא ליצור ממשק ישיר בין המוח האנושי למחשבים, ולאפשר לבני אדם לשלוט בטכנולוגיה באמצעות המחשבות שלהם. המטרה הסופית היא לשפר את האינטליגנציה והיכולות האנושיות באמצעות בינה מלאכותית.
סטיב ווזניאק, המייסד השותף של אפל, הביע גם הוא לא אחת את חששותיו לגבי בינה מלאכותית .
מעורבותו של מאסק בבינה מלאכותית נבעה מחששותיו לגבי הסיכונים הפוטנציאליים שהיא מציבה לאנושות. הוא ייסד את OpenAI ואת Neuralink כדי להבטיח שהבינה המלאכותית תפותח באופן שיועיל לאנושות ושהסיכונים הפוטנציאליים שלה ימוזערו. עם זאת, התפטרותו מ-OpenAI מעידה על כך שהוא לא היה מרוצה מהכיוון של החברה ומאמין שיש לעשות יותר כדי להסדיר את הבינה המלאכותית.
