"רשתות הנוירונים העמוקות יהיו במאה ה-21 מה שהיה החשמל במאה ה-20"

לקראת מפגש מועדון הסיליקון: כך אומר ד"ר אלי דוד מאוניברסיטת בר אילן ויזם סדרתי של חברות הזנק בתחום התבונה המלאכותית. ד"ר דוד יהיה אחד המרצים במפגש הסיליקון קלאב שיתקיים ב-18/9 (אולם נופים במוזיאון ארץ ישראל ברמת אביב, החל מ-18:30)

"רשתות הנוירונים העמוקות יהיו במאה ה-21 מה שהיה החשמל במאה ה-20". כך אומר ד"ר אלי דוד מאוניברסיטת בר אילן ויזם סדרתי של חברות הזנק בתחום התבונה המלאכותית. ד"ר דוד יהיה אחד המרצים במפגש הסיליקון קלאב שיתקיים ב-18/9 באולם נופים במוזיאון ארץ ישראל ברמת אביב, החל מ-18:30.

ד"ר אלי דוד הוא מומחה מוביל בתחום הבינה המלאכותית המתמחה בלמידה עמוקה (רשתות עצביות) ובחישוב אבולוציוני. הוא פרסם למעלה מ – 40 מאמרים במגזינים מובילים בתחום הבינה המלאכותית ובכינוסים, ומתמקד בעיקר ביישומים של למידה עמוקה ואלגוריתמים גנטיים בתחומים שונים בעולם האמיתי. הוא היזם של פלקון, תוכנת משחק שחמט ברמה גבוהה המבוססת על אלגוריתמים גנטיים ולמידה עמוקה. התכנית הגיעה למקום השני באליפות העולם בשחמט.

ד"ר דוד הוא המייסד של דיפ אינסטינקט, המיישמת למידה עמוקה לתחום הסייבר, ויועץ AI לחברות גדולות, קרנות הון סיכון ועוד.

בשנתיים שלוש האחרונות רואים התפתחות מהירה של תחום רשתות נוירונים מלאכותיות עמוקות – או למידה עמוקה. עד לפני כמה שנים התחום הזה נחשב זניח לגמרי ורבים מהמומחים הסתכלו עליו כמופרך. תחום הלמידה העמוקה הצליח להגיע בן לילה למצב שבו הוא משפיע בכל התחומים: ראייה ממוחשבת, עיבוד טקסט, אבטחת סייבר, משחקים ועוד, ונתן נוק אאוט לכל השיטות האחרות של בינה מלאכותית.

למידה עמוקה היא בעצמה תת תחום בתוך למידת מכונה. יש הרבה שיטות ללמד את המכונה. אחת מהן היא רשתות נוירונים מלאכותיות המכונה גם למידה עמוקה. ההבדל המשמעותי הוא שבכל השיטות הקלאסיות של למידת מכונה אנו נדרשים שני שלבים. ניקח לדוגמה את בעיית זיהוי הפנים. בכל השיטות הקלאסיות אנחנו לא יכולים לקחת את הנתונים הגולמיים בתמונה ולהכניס אותם ישירות לתוך מודול של למידת מכונה בין שזה פיקסלים בתמונה אותיות בטקסט ועוד. אלא נדרשנו לבצע שלב שנקרא חילוץ מאפיינים בה אנו נעזרים במומחה אנושי שבונה לנו סט של מאפיינים שיכולים לסייע בזיהוי פנים – מרחק בין האישונים, או המרחק בין האף לפה, וכך הלאה – עשרות מאפיינים מעין אלה.
"בשלב השני מכניסים את המאפיינים הללו למודול של למידה עמוקה, שמשווה את עשרות המאפיינים וכך הוא יכול לזהות את התמונה. שלב חילוץ המאפיינים הוא שלב גרוע. על ידי זה שאנחנו לוקחים את הנתונים הגולמיים העשירים -– תמונה המורכבת ממיליוני פיקסלים והופכים אותה לרשימה של כמה עשרות או מאות מאפיינים טובים ככל שיהיו עדיין איבדנו את מרבית הנתונים הגולמיים."

הבעיה הגדולה קשורה יותר אלינו כבני אדם. אפילו המומחים מתקשים להסתכל על בעיות מסובכות ולתרגם אותם לרשימת מאפיינים סדורה. דוגמה. כל אחד מאיתנו אם ייראה תמונה של כלב או חתול יגיד בתוך מילישניות אם זה כלב או חתול במאה אחוז. נסה להסביר מהו בדיוק ההבדל בין כלב לחתול? אני עושה את זה בתרגיל עם הסטודנטים שלי בתחילת כל קורס.

שורשיו של תחום הרשתות הנוירוניות העמוקות שורשיו בשנות השבעים והשמונים. כבר אז היו רשתות נוירוניות כאשר מדענים ניסו לחקות את המוח אך הגיעו להצלחות מועטות ולא מרשימות. שיפור האלגוריתם והשיפור בחומרה, בעיקר בזכות המעבדים הגרפיים של אנבידיה (GPU) הצלחנו להגיע מרשתות שטוחות של 4-2 שכבות להפוך אותן לרשתות עמוקות של 20 ושלושים שכבות. ובמקום שיהיו בהם רק כמה אלפי סינפסות (סינפסה מחברת בין שני נוירונים, בדיוק כמו במוח), ישנם היום מיליארדי סינפסות ברשתות הנוירונים הגדולות.
זה מה שאיפשר לנו לדלג לראשונה על שלב חילוץ המאפיינים. אם ניקח כדוגמה את זיהוי הפנים, אנו מכניסים את הפיקסלים לתוך רשת נוירונים עמוקה בלי להוסיף שום ידע אנושי. הרשת העמוקה לומדת בעצמה. בכל התחומים שבהם הופעלו רשתות נוירונים עמוקות השפור היה בלתי נתפס. במקצתם כדוגמת ראיה ממוחשבת, עברנו אפילו את היכולות של בני אדם.
בשנים הקרובות אני צופה המשך של השיפור המואץ שאנחנו רואים בשנים האחרונות. אנחנו לא רואים סימן לתאוטה בקצב השיפור בתחום הזה. כל יום אנו רואים תוצאות דרמטיות ובהרבה תחומים מתקרבים או אף עוברים את היכולות של בני אדם. הצפי שלי לעשרות השנים הקרובות שנראה את ההמשך השיפור האקספוננציאלי בתוצאות ואני מנחש שברוב התחומים המודולים המלאכותיים יהיו לא טובים פחות מבני אדם."

האם המחשבים יעלו על בני האדם בכל?
ההשוואה הזו נכון להיום אינו במקום כי מודול הלמידה העמוקה הגדול ביותר שאנחנו יכולים לאמן על המחשב החזק ביותר, המדמה מיליארדי סינפסות היא פי 100 אלף קטנה יותר מהיכולת החישובית של המוח. לשם השוואה רק באיזור הקליפה החיצונית של המוח שהוא האיזור המעניין מההיבט הקוגניטביי יש 150 טריליון סינפסות. מצד שני המחשבים היום כבר מסוגלים להריץ רשתות נוירוניות חזקות פי מיליון לעומת לפני 30 שנה. אם בשלושים השנים הקרובות נראה שיפור של פי מיליון ונתגבר על בעיית החומרה, יהיו לנו רשתות מלאכותיות שיעלו על הרשתות הביולוגיות, ואפשר יהיה לומר שהמחשבים יהיו חכמים יותר מבני אדם. יהיה אפילו שלב שבו הפער הקוגניטיבי בין המחשבים והאדם יהיה כמו הפער בין האדם והשימפנזה. מה יקרה אז? זה נושא שנערכים בו דיונים רבים ומטרידים. בקיצון אחד יש את החשש שהמחשבים ישתלטו עלינו ואף ישמידו אותנו, שמבטאים אנשים כמו ביל גייטס, אילון מאסק וסטיבן הוקינג עליו השלום. בקיצון השני יש הטוענים שלא חשוב כמה חכמים המחשבים יהיו הם תמיד ישרתו אותנו."

האם המחשבים יחליפו את בני האדם במשימות ספציפיות?

"אנו נראה בשנים הקרובות גל של החלפת בני אדם במכונות. בעוד עשר או לכל היותר עשרים שנה מקצוע כמו נהג מונית יהיה לא רלוונטי ולא יתקיים יותר. מקצוע של רופא רדיולוג שמפענח תמונות רטנגן, MRI וכדומה, לא יהיה קיים בצורה המוכרת לנו. כבר היום לימוד מכונה עולה על האדם בהרבה היבטים של פיענוח תמונות רדיולוגיות."
ואולם ד"ר דוד אופטימי באשר להזדמנויות העבודה שהבינה המלאכותית תיצור. "בתחילת המאה העשרים היו הרבה עובדים בכל עיר בעולם המערבי, שתפקידם היה להדליק בכל ערב את פנסי הרחוב אחד אחד. ברגע שחשמל נכנס היה גל של אבטלה, כל אלה היו מיותרים. אבל בואו נסתכל על הכמות האדירה של עבודות שנוצרו בזכות החשמל. אני מאוד מאמין בזה, שבינה מלאכותית תעשה למאה ה-21 מה שחשמל עשה למאה ה-20. מול גל האבטלה יהיה גל של מקצועות שבהם עדיין יהיה יתרון לאדם. ההחלפה הכוללת עדיין לא קרובה."

האם נראה התממשקות בין התבונה המלאכותית והמוח האנושי?

"קצב ההתפתחות של רשתות הנוירונים המלאכותיות מסחרר מאוד וההתפתחויות בהתאם. לעומת זאת, קצב שיפור ההבנה שלנו אודות המוח האנושי עדיין מתקדם בקצב איטי ביותר. לא ראינו פריצת דרך משמעותית וגדולה שעזרה להבין טוב יותר את המוח שלנו. עדיין המכונות המתקדמות והיקרות ביותר בעולם רחוקות מאוד מלהגיע למצב של מדידת פעולה של נוירונים וסינפסות בודדות במוח תוך כדי תהליך החשיבה. אני חושב, שוב זו דעתי האישית שהרבה יותר מהר נגיע למצב שיש לנו בינה מלאכותית טובה כמונו ועולה עלינו מאשר מצב שבו נוכל להתחבר למוח שלנו להכניס לו צ'יפים ולהרחיב את הזיכרון."

לאתר הסיליקון קלאב