ביקורת על הספר “הסינגולריות קרובה יותר” מאת ריי קורצווייל

• מבט לעתיד: כיצד הטכנולוגיות המתקדמות והבינה  המלאכותית ישנו את האנושות והאם הסינגולריות כבר מעבר לפינה?

כאשר ההיסטוריונים של העתיד יסתכלו אחורנית למאה ה- 21, הם יצביעו על ריי קורצווייל כאחד האנשים שעיצבו את רוח התקופה. ולא לשווא. קורצווייל כבר נבחר להיות חלק מקבוצת “16 המהפכנים שהפכו את אמריקה למה שהיא” במאתיים השנים האחרונות. הוא זכה בכל פרס אפשרי בתחום היזמות, קיבל 21 תארי דוקטור של כבוד, ועוד ועוד.

הוא זכה בכל הפרסים האלו בעיקר בזכות המצאותיו פורצות-הדרך, כמו הסינתסייזר או מכונת קריאה אוטומטית לעיוורים. אבל הפרדוקס הוא שהוא כנראה לא ייזכר בגלל אותן המצאות, אלא דווקא בגלל הרעיונות המהפכניים שקידם: ההתפתחות האקספוננציאלית של הטכנולוגיות, הסינגולריות הטכנולוגית והאפשרות להגיע לחיי-נצח עוד בזמננו.

את כל הרעיונות הללו קידם קורצווייל בספרו הראשון, “הסינגולריות קרובה”. הספר הפך לרב-מכר היסטרי ותורגם לשפות רבות. קורצווייל טען בספר שאי אפשר לחשוב על התפתחות  המדע והטכנולוגיה במונחים סטטיים. 

למה הכוונה?

בעבר היה לוקח זמן רב להגיע לכל תובנה מדעית חדשה, ולתרגם אותה ליישום טכנולוגי. חשבו על אנטוני ואן לבנהוק, למשל, שגילה את החיידקים. הוא היה צריך לגלף וללטש את עדשות המיקרוסקופים שלו בעצמו, לצייר את האנימלקולים (החיידקים והיצורים החד-תאיים) שראה בטיפות המים, לכתוב בעמל רב את המכתבים שלו לאגודות המדענים הלאומיות והבינלאומיות, וכל זאת בזמן שגם עבד למחייתו. למכתבים עצמם נדרשו חודשים עד שהגיעו ליעדיהם (וחלקם בוודאי אבדו בדרך), ועד שאנשי המדע האחרים התכנסו כדי לקרוא אותם. 

והיום?

היום, אפשר לקנות עדשות – או ציוד מעבדתי משוכלל אחר – בעלות נמוכה ביותר. אפשר לצלם את התוצרים ולשתף אותם במהירות. את המאמרים אפשר לכתוב עם מעבד תמלילים ולהעלות לרשת, שם הם יגיעו מיד לכל מי שמעוניין בהם. מי שירצה לדבר עם החוקר המקורי, ללמוד ממנו ולשתף עמו פעולה, יוכל לעשות זאת בקלות גם מהצד השני של כדור-הארץ. ואנשי הטכנולוגיה יכולים מיד לקטוף את תוצרי המדע, ולהשתמש בהם כדי להקים חברות חדשות ופורצות-דרך.

קורצווייל מאמין שהשיפור בטכנולוגיות יכול לקדם את המחקר המדעי – כפי שאכן קורה בעידן האינטרנט והבינה המלאכותית. בהתאם, מחקר מדעי מהיר יותר יביא לתובנות בקצב גבוה יותר, שיובילו לטכנולוגיות חדשות, והן בעצמן יעזרו למדענים לבצע מחקר מהיר יותר, וכן הלאה וכן הלאה. למעשה, המדע והטכנולוגיה תומכים זה בזה ובונים גרם מדרגות בו כל מדרגה גבוהה יותר, מכיוון שהם משתפרים ביכולותיהם בכל פסיעה כלפי מעלה.

תהליך זה מתאר את “ההתפתחות האקספוננציאלית” המפורסמת של קורצווייל. קורצווייל הסתמך על ההתפתחות האקספוננציאלית הזו כדי לספק תחזיות לעתיד שנראו קיצוניות ומטורפות לפני עשור בלבד. הוא טען, למשל, שהבינה המלאכותית תצליח לדבר עם בני-אדם כאילו הייתה אנושית בעצמה, לפני 2030. טענה זו הגיונית מאד, בתנאי שאתם מקבלים את ההנחה של קורצווייל: שהקצב בו המדע והטכנולוגיה מפיקים שיפורים ופיתוחים חדשים, ימשיך לגדול מדי שנה. וכך, כש- GPT הגיע למימוש והציבור נותר בהלם לנוכח היכולות החדשות של הבינה המלאכותית, קורצווייל רק חייך לעצמו. הוא הבין מראש שזה הכיוון בו מתקדמים, ושנגיע לשם מוקדם הרבה יותר מהצפוי.

מה יקרה אם נמשיך לקדם את המדע והטכנולוגיה בקצב הולך וגובר, כפי שקורצווייל חוזה?

אז נגיע לסינגולריות.

---

הסינגולריות

קורצווייל המשיך לחשוב על העתיד, והבין שאותה “התפתחות אקספוננציאלית” עומדת להביא אותנו למה שהוא קרא לו “סינגולריות טכנולוגית”. אותה “סינגולריות” היא נקודה בזמן, בה הכל משתנה ודבר אינו כפי שהיה. בתרגום חופשי לרעיונותיו של קורצווייל, נגיע לסינגולריות בערך בזמן בו המכונות יהיו חכמות בערך כמו בני-האדם.

מה יקרה באותה נקודה? כאשר המכונות יהיו חכמות כמו בני-האדם, הן כבר יוכלו לבצע מטלות מורכבות באמת ובתמים. אם עד עכשיו הן רק סייעו לבני-האדם לעשות  מדע ולהמציא טכנולוגיות חדשות מהר יותר, הרי שבסינגולריות הן יוכלו לפתח טכנולוגיות לגמרי בעצמן. כמובן שאחת הטכנולוגיות שהן ייפתחו תהיה… בינה מלאכותית משוכללת יותר. והיא, בתורה, תפתח בינה מלאכותית משוכללת עוד הרבה יותר, וכן הלאה וכן הלאה, בקצב מהיר יותר ויותר. תוך זמן קצר, השינויים וההמצאות יתחילו להגיע כל-כך מהר, שכבר בלתי-אפשרי יהיה להבין מה יקרה אפילו שנה קדימה לתוך העתיד. באותו הזמן, הבלתי-ייאמן ייהפך למציאות, וכל חלומותינו יתגשמו.

בספרו “הסינגולריות קרובה” מ- 2005, חזה קורצווייל שנגיע לנקודת הסינגולריות בסביבות 2045, ואז נגשים את החלום הגדול: להתמזג עם המחשבים ולהפוך לעל-אנושיים. אם זה לא החלום שלכם, חבל. זה החלום של קורצווייל, וזה מה שהוא חוזה שיקרה.

אבל את התחזית הזו סיפק קורצווייל לפני כמעט עשרים שנים. מה השתנה מאז? האם הוא שינה את דעתו בספר החדש?

---

התחזיות החדשות

בקיצור נמרץ, קורצווייל לא מתחרט על כלום. אם כבר, הוא מודה שהתחזית המקורית שלו ל- “בינה מלאכותית כללית” (כלומר, כזו שיכולה לעשות כל דבר שאדם עושה) ל- 2029, עשויה הייתה להיות פסימית במקצת. כמו עוד כמה מובילי דעה מעמק הסיליקון, גם קורצווייל מאמין עכשיו שיש סיכוי שבינה מלאכותית כזו תופיע אפילו מוקדם יותר.

מהרגע שבינה מלאכותית שכזו תופיע, ההתפתחויות יקרו הרבה יותר מהר, וקורצווייל עדיין משוכנע שעד 2045 נגיע למימוש הסופי והקיצוני ביותר של הסינגולריות: החיבור המלא עם המחשבים.

“עד 2045, ניקח את הצעד הבא באבולוציה שלנו.” מספר קורצווייל בסרטון שהפיק אודות הספר. “דמיינו את היצירתיות של כל אדם על כוכב-הלכת, כשהיא מחוברת למהירות ולגמישות של המחשב המהיר ביותר. זה יפתח את המנעול לעולם של חוכמה ופוטנציאל ללא-הגבלה. זוהי הסינגולריות.”

איך נגיע לחיבור הזה עם המחשבים? קורצווייל סוקר בספרו החדש ניסיונות ראשוניים בכיוון, כמו השבבים שחברת Neuralink מתחילה להשתיל במוחות אנושיים, ומאפשרים להם לשלוט במחשבים, או תכניות צבאיות לפיתוח טכנולוגיות דומות. עם זאת, הוא מודע לכך שחיבור רציף ושוטף בין המוח לבין המחשב, ידרוש טכנולוגיות שעדיין אינן בידינו. כאן מגיע הזינוק האמוני של קורצווייל: הטכנולוגיות עדיין אינן בנמצא, אבל הוא משוכנע שהבינה  המלאכותית של עשרים השנים הקרובות, תעזור לנו לפתח אותן.

אתם יכולים לנחור בבוז לנוכח הזינוק הזה, אבל אי אפשר להכחיש שהטכנולוגיה אכן מתקדמת בצעדי ענק במאה השנים האחרונות, וכל עשור מביא לנו פלאים חדשים. קורצווייל גם צודק כאשר הוא מספר שבשנות התשעים, רוב האנשים ‘השפויים’ חשבו שלא נגיע לבינה מלאכותית כללית לפני המאה ה- 22. קורצווייל פענח נכון את ההתפתחות האקספוננציאלית, וחזה שבינה שכזו תופיע תוך שלושים שנים בלבד – ואכן נראה שכך עומד לקרות. כך שכאשר קורצווייל חוזה את העתיד על סמך אותם עקרונות, לא הייתי מהמר כנגדו בקלות.

מה יהיו הטכנולוגיות שהבינה המלאכותית תמציא עבורנו לקראת הסינגולריות, ושיאפשרו את החיבור למחשבים? ננו-בוטים, כמובן. רובוטים זעירים בגודל של מולקולות – קטנים הרבה יותר מכל תא אנושי – שיוכלו להתחבר לתאי המוח. אותם רובוטים יקלטו את הפעילות המוחית שלנו וישדרו אותה לענן. במקביל, הם יוכלו גם להעביר הוראות מהענן ישירות למוח.

התוצאה? כולנו נהיה מחוברים לענן המחשוב. אבל יותר מכך: נהפוך להיות חלק ממנו. נוכל לחשוב מהר יותר, להיות יצירתיים יותר ולהרחיב את מחשבתנו “פי מיליונים”, לדברי קורצווייל.

כמובן, הסינגולריות לא תסתיים שם. ננו-בוטים דומים יוכלו לטייל בזרם הדם, להרוג גידולים סרטניים ולנקות את כלי הדם כדי למנוע התקפי לב ושבצים מוחיים. הם יוכלו לתקן איברים ורקמות שכשלו, ולהנדס מחדש את הגנטיקה של כל תא ותא כדי להתמודד עם מוטציות מזיקות. וכשכל היכולות האלו מצטרפות ביחד זו לזו, המשמעות היא שהם יוכלו להאריך את משך החיים הבריא האנושי. בכמה? אף אחד לא יודע. איך אפשר להעריך טכנולוגיה שעדיין אינה קיימת? אבל די לומר שבני-אדם שיהיו מצוידים בננו-בוטים שכאלו, יוכלו לחיות שנים ארוכות ובריאות הרבה יותר מכל אדם שחי עד כה בהיסטוריה.

אה, ויש גם סכנות.

---

הסכנות

אם לסכם את התחזיות הקיצוניות ביותר של קורצווייל בנוגע לעתיד הרחוק, יהיו לנו ננו-בוטים בגוף, שמקבלים הוראות מהענן כדי לתחזק אותו. זו נראית כמו דלת פתוחה להאקרים, שיוכלו להסב נזק גדול בהרבה לכל אדם מכפי שהם יכולים לעשות כיום. ומה עם הבינה המלאכותית הכללית, שחכמה כמו בני-האדם עצמם? האם אין חשש שהיא תפנה כנגדנו? 

לקורצווייל יש תשובות לשאלות הללו, אבל האמת היא שהן לא תשובות טובות במיוחד. ישנם ספרים שלמים שעוסקים בחששות מפני טכנולוגיות העתיד, ובמציאת דרכים להגן על עצמנו מננו-בוטים שיוצאים משליטה או מבינות מלאכותיות זדוניות. הספר החדש של קורצווייל אינו אחד מהם. הוא, בפשטות, אופטימי. ואם לומר את האמת, טוב שכך.

ידידי, ד”ר אורי כץ, כתב לאחרונה מאמר ביקורתי כנגד  המדע הבדיוני, בו הוא טען שהחזונות לעתיד שיש לנו כיום מפחידים מדיי. למעשה, הם מפחידים עד כדי כך שהם עשויים לדכא את הקדמה ואת התפתחות המדע והטכנולוגיה. לצערי ולשמחתי, אני חושב שהוא צודק. לשמחתי, מכיוון שהמדע הבדיוני אמור לעזור לנו לחשוב מראש על איומים עתידיים, כדי שנוכל להתכונן לקראתם. לצערי, מכיוון שאם אנחנו מוצפים בחזונות אפוקליפטיים אודות העתיד, הרי שזו הדרך בה נחשוב עליו. עתיד קודר, מפחיד, שאין סיבה ואין טעם להתקדם לקראתו.

ספרי מדע פופולרי ומדע בדיוני חדשים יוצאים מדי שנה, ומבטיחים לנו עתיד פרוץ יותר, מאיים יותר ודיסטופי יותר. בתוך כל המבול הזה, טוב לראות גם ספר אחד שמדבר על הדרכים בהן הטכנולוגיה תשפר את חיינו ותשנה אותם לטובה. חשוב לקרוא את “הסינגולריות קרובה יותר” כדי להבין מה החזון לעתיד טוב יותר – ואז לעיין גם בספרים המקבילים, כדי להבין איך לצמצם את הסיכוי שכולנו נמות מוות נוראי בדרך לאותו חזון. וכן, כדי שנוכל גם להבין האם הסיכונים גדולים כל-כך שעדיף לנו לוותר על החזון מרחיק-הלכת של קורצווייל, ולהתפשר על עתידים פשוטים יותר ומטרידים פחות.

---

סיכום

אוהבים להאשים את קורצווייל בהיותו כמעט רובוטי במחשבתו. טוענים שהוא חושב על האדם כמכונה שאפשר לשפר אותה באמצעות מכונות אחרות. שהוא רואה את המוח עצמו – מקום מושבה של הנפש האגדתית – כמנוע שאפשר לשנות את דרך הפעולה שלו.

הכל נכון.

קורצווייל באמת חושב בצורה הגיונית, אבל לא כמו רובוט אלא כמהנדס וכממציא. הגוף האנושי הוא באמת מכונה – מכונה ביולוגית מופלאה – וכמוהו גם המוח. קורצווייל מתחיל באמת הבסיסית הזו, ומנסה להבין איך אפשר לשפר את ביצועיהם.

אבל למה? אם אנחנו רק ‘מכונות’, למה אכפת לקורצווייל מהצרכים שלנו? מהרצונות שלנו?

התשובה היא שאנחנו מכונות עם רגשות, עם מודעות, עם יכולת חשיבה עצמית. אלו מאפיינים שחשוב לשמר ולהרחיב, וזוהי מטרתו האמיתית של קורצווייל. לא להמציא טכנולוגיות לשיפור הגוף פשוט כי אנחנו יכולים, אלא כדי להרחיב את החשיבה האנושית, לאפשר לנו להבין את עצמנו טוב יותר ולממש ולהגשים את חלומותינו, רצונותינו ומאווייננו.

וקורצווייל עושה זאת בעצמו.

אביו של קורצווייל היה מלחין, פסנתרן ומנצח מחונן. כשקורצווייל הגיע לגיל 22, אביו נפטר בפתאומיות, וקורצווייל התגעגע מאז לשיחותיו עם אביו אודות מוזיקה. וכך, קורצווייל החליט לעשות מעשה: הוא העלה את כל כתביו של אביו למחשב. את כל מכתבי האהבה שכתב לאשתו, כל ההרצאות שהעביר, כל החלקים מיומניו. כל אלו שימשו את קורצווייל כדרך ליצור צ’אט-בוט, שדיבר איתו ממש כאילו היה אביו. וכפי שכתב קורצווייל עצמו – 

“הכפיל הזה היה מסוגל לתת תשובות קוהרנטיות, טבעיות ומפתיעות לשאלותינו – כנראה טוב מספיק שאם הייתי אומר לכם שזו הייתה שיחה שלי עם אבי כשהוא עדיין היה בחיים, לא הייתם שמים לב למשהו יוצא-דופן. עבורי… מילותיו מהדהדות בי באופן מוכר, מבחינת הדרך בה פרדריק קורצווייל חשב ודיבר.”

והוא מסיים – “זה הצעד הראשון להביא את אבי בחזרה.”

וזה מה שקורצווייל רוצה באמת, עבורו ועבור כולנו. אפילו עבור הממציא הדגול, האדם מסביבו קמה כנסיית הסינגולריות, הטכנולוגיה היא רק כלי. כלי לעולם בו ניהנה מחיים בריאים יותר, שלמים יותר, מלאים יותר. כלי לעולם בו איש לא ימות בטרם עת ויותיר מאחוריו יתומים אבלים. כלי לעולם בו כולנו נוכל לדבר – לדבר באמת בנפש פתוחה – אחד עם השני.