"AI/ML  (בינה מלאכותית ולימוד מכונה) הולכים לדחוף את הביקוש לשבבים ומוליכים למחצה מכל הסוגים כדי לספק את החיבורים והממשקים לעולם האמיתי." כך מסביר ארתור הנסון באתר SemiWiki.

"הרובוטיקה עצמה תצרוך כמויות אדירות של שבבים לראייה מלאכותית, חיישנים, למפעילים ולספקי תקשורת יידרשו בכל שלב. אוטונמיה של הכל תצרוך גם כמויות משמעותיות של מגוון שלם של מוליכים למחצה." הסביר הנסון.

"בקרוב ניכנס לעולם של AI/ML להיות נוכח בכל מקום כמעט בכל דבר ובכל מקום. גבולות השימושיות של AI/ML וסמי הולכים להיות כמעט בלתי מוגבלים בכל דבר, החל ממחקר, דרך מכשירים ועד משימות כמעט מכל סוג כמעט ללא גבולות. זה יציג יותר הזדמנויות ממה שהאנושות אי פעם חלמה עליהן."

"למרבה הצער, עלינו להתמודד גם עם ניצול לרעה של כוח משמעותי זה על ידי חלקנו. פתרון אתגר זה יהיה קריטי כדי להתקדם. בעוצמה רבה תידרש תבונה רבה כדי למנוע את הסכנות הגדולות מאוד הגלומות בכל טכנולוגיה חדשה ובעיקר AI/ML שתציג הזדמנויות גדולות, אךגם סכנות גדולות מאוד".

כזכור לא מכבר פנו אילון מאסק ובכירים רבים אחרים בהייטק במטרה לעצור את פיתוחי הבינה המלאכותית עד לפתרון הבעיות האתיות.

הפוסט AI/ML יאיצו את הביקוש לשבבים אבל קיימות גם סכנות בשימוש בהן הופיע לראשונה ב-Chiportal.

ארה"ב הכריזה השבוע על קידום מהלך לטיפול באתיקה בבינה מלאכותית, כחודשיים לאחר מהלך דומה של האיחוד האירופי.

חוק הבינה המלאכותית (AIA) של האיחוד האירופי, שאושר על ידי מועצת האיחוד האירופי ב-6 בדצמבר ואמור להידון על ידי הפרלמנט האירופי כבר בחודש מרץ, יסדיר יישומים, מוצרים ושירותים של בינה מלאכותית תחת היררכיה מבוססת סיכון: ככל שהסיכון גבוה יותר, כך הכלל מחמיר יותר.

אם תאושר, ה-AIA של האיחוד האירופי תהיה הרגולציה הרוחבית הראשונה בעולם – בכל המגזרים והיישומים – של AI.

לעומת זאת, בארה"ב אין חוק פדרלי ספציפי להסדרת השימוש בבינה מלאכותית, אך הרגולציה תסתמך במקום זאת על חוקים, תכנונים, מסגרות, תקנים ותקנות קיימים שניתן לתפור יחד כדי להנחות את השימוש האתי בבינה מלאכותית. ההנחיות הללו מכסות פעילות של ממשלות וארגונים, אך אינן מציעות הגנה לצרכנים שנעשה להם עוול כאשר נעשה שימוש בבינה מלאכותית נגדם.

בנוסף לעבודת הטלאים של הפעולות פדרליות, ממשלות מקומיות ומדינתיות מחוקקות חוקים לטיפול בהטיית בינה מלאכותית בתעסוקה, כמו בעיר ניו יורק ובמדינת קליפורניה כולה, ובביטוח, כפי שעולה מחוק בקולורדו. שום חוק מקומי שהוצע או נחקק לא גורר אחריו עונש מאסר כלשהו. בשנת 2016, הוטל על אריק לומיס מוויסקונסין עונש מאסר של שש שנים שהתבסס, בין השאר, על תוכנת בינה מלאכותית, על פי דיווח בניו יורק טיימס. לומיס טען כי זכויותיו להליך הוגן הופרו משום שלא יכול היה לבדוק או לערער על האלגוריתם של התוכנה.

ההנחיה הפדרלית מגיעה מהמכון הלאומי לתקנים וטכנולוגיה (NIST). המסגרת ההתנדבותית של NIST נועדה לסייע  לארגונים לנהל סיכוני בינה מלאכותית שעלולים להשפיע על אנשים, ארגונים וחברה בארה"ב. המסגרת עושה זאת על ידי שילוב שיקולי אמינות, כגון יכולת הסבר וצמצום של הטיה מזיקה, במוצרים, בשירותים ובמערכות של בינה מלאכותית.

"בטווח הקצר, מה שאנחנו רוצים לעשות זה לטפח אמון", אמרה אלהאם טבסי, ראש המטה במעבדה לטכנולוגיית מידע ב- NIST בראיון ל-EETIMES. "ואנחנו עושים זאת על ידי הבנה וניהול של הסיכונים של מערכות בינה מלאכותית, כך שהן יכולות לסייע בשמירה על חירויות וזכויות אזרח ולשפר את הבטיחות ובמקביל לספק וליצור הזדמנויות לחדשנות."

בטווח הארוך יותר, "אנחנו מדברים על המסגרת כמציידת צוותי בינה מלאכותית, בין אם הם בעיקר אנשים המתכננים , מפתחים או פורסים בינה מלאכותית, לחשוב על בינה מלאכותית מנקודת מבט שלוקחת בחשבון סיכונים והשפעות", אמרה ריבה שוורץ, מדענית מחקר במעבדת ה-IT של NIST.

באוקטובר 2022 פרסם הבית הלבן את התוכנית למגילת זכויות AI ובה הוא מפרט חמישה עקרונות שינחו את השימוש האתי בבינה מלאכותית:

• מערכות צריכות להיות בטוחות ויעילות.
• אלגוריתמים ומערכות לא צריכים להפלות.
• יש להגן על אנשים מפני נוהלי נתונים פוגעניים ולשלוט באופן השימוש בנתונים שלהם.
• מערכות אוטומטיות צריכות להיות שקופות.
• ביטול הצטרפות למערכת בינה מלאכותית לטובת התערבות אנושית צריך להיות אופציה.

הפוסט האיחוד האירופי וארה"ב מקדמים מהלכים לטיפול באתיקה בבינה מלאכותית הופיע לראשונה ב-Chiportal.

מאת ג'וליאן סאבולסקו פרופסור אורח לאתיקה ביו-רפואית, מכון מרדוק לחקר הילדים; פרופסור אורח מכובד למשפטים, אוניברסיטת מלבורן; הקתדרה לאתיקה מעשית ע"ש אוהירו, אוניברסיטת אוקספורד; כריסטופר גינגל, עמית מחקר באתיקה ביו-רפואית, אוניברסיטת מלבורן וטסוטומו סאוואי פרופסור חבר, מדעי הרוח והחברה, אוניברסיטת הירושימה

השנה היא 2030 ואנחנו בכנס הטכנולוגיה הגדול בעולם, CES בלאס וגאס. קהל מתאסף כדי לצפות בחברת טכנולוגיה גדולה חושפת את הסמארטפון החדש שלה. המנכ"ל מגיע לבמה ומכריז על ה-Nyooro, המכיל את המעבד החזק ביותר שנראה אי פעם בטלפון. הניורו יכול לבצע  קווינטיליון פעולות מדהימות בשנייה, מהירות שהיא  פי אלף מדגמי הסמארטפונים בשנת 2020. זה גם פי עשרה יותר חסכוני באנרגיה ובעל  סוללה שמחזיקה מעמד עשרה ימים.

עיתונאי שואל: "איזו התקדמות טכנולוגית אפשרה הישגים כה עצומים בביצועים?" המנכ"ל משיב: "יצרנו שבב ביולוגי חדש באמצעות נוירונים אנושיים שגודלו במעבדה. השבבים הביולוגיים האלה טובים יותר משבבי סיליקון מכיוון שהם יכולים לשנות את המבנה הפנימי שלהם, להתאים את עצמם לדפוס השימוש של המשתמש ולהוביל להישגים עצומים ביעילות".

עיתונאי אחר שואל: "האם אין חששות אתיים לגבי מחשבים שמשתמשים בחומרי מוח אנושיים?"

למרות שהשם והתרחיש הם בדיוניים, זו שאלה שעלינו להתמודד איתה כעת. בדצמבר 2021, מעבדות קורטיקל שבסיסן במלבורן  גידלו קבוצות של תאי עצב (תאי מוח) ששולבו בשבב מחשב. השבב ההיברידי שנוצר פועל מכיוון שגם המוח וגם תאי העצב חולקים שפה משותפת: חשמל.

במחשבי סיליקון, אותות חשמליים נעים לאורך חוטי מתכת המקשרים רכיבים שונים זה לזה. במוחות, נוירונים מתקשרים זה עם זה באמצעות אותות חשמליים על פני סינפסות (צמתים בין תאי עצב). במערכת Dishbrain של Cortical Labs, תאי עצב גדלים על שבבי סיליקון. נוירונים אלה פועלים כמו החוטים במערכת, המחברים רכיבים שונים. היתרון העיקרי של גישה זו הוא שהנוירונים יכולים לשנות את צורתם, לגדול, לשכפל או למות בתגובה לדרישות המערכת.

Dishbrain יכול ללמוד לשחק את משחק הארקייד פונג מהר יותר מאשר מערכות AI קונבנציונליות. המפתחים של Dishbrain אמרו: "שום דבר כזה מעולם לא היה קיים לפני … זהו מצב חדש לגמרי של הוויה. מיזוג של סיליקון ונוירון".

Cortical Labs מאמינה שהשבבים ההיברידיים שלה יכולים להיות המפתח לסוגי ההיגיון המורכבים שהמחשבים והבינה המלאכותית של ימינו אינם יכולים לייצר. סטארט-אפ נוסף שמייצר מחשבים מנוירונים שגדלו במעבדה, קוניקו, מאמין שהטכנולוגיה שלהם תחולל מהפכה בכמה תעשיות, כולל חקלאות, בריאות, טכנולוגיה צבאית ואבטחת שדות תעופה. סוגים אחרים  של מחשבים אורגניים נמצאים גם הם בשלבים המוקדמים של הפיתוח.

בעוד שמחשבי הסיליקון שינו את פני החברה, הם עדיין מתגמדים לעומת  המוחות של רוב בעלי החיים. לדוגמה, מוחו של חתול מאחסן  פי 1,000 יותר נתונים מאשר אייפד ממוצע ויכול להשתמש במידע זה פי מיליון מהר יותר. המוח האנושי, עם טריליון הקשרים העצביים שלו, מסוגל לבצע 15 קווינטיליון פעולות  בשנייה.

ניתן להשיג זאת כיום רק על ידי מחשבי-על מסיביים המשתמשים בכמויות עצומות של אנרגיה. המוח האנושי משתמש רק בכ- 20 וואט של אנרגיה, או בערך כמו שנדרש עבור נורה קטנה יידרשו 34 תחנות כוח פחמיות המייצרות 500 מגה-וואט בשעה כדי לאחסן את אותה כמות נתונים הכלולה במוח אנושי אחד  במרכזי אחסון נתונים מודרניים.

חברות אינן זקוקות לדגימות רקמת מוח מתורמים, אלא יכולות פשוט לגדל את תאי העצב הדרושים להן במעבדה מתאי עור רגילים באמצעות טכנולוגיות של תאי גזע. מדענים יכולים להנדס תאים מדגימות דם או מביופסיות עור לסוג של תאי גזע שיכולים להפוך לכל סוג תא בגוף האדם.

עם זאת, זה מעלה שאלות לגבי הסכמת התורם. האם אנשים המספקים דגימות רקמה למחקר ופיתוח טכנולוגי יודעים שהיא עשויה לשמש לייצור מחשבים עצביים? האם הם צריכים לדעת זאת כדי שהסכמתם תהיה תקפה?

אנשים ללא ספק יהיו מוכנים לתרום תאי עור למחקר הרבה יותר  מאשר תאים מרקמת המוח שלהם. אחד המחסומים לתרומת המוח הוא שהמוח נתפס כקשור לזהות שלכם. אבל בעולם שבו אנו יכולים לגדל מיני-מוחות כמעט מכל סוג של תא, האם זה הגיוני לצייר הבחנה מסוג זה?

אם מחשבים עצביים יהפכו לנפוצים, נתמודד עם בעיות אחרות של תרומת רקמות. במחקר של Cortical Lab עם Dishbrain, הם מצאו שתאי עצב אנושיים היו מהירים יותר בלמידה מאשר נוירונים מעכברים. האם ייתכן שיש גם הבדלים בביצועים בהתאם לנוירונים של מי משתמשים? האם אפל וגוגל יוכלו לייצר מחשבים מהירים כברק באמצעות נוירונים מהטובים והבהירים ביותר שלנו כיום? האם מישהו יוכל לאבטח רקמות מגאונים שנפטרו  כמו אלברט איינשטיין כדי לייצר מחשבים עצביים מיוחדים במהדורה מוגבלת?

שאלות כאלה הן ספקולטיביות מאוד אך נוגעות בנושאים רחבים יותר של ניצול ופיצוי. קחו למשל את השערורייה הנוגעת להנרייטה לאקס, אישה אפרו-אמריקאית שתאיה שימשו בהרחבה במחקר רפואי ומסחרי ללא ידיעתה והסכמתה.

התאים של הנרייטה עדיין משמשים ביישומים שמייצרים כמויות עצומות של הכנסות עבור חברות התרופות (כולל לאחרונה לפיתוח חיסונים נגד קורונה). משפחת לאקס עדיין לא קיבלה כל פיצוי. אם הנוירונים של התורם משמשים בסופו של דבר במוצרים כמו Nyooro הדמיוני, האם הם צריכים להיות זכאים לחלק מהרווחים שנעשו מאותם מוצרים?

שיקול אתי מרכזי נוסף עבור מחשבים עצביים הוא האם הם יכולים לפתח צורה כלשהי של תודעה ולחוות כאב. האם מחשבים עצביים יהיו בעלי סיכוי גבוה יותר לחוות חוויות מאשר מחשבים מבוססי סיליקון? בניסוי פונג, דישבריין נחשף לגירויים רועשים ובלתי צפויים כאשר הוא מקבל תגובה שגויה (ההנעה מפספסת את הכדור), ולגירויים צפויים כאשר הוא מקבל אותו נכון. לפחות ייתכן שמערכת כזו תתחיל לחוות את הגירויים הבלתי צפויים ככאב, ואת הגירויים הצפויים כהנאה.

קצין המדע הראשי ברט קגן ממעבדות קורטיקל אמר:

להסכמת תורם מדעת יש חשיבות עליונה. לכל תורם צריכה להיות הזדמנות להגיע להסכם לפיצוי כחלק מתהליך זה והאוטונומיה הגופנית שלו תכובד ללא כפייה".

כפי שנדון לאחרונה במחקר אין עדות לכך שלנוירונים על צלחת יש חוויה איכותית או מודעת כלשהי ולכן אינם יכולים להיות במצוקה וללא קולטני כאב, אינם יכולים להרגיש כאב. נוירונים התפתחו כדי לעבד מידע מכל הסוגים – השארתם ללא גירוי לחלוטין, כפי שנעשה כיום בכל רחבי העולם במעבדות, אינה מצב טבעי לנוירון. כל מה שעבודה זו עושה הוא לאפשר לנוירונים להתנהג כפי שהטבע התכוון ברמה הבסיסית ביותר שלהם.

בני אדם השתמשו בבעלי חיים כדי לבצע עבודה פיזית במשך אלפי שנים, למרות שלעתים קרובות הובילו לחוויות שליליות עבור בעלי החיים. האם שימוש במחשבים אורגניים לעבודה קוגניטיבית יהיה בעייתי יותר מבחינה אתית מאשר שימוש בשור כדי למשוך עגלה?

אנחנו נמצאים בשלבים המוקדמים של המחשוב העצבי ויש לנו זמן לחשוב על הסוגיות האלה. אנחנו חייבים לעשות זאת לפני שמוצרים כמו "Nyooro" יעברו ממדע בדיוני לחנויות.

למאמר באתר THE CONVERSATION

הפוסט חברות טכנולוגיה מייצרות שבבי מחשב עם תאים אנושיים – האם זה אתי? הופיע לראשונה ב-Chiportal.