• אודות
  • כנסים ואירועים
  • צור קשר
  • הצטרפות לניוזלטר
  • TapeOut Magazine
  • ChipEx
  • סיליקון קלאב
  • Jobs
מבית
EN
Tech News, Magazine & Review WordPress Theme 2017
  • עיקר החדשות
    שבבי סנאפדרגון של קוואלקום. אילוסטרציה: depositphotos.com

    קוואלקום מציגה מאיצי בינה מלאכותית לדאטה־סנטר בתחרות ישירה מול אנבידיה

    זיכויים ממס לתעשיית השבבים. אילוסטרציה: depositphotos.com

    בנק אוף אמריקה מעלה תחזית: שוק השבבים יגיע ל־טריליון דולר כבר ב־2027 — ה־AI וה-HBM דוחפים קדימה

    יואל מארק, סגנית נשיא למחקר ומדע, Alexa Shopping, אמזון

    איחוד האמיריות: ממירים נפט בטכנולוגיה – מכון מחקר בבעלות איחוד האמירויות פועל בחיפה

    אנתרופיק. אילוסטרציה: depositphotos.com

    אנתרופיק חתמה על עסקה של עשרות מיליארדי דולרים עם גוגל לרכישת שבבי בינה מלאכותית

    nextsilicon logo

    NextSilicon משיקה את Maverick-2: מנוע Dataflow ל-HPC ומציגה גם מעבד RISC-V בשם Arbel

    צעדים וצעדי נגד בין ארה"ב לסין בתחום השבבים. אילוסטרציה: depositphotos.com

    סין דורשת נתונים רגישים מחברות שבבים אמריקניות במסגרת חקירת היצף – דגש על שבבים אנלוגיים

  • בישראל
    צביקה גולצמן, רשות החדשנות - קרדיט צילום ינאי רובחה

    בכיר ברשות החדשנות: “כדי לשמר יתרון – למקד, להקים חממות שבבים ולהשקיע בהון אנושי”

    יחסי ישראל-סין. אילוסטרציה: depositphotos.com

    סין–ישראל: סדקים ביחסים – אבל “הפרדה” בין פוליטיקה לכלכלה ממשיכה בינתיים לעבוד

    איריס רועי, סמנכ"ל משאבי אנוש בחברת UCT. צילום יחצ

    חברת  UCT ישראל מגייסת 50 עובדים

    Jon_medved_2_at_ISC_sept_2013

    ג׳ון מדבד אובחן ב-ALS ועובר לתפקיד היו״ר; כלי טשיל מונה למנכ״ל OurCrowd

    מתקן אנבידיה המתוכנן בבאר שבע. צילום יחצ, אנבידיה

    אנבידיה מרחיבה את פעילותה בישראל עם סייט חדש בבאר שבע ותגייס מאות עובדים בדרום

    אוניברסיטת תל אביבאילוסטרציה: depositphotos.com

    אוניברסיטת תל-אביב והטכניון נכנסו לעשירייה העולמית בדירוג היזמות של PitchBook

  • מדורים
    • אוטומוטיב
    • בינה מלאכותית (AI/ML)
    • בטחון, תעופה וחלל
    • ‫טכנולוגיות ירוקות‬
    • ‫יצור (‪(FABs‬‬
    • ‫צב"ד‬
    • ‫שבבים‬
    • ‫רכיבים‬ (IOT)
    • ‫תוכנות משובצות‬
    • ‫תכנון אלק' (‪(EDA‬‬
    • תקשורת מהירה
    • ‫‪FPGA‬‬
    • ‫ ‪וזכרונות IPs‬‬
  • מאמרים ומחקרים
  • צ'יפסים
  • Chiportal Index
    • Search By Category
    • Search By ABC
No Result
View All Result
Chiportal
  • עיקר החדשות
    שבבי סנאפדרגון של קוואלקום. אילוסטרציה: depositphotos.com

    קוואלקום מציגה מאיצי בינה מלאכותית לדאטה־סנטר בתחרות ישירה מול אנבידיה

    זיכויים ממס לתעשיית השבבים. אילוסטרציה: depositphotos.com

    בנק אוף אמריקה מעלה תחזית: שוק השבבים יגיע ל־טריליון דולר כבר ב־2027 — ה־AI וה-HBM דוחפים קדימה

    יואל מארק, סגנית נשיא למחקר ומדע, Alexa Shopping, אמזון

    איחוד האמיריות: ממירים נפט בטכנולוגיה – מכון מחקר בבעלות איחוד האמירויות פועל בחיפה

    אנתרופיק. אילוסטרציה: depositphotos.com

    אנתרופיק חתמה על עסקה של עשרות מיליארדי דולרים עם גוגל לרכישת שבבי בינה מלאכותית

    nextsilicon logo

    NextSilicon משיקה את Maverick-2: מנוע Dataflow ל-HPC ומציגה גם מעבד RISC-V בשם Arbel

    צעדים וצעדי נגד בין ארה"ב לסין בתחום השבבים. אילוסטרציה: depositphotos.com

    סין דורשת נתונים רגישים מחברות שבבים אמריקניות במסגרת חקירת היצף – דגש על שבבים אנלוגיים

  • בישראל
    צביקה גולצמן, רשות החדשנות - קרדיט צילום ינאי רובחה

    בכיר ברשות החדשנות: “כדי לשמר יתרון – למקד, להקים חממות שבבים ולהשקיע בהון אנושי”

    יחסי ישראל-סין. אילוסטרציה: depositphotos.com

    סין–ישראל: סדקים ביחסים – אבל “הפרדה” בין פוליטיקה לכלכלה ממשיכה בינתיים לעבוד

    איריס רועי, סמנכ"ל משאבי אנוש בחברת UCT. צילום יחצ

    חברת  UCT ישראל מגייסת 50 עובדים

    Jon_medved_2_at_ISC_sept_2013

    ג׳ון מדבד אובחן ב-ALS ועובר לתפקיד היו״ר; כלי טשיל מונה למנכ״ל OurCrowd

    מתקן אנבידיה המתוכנן בבאר שבע. צילום יחצ, אנבידיה

    אנבידיה מרחיבה את פעילותה בישראל עם סייט חדש בבאר שבע ותגייס מאות עובדים בדרום

    אוניברסיטת תל אביבאילוסטרציה: depositphotos.com

    אוניברסיטת תל-אביב והטכניון נכנסו לעשירייה העולמית בדירוג היזמות של PitchBook

  • מדורים
    • אוטומוטיב
    • בינה מלאכותית (AI/ML)
    • בטחון, תעופה וחלל
    • ‫טכנולוגיות ירוקות‬
    • ‫יצור (‪(FABs‬‬
    • ‫צב"ד‬
    • ‫שבבים‬
    • ‫רכיבים‬ (IOT)
    • ‫תוכנות משובצות‬
    • ‫תכנון אלק' (‪(EDA‬‬
    • תקשורת מהירה
    • ‫‪FPGA‬‬
    • ‫ ‪וזכרונות IPs‬‬
  • מאמרים ומחקרים
  • צ'יפסים
  • Chiportal Index
    • Search By Category
    • Search By ABC
No Result
View All Result
Chiportal
No Result
View All Result

בית מדורים בינה מלאכותית (AI/ML) הצהרת מונטריאול: מדוע אנחנו חייבים לפתח בינה מלאכותית באופן אחראי

הצהרת מונטריאול: מדוע אנחנו חייבים לפתח בינה מלאכותית באופן אחראי

by פרופ' יהושוע בנג'ו, מתוך THE CONVERSATION
05 פברואר 2019
in בינה מלאכותית (AI/ML), מאמרים ומחקרים, גלובליזציה
display dummy 915135 1280
Share on FacebookShare on TwitterLinkedinWhastsapp

כך אומר פרופ' יהושע בנג'ו מאוניהברסיטת מונטריאול ומחלוצי תחום התבונה המלאכותית. לדבריו, לשימוש בתבונה המלאכותית בחברה יכולה להיות השפעה חיובית או שלילית, העתיד בידינו, אומר יהושע בנג'ו, מדען ישראלי הפועל באוניברסיטת מונטריאול בקנדה, והיה מחלוצי התבונה המלאכותית

 תבונה מלאכותית. איור: מתוך PIXABAY.COM

מחבר: יהושוע בנג'ו, Professeur titulaire, Département d'informatique et de recherche opérationnelle, Université de Montréal

אני חוקר את התבונה המלאכותית (AI) במשך שלושים שנה. כמו רוב עמיתי, לא התערבתי ביישום של הטכנולוגיה משום שיש לי עניין באופי המופשט של רעיון התבונה המלאכותית. רציתי להבין את התבונה המלאכותית. וזו מטרת המדע: הבנה. עם זאת, כאשר קבוצה של חוקרים מצליחה להבין משהו חדש, ידע זה יכול להיות מנוצל למטרות מועילות או מזיקות.

זה המקום שבו אנו נמצאים – בנקודת מפנה שבה מדע הבינה המלאכותית יוצא ממעבדות האוניברסיטאות. במשך חמש או שש השנים האחרונות, חברות גדולות כמו פייסבוק וגוגל החלו להתעניין בתחום ולהפנות מאות מיליונים כדי לקנות חברות AI ולאחר מכן לפתח את המומחיות הפנימית.

ההתקדמות בתחום ה-AI מאז הייתה מעריכית. עסקים מעוניינים מאוד להשתמש בידע זה כדי לפתח מוצרים ושווקים חדשים ולשפר את יעילותם. לשימוש בתבונה המלאכותית בחברה יכולה להיות השפעה חיובית או שלילית. העתיד בידינו.

רובוטים רוצחים ואבדן מקומות עבודה
הנושא שהטריד אותי יותר מכל הוא פיתוחו של נשק אוטונומי קטלני, המכונה גם 'רובוטים רוצחים'.

אמנם יש לסוגיה זו שאלה מוסרית משום שלמכונות אין הבנה של ההקשר האנושי, הפסיכולוגי והמוסרי, ויש גם שאלה ביטחונית, משום שנשק זה עלול לערער את הסדר העולמי.

נושא נוסף שעלה במהרה הוא אבדן מקומות עבודה או משרות שנגרם על ידי אוטומציה. שאלנו את השאלה: למה? למי אנחנו מנסים להביא הקלה? האם נהג המשאית לא מאושר על הכביש? למה הוא צריך להיות מוחלף על ידי תא נהג ריק?
אנו המדענים לכאורה לא יכולים לעשות הרבה. כוחות השוק קובעים אילו משרות יבוטלו או באלה יקטן עומס העבודה, בהתאם ליעילות הכלכלית של המחליפים האוטומטיים. אבל אנחנו גם אזרחים שיכולים להשתתף באופן ייחודי בדיון החברתי והפוליטי בנושאים האלה דווקא בגלל המומחיות שלנו.

מדעני המחשב עוסקים בנושא המשרות לא בגלל שהם יסבלו באופן אישי. למעשה, ההפך הוא הנכון. אבל הם מרגישים שיש להם אחריות והם לא רוצים שעבודתם תגרום למיליוני אנשים להיזרק לרחובות.

שינוי רשת הביטחון הסוציאלי
לפיכך ישנה תמיכה רבה מאוד בקרב מדעני המחשבים – במיוחד אלו שעוסקים בתבונה מלאכותית – לתיקון רשת הביטחון הסוציאלי כדי לאפשר סוג של שכר מובטח, או מה שאני מכנה צורה של כבוד אנושי מובטח.

מטרת החידושים הטכנולוגיים היא לצמצם את הסבל האנושי, לא להגדיל אותו. הם גם לא נועד להגביר את האפליה ואת העוול. ובכל זאת, AI עלולה לתרום לשניהם.
האפלייה קיימת בכל מקום, למשל בגלל העובדה שהתבונה המלאכותית מפותחת בידי גברים בגלל מחסור מדאיג של נשים במגזר הטכנולוגיה. בשל כך, ה-AI משקפת נתונים אודות התנהגות של בני אדם והתנהגות זו מוטה לרוע המזל.
במילים אחרות, מערכת שמסתמכת על נתונים שמקורם בהתנהגותם של אנשים תהיה בעלת אותן הטיות ואפליה כמו האנשים הנמצאים בה. היא לא תהיה תקינה פוליטת. היא לא תפעל לפי המושגים המוסריים של החברה, אלא על פי מכנה משותף. החברה מפלה ומערכות אלו, אם לא נזהר, יכולות להנציח או להגביר את האפליה.

עלולה גם להיווצר מה שנקרא לולאה משוב. לדוגמה, כוחות המשטרה משתמשים במערכות מסוג זה כדי לזהות שכונות או אזורים הנמצאים בסיכון גבוה יותר. הם ישלחו שוטרים נוספים שידווחו על פשעים נוספים. אז הסטטיסטיקה תחזק את ההטיות של המערכת.

החדשות הטובות הן שכעת נעשה מחקר במטרה לפתח אלגוריתמים כדי למזער אפליה. ממשלות, לעומת זאת, יצטרכו לחוקק חוקים ורגולציות שייאלצו עסקים להשתמש בטכניקות אלה.

הצלת חיים
יש גם חדשות טובות באופק. התחום הרפואי יהיה אחד התחומים המושפעים ביותר על ידי התבונה המלאכותית ולא רק כדי לחסוך כסף. הרופאים הם בני אדם ולכן עושים טעויות. אז ככל שנפתח יותר מערכות עם נתונים נוספים, יהיו פחות טעויות. מערכות כאלה מדויקות יותר מהרופאים הטובים ביותר. הרופאים כבר משתמשים בכלים אלה כדי שלא יחמיצו גורמים חשובים כגון תאים סרטניים שקשה לזהותם בהדמיה רפואית.
התבונה המלאכותית מסייעת גם בפיתוח של תרופות חדשות. AI יכולה לעשות עבודה טובה יותר של ניתוח כמות עצומה של נתונים (יותר ממה שלאדם יש זמן לעכל) כי היא כבר צברה נסיון עם תרופות ומולקולות אחרות. אנחנו עדיין לא שם, אבל הפוטנציאל קיים, כדוגמת ניתוח יעיל יותר של התיק הרפואי של המטופל.

אנו מפתחים כלים שיאפשרו לרופאים ליצור הקשרים שאחרת היו מתקשים מאוד לעשות, ויאפשרו לרופאים להציע טיפולים שיכולים להציל חיים. הסיכויים שהמערכת הרפואית תשתנה לחלוטין בתוך 10 שנים גבוהים מאוד, וכמובן, חשיבותה של התקדמות זו עבור כולם היא עצומה.

אני לא מודאג מאבדן משרות במגזר הרפואי. אנחנו תמיד צריכים את היכולת ואת השיפוט של אנשי מקצוע בתחום הבריאות. עם זאת, עלינו לחזק את הנורמות החברתיות (חוקים ותקנות) כדי לאפשר הגנה על הפרטיות (לאסור על רופאים להשתמש בנתוני המטופלים שלהם), וכן לצבור נתונים אלה (בצורה אנונימית) כדי לאפשר ל- AI לסייע בריפוי יותר אנשים דרכים טובות יותר.

הפתרונות חייבים להיות פוליטיים


בגלל כל הסוגיות הללו ואחרות שיבואו, נחתמה ב-4 בדצמבר 2018 הצהרתמונטריאול לפיתוח אחראי של בינה מלאכותית. טקס החתימה התקיים באקדמיה לאמנויות וטכנולוגיה בנוכחותם של כ-500 איש.
ההצהרה נוסחה על בסיס הסכמה רחבה, התייעצנו עם מומחים ואספנו דעות מכל מיני תחומי דעת: פילוסופים, סוציולוגים, משפטנים וחוקרי בינה מלאכותית.
היו כמה גרסאות של הצהרה זו. הטיוטה הראשונה הוצגה בפורום לפיתוח אחראי של AI שאורגן על ידי אוניברסיטת מונטריאול ב-2 בנובמבר 2017.
מטרת ההצהרה היא לקבוע מספר מסוים של עקרונות אשר יהוו את הבסיס של אימוץ כללים וחוקים חדשים כדי להבטיח שפיתוח התבונה המלאכותית ייעשה בצורה אחראית מבחינה חברתית. החוקים הנוכחיים לא תמיד מותאמים היטב למצבים החדשים האלה.

וכאן אנחנו מגיעים לפוליטיקה. עניינים הקשורים לאתיקה או שימוש לרעה בטכנולוגיה הופכים בסופו של דבר פוליטיים ולכן הם שייכים לתחום ההחלטות הקולקטיביות.
ישנה נכונות חזקה מצד ממשלות המחוז, כמו גם הממשלה הפדרלית הקנדית להתחייב לפיתוח אחראי מבחינה חברתית. מכיוון שקנדה היא מעצמה מדעית מובילה בתחום ה-AI, היא תהיה אחת המדינות הראשונות להבין את הפוטנציאל של פיתוח תכנית לאומית. יש לה גם הרצון למלא את תפקיד המנהיגות החברתית.

מונטריאול נמצאת בחוד החנית של תחושת המודעות הזו בשנתיים האחרונות. אני גם מרגיש זאת באירופה, כולל בצרפת ובגרמניה.

באופן כללי, מדענים נוטים להימנע מלהיות מעורבים מדי בפוליטיקה. אבל כאשר יש נושאים שמעסיקים אותם, ושתהיה להם השפעה גדולה על החברה, הם חייבים לקחת על עצמם את האחריות ולהיות חלק מהדיון.

ובוויכוח הזה, הבנתי שהחברה נתנה לי קול – ממשלות והתקשורת התעניינו במה שיש לי לומר על נושאים אלה בגלל התפקיד שלי כחלוץ בפיתוח מדעי של AI.

אז בשבילי, זו עכשיו יותר מאחריות. זו חובתי. אין לי ברירה.

לכתבה באתר THE CONVERSATI0N קנדה

עוד בנושא באתר הידען:

{loadposition content-related}
פרופ' יהושוע בנג'ו, מתוך THE CONVERSATION

פרופ' יהושוע בנג'ו, מתוך THE CONVERSATION

נוספים מאמרים

שבבי סנאפדרגון של קוואלקום. אילוסטרציה: depositphotos.com
בינה מלאכותית (AI/ML)

קוואלקום מציגה מאיצי בינה מלאכותית לדאטה־סנטר בתחרות ישירה מול אנבידיה

זיכויים ממס לתעשיית השבבים. אילוסטרציה: depositphotos.com
בינה מלאכותית (AI/ML)

בנק אוף אמריקה מעלה תחזית: שוק השבבים יגיע ל־טריליון דולר כבר ב־2027 — ה־AI וה-HBM דוחפים קדימה

יואל מארק, סגנית נשיא למחקר ומדע, Alexa Shopping, אמזון
בינה מלאכותית (AI/ML)

איחוד האמיריות: ממירים נפט בטכנולוגיה – מכון מחקר בבעלות איחוד האמירויות פועל בחיפה

אנתרופיק. אילוסטרציה: depositphotos.com
בינה מלאכותית (AI/ML)

אנתרופיק חתמה על עסקה של עשרות מיליארדי דולרים עם גוגל לרכישת שבבי בינה מלאכותית

הפוסט הבא
business 3798143 1280

מומחה המציאות המדומה אבי בר זאב עוזב את אפל

כתיבת תגובה לבטל

האימייל לא יוצג באתר. שדות החובה מסומנים *

  • הידיעות הנקראות ביותר
  • מאמרים פופולאריים

הידיעות הנקראות ביותר

  • NextSilicon משיקה את Maverick-2: מנוע Dataflow ל-HPC…
  • אוניברסיטת תל-אביב והטכניון נכנסו לעשירייה העולמית…
  • איחוד האמיריות: ממירים נפט בטכנולוגיה – מכון…
  • בנק אוף אמריקה מעלה תחזית: שוק השבבים יגיע ל־טריליון…
  • סין–ישראל: סדקים ביחסים – אבל “הפרדה” בין פוליטיקה…

מאמרים פופולאריים

  • אריק שמר:"מאד מעניין אותי לפתור בעיות".…
  • הפנים הפחות מוכרות של דב מורן: מבחינתי המכירה של M…
  • גרפן 2026: האם הגענו לשלב בו יחליף את שבבי הסיליקון?
  • הקאמבק הגדול של השיחה הטלפונית
  • יקב שדות ים – שלושה חברים ויין

השותפים שלנו

לוגו TSMC
לוגו TSMC

לחצו למשרות פנויות בהייטק

כנסים ואירועים

כנסים ואירועים

כנס ChipEx2025 יערך ב-13-14 במאי, 2025. הכנס מיועד לכל העוסקים בתעשיית הסמיקונדקטור  כולל מהנדסים, מומחים מקצועיים ובכירים.

לחץ לפרטים

הרשמה לניוזלטר של ChiPortal

הצטרפו לרשימת הדיוור שלנו


    • פרסם אצלנו
    • עיקר החדשות
    • הצטרפות לניוזלטר
    • בישראל
    • צור קשר
    • צ'יפסים
    • Chiportal Index
    • TapeOut Magazine
    • אודות
    • מאמרים ומחקרים
    • תנאי שימוש
    • כנסים
    • אוטומוטיב
    • בינה מלאכותית
    • בטחון, תעופה וחלל
    • ‫טכנולוגיות ירוקות‬
    • ‫יצור (‪(FABs‬‬
    • ‫צב"ד‬
    • ‫רכיבים‬ (IOT)
    • ‫שבבים‬
    • ‫תוכנות משובצות‬
    • ‫תכנון אלק' (‪(EDA‬‬
    • ‫‪FPGA‬‬
    • ‫ ‪וזכרונות IPs‬‬

    השותפים שלנו

    כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

    דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

    No Result
    View All Result
    • עיקר החדשות
    • בישראל
    • מדורים
      • אוטומוטיב
      • בינה מלאכותית (AI/ML)
      • בטחון, תעופה וחלל
      • ‫טכנולוגיות ירוקות‬
      • ‫יצור (‪(FABs‬‬
      • ‫צב"ד‬
      • ‫שבבים‬
      • ‫רכיבים‬ (IoT)
      • ‫תוכנות משובצות‬
      • ‫תכנון אלק' (‪(EDA‬‬
      • ‫‪FPGA‬‬
      • ‫ ‪וזכרונות IPs‬‬
      • תקשורת מהירה
    • מאמרים ומחקרים
    • צ'יפסים
    • כנסים
    • Chiportal Index
      • אינדקס חברות – קטגוריות
      • אינדקס חברות A-Z
    • אודות
    • הצטרפות לניוזלטר
    • TapeOut Magazine
    • צור קשר
    • ChipEx
    • סיליקון קלאב

    כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

    דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

    דילוג לתוכן
    פתח סרגל נגישות כלי נגישות

    כלי נגישות

    • הגדל טקסטהגדל טקסט
    • הקטן טקסטהקטן טקסט
    • גווני אפורגווני אפור
    • ניגודיות גבוההניגודיות גבוהה
    • ניגודיות הפוכהניגודיות הפוכה
    • רקע בהיררקע בהיר
    • הדגשת קישוריםהדגשת קישורים
    • פונט קריאפונט קריא
    • איפוס איפוס