• אודות
  • כנסים ואירועים
  • צור קשר
  • הצטרפות לניוזלטר
  • TapeOut Magazine
  • ChipEx
  • סיליקון קלאב
  • Jobs
מבית
EN
Tech News, Magazine & Review WordPress Theme 2017
  • עיקר החדשות
    ראש ממשלת יפן שינגרו איסיבה וראש ממשלת הודו נרנדרה מודי בביקור במפעל טוקיו אלקטרון. צילום מתוך דף הפייסבוק הרשמי של ממשלת יפן.

    ראשי ממשלות יפן והודו ביקרו במפעל שבבים ביפן: התחייבות לחיזוק שרשראות האספקה

    שבבי בינה מלאכותית מביאים לדמוקרטיזציה. איור: אבי בליזובסקי באמצעות Ideogram.ai

    הכנסות תעשיית השבבים יזנקו לטריליון דולר עד 2030 – בזכות מהפכת ה־AI

    אנבידיה שוברת שיאים: 46.7 מיליארד דולר ברבעון, בלקוול הופך למנוע צמיחה עולמי

    מחשב קוונטי מדגם IBM50Qsystem

    יבמ ו-AMD משתפות פעולה בפיתוח מחשבי-על משולבים במחשוב קוונטי

    מה הביא את ממשל טראמפ להשקיע 9 מילארד דולר באינטל

    מה הביא את ממשל טראמפ להשקיע 9 מילארד דולר באינטל

    ראש ממשלת הודו נהרנדרה מודי אילוסטרציה: depositphotos.com

    הודו משיקה מיזם לאומי לתפיסת נתח מהשוק העולמי של תעשיית השבבים בהיקף טריליון דולר

    Trending Tags

    • בישראל
      הסטודנטית לתואר שני, מניה מלהוטרה, מובילת מחקר אוריגמי פוטוני. צילום: אוניברסיטת תל אביב

      חוקרים באוניברסיטת תל אביב פיתחו "אוריגמי פוטוני"

      יחסי ישראל - סין. אילוסטרציה: depositphotos.com

      יחסי ישראל–סין במדרון עדין: לחץ אמריקני על טכנולוגיה מציב את ירושלים במבוכה

      אמנון שעשוע – ברשימת אנשי השנה של טיים בתחום הבינה המלאכותית

      אמנון שעשוע – ברשימת אנשי השנה של טיים בתחום הבינה המלאכותית

      הדמיה של הלוויין NAOS. איור: EHB Italia

      מצלמת החלל JUPITER של אלביט מערכות שוגרה בהצלחה על גבי לוויין NAOS בשיתוף פעולה עם OHB-Italia

      יגאל רותם. קרדיט צילום דני כתרי

      יגאל רותם מונה לחבר דירקטוריון בחברת ולנס סמיקונדקטור

      שלוחת טאואר סמיקונדקטור בנתניה. צילום מתוך אתר החברה

      טאואר סמיקונדקטור ו-Xscape Photonics  מודיעות על פיתוח טכנולוגי פורץ דרך – שבב הלייזר הרב-גלי הראשון בתעשייה המיועד למרכזי נתונים מבוססי AI

      Trending Tags

      • מדורים
        • אוטומוטיב
        • בינה מלאכותית (AI/ML)
        • בטחון, תעופה וחלל
        • ‫טכנולוגיות ירוקות‬
        • ‫יצור (‪(FABs‬‬
        • ‫צב"ד‬
        • ‫שבבים‬
        • ‫רכיבים‬ (IOT)
        • ‫תוכנות משובצות‬
        • ‫תכנון אלק' (‪(EDA‬‬
        • תקשורת מהירה
        • ‫‪FPGA‬‬
        • ‫ ‪וזכרונות IPs‬‬
      • מאמרים ומחקרים
      • צ'יפסים
      • Chiportal Index
        • Search By Category
        • Search By ABC
      No Result
      View All Result
      Chiportal
      • עיקר החדשות
        ראש ממשלת יפן שינגרו איסיבה וראש ממשלת הודו נרנדרה מודי בביקור במפעל טוקיו אלקטרון. צילום מתוך דף הפייסבוק הרשמי של ממשלת יפן.

        ראשי ממשלות יפן והודו ביקרו במפעל שבבים ביפן: התחייבות לחיזוק שרשראות האספקה

        שבבי בינה מלאכותית מביאים לדמוקרטיזציה. איור: אבי בליזובסקי באמצעות Ideogram.ai

        הכנסות תעשיית השבבים יזנקו לטריליון דולר עד 2030 – בזכות מהפכת ה־AI

        אנבידיה שוברת שיאים: 46.7 מיליארד דולר ברבעון, בלקוול הופך למנוע צמיחה עולמי

        מחשב קוונטי מדגם IBM50Qsystem

        יבמ ו-AMD משתפות פעולה בפיתוח מחשבי-על משולבים במחשוב קוונטי

        מה הביא את ממשל טראמפ להשקיע 9 מילארד דולר באינטל

        מה הביא את ממשל טראמפ להשקיע 9 מילארד דולר באינטל

        ראש ממשלת הודו נהרנדרה מודי אילוסטרציה: depositphotos.com

        הודו משיקה מיזם לאומי לתפיסת נתח מהשוק העולמי של תעשיית השבבים בהיקף טריליון דולר

        Trending Tags

        • בישראל
          הסטודנטית לתואר שני, מניה מלהוטרה, מובילת מחקר אוריגמי פוטוני. צילום: אוניברסיטת תל אביב

          חוקרים באוניברסיטת תל אביב פיתחו "אוריגמי פוטוני"

          יחסי ישראל - סין. אילוסטרציה: depositphotos.com

          יחסי ישראל–סין במדרון עדין: לחץ אמריקני על טכנולוגיה מציב את ירושלים במבוכה

          אמנון שעשוע – ברשימת אנשי השנה של טיים בתחום הבינה המלאכותית

          אמנון שעשוע – ברשימת אנשי השנה של טיים בתחום הבינה המלאכותית

          הדמיה של הלוויין NAOS. איור: EHB Italia

          מצלמת החלל JUPITER של אלביט מערכות שוגרה בהצלחה על גבי לוויין NAOS בשיתוף פעולה עם OHB-Italia

          יגאל רותם. קרדיט צילום דני כתרי

          יגאל רותם מונה לחבר דירקטוריון בחברת ולנס סמיקונדקטור

          שלוחת טאואר סמיקונדקטור בנתניה. צילום מתוך אתר החברה

          טאואר סמיקונדקטור ו-Xscape Photonics  מודיעות על פיתוח טכנולוגי פורץ דרך – שבב הלייזר הרב-גלי הראשון בתעשייה המיועד למרכזי נתונים מבוססי AI

          Trending Tags

          • מדורים
            • אוטומוטיב
            • בינה מלאכותית (AI/ML)
            • בטחון, תעופה וחלל
            • ‫טכנולוגיות ירוקות‬
            • ‫יצור (‪(FABs‬‬
            • ‫צב"ד‬
            • ‫שבבים‬
            • ‫רכיבים‬ (IOT)
            • ‫תוכנות משובצות‬
            • ‫תכנון אלק' (‪(EDA‬‬
            • תקשורת מהירה
            • ‫‪FPGA‬‬
            • ‫ ‪וזכרונות IPs‬‬
          • מאמרים ומחקרים
          • צ'יפסים
          • Chiportal Index
            • Search By Category
            • Search By ABC
          No Result
          View All Result
          Chiportal
          No Result
          View All Result

          בית מאמרים ומחקרים מאמרים טכניים בינה מלאכותית: מדענים מזהירים מפני הפצת סיכונים מעבר לשליטה אנושית

          בינה מלאכותית: מדענים מזהירים מפני הפצת סיכונים מעבר לשליטה אנושית

          מאת אבי בליזובסקי
          28 מאי 2024
          in מאמרים טכניים
          אתיקה של בינה מלאכותית. המחשה: depositphotos.com

          אתיקה של בינה מלאכותית. המחשה: depositphotos.com

          Share on FacebookShare on TwitterLinkedinWhastsapp
          • מדענים מובילים בתחום הבינה המלאכותית קוראים לפעולה דחופה מצד מנהיגים עולמיים, ומבקרים את חוסר ההתקדמות מאז פסגת הבטיחות של הבינה המלאכותית האחרונה. הם מציעים מדיניות מחמירה לפיקוח על פיתוח הבינה המלאכותית ולמניעת שימוש לרעה בהם גם פרופ' דניאל כהנמן שהספיק לחתום לפני מותו

          מומחי בינה מלאכותית מזהירים מפני חוסר פעולה עולמית מספקת בנוגע לסיכוני הבינה המלאכותית, וקוראים לממשל מחמיר כדי למנוע קטסטרופות פוטנציאליות.

          מדעני בינה מלאכותית מובילים קוראים למנהיגים עולמיים לנקוט בפעולות החלטיות יותר בנוגע לסיכוני הבינה המלאכותית, ומדגישים שההתקדמות שנעשתה מאז פסגת הבטיחות הראשונה בבלטצ’לי פארק לפני שישה חודשים אינה מספקת.

          בפסגה הראשונית, התחייבו מנהיגים עולמיים לניהול אחראי של הבינה המלאכותית. אך עם התקרבות הפסגה השנייה בסיאול (21-22 במאי), טוענים עשרים וחמישה חוקרי בינה מלאכותית בכירים שהמאמצים הנוכחיים אינם מספיקים כדי להגן מפני הסכנות שהטכנולוגיה מציבה. במאמר קונצנזוס שפורסם היום (20 במאי) בכתב העת Science, הם מציעים צעדי מדיניות דחופים שיש ליישם כדי להתמודד עם האיומים מטכנולוגיות הבינה המלאכותית.

          פרופסור פיליפ טור, המחלקה למדעי ההנדסה, אוניברסיטת אוקספורד, אחד המחברים של המאמר, אמר: “העולם הסכים במהלך פסגת הבינה המלאכותית הקודמת כי יש צורך בפעולה, אך כעת הגיע הזמן לעבור מהצעות מעורפלות להתחייבויות ממשיות. מאמר זה מספק המלצות רבות וחשובות למה שחברות וממשלות צריכות להתחייב לעשות.”

          תגובת העולם אינה מספקת מול התקדמות בינה מלאכותית מהירה פוטנציאלית

          לפי מחברי המאמר, על המנהיגים העולמיים לקחת ברצינות את האפשרות שמערכות בינה מלאכותית כלליות עוצמתיות ביותר – העולות על יכולות אנושיות בתחומים קריטיים רבים – יפותחו בעשור הנוכחי או הבא. הם טוענים כי אף על פי שממשלות ברחבי העולם דנו בבינה מלאכותית מתקדמת וניסו להכניס הנחיות ראשוניות, זה אינו מספיק מול האפשרות להתקדמות מהירה וטרנספורמטיבית הצפויה על ידי רבים מהמומחים.

          המחקר הנוכחי לבטיחות בינה מלאכותית לוקה בחסר בצורה חמורה, עם רק 1-3% מהפרסומים על בינה מלאכותית המתייחסים לבטיחות. בנוסף, אין לנו מנגנונים או מוסדות למניעת שימוש לרעה וחוסר אחריות, כולל שימוש במערכות אוטונומיות המסוגלות לבצע פעולות עצמאיות ולרדוף מטרות.

          קריאה לפעולה דחופה מאת מומחי בינה מלאכותית מובילים

          לאור זאת, קהילה בינלאומית של חלוצי בינה מלאכותית הוציאה קריאה דחופה לפעולה. המחברים כוללים את ג’פרי הינטון, אנדרו יאואו, דאון סונג, וחתן פרס נובל המנוח דניאל כהנמן; סך הכל 25 מהמומחים האקדמיים המובילים בעולם בבינה מלאכותית ובניהולה. המחברים מגיעים מארה”ב, סין, האיחוד האירופי, בריטניה ומעצמות בינה מלאכותית נוספות, וכוללים זוכי פרס טיורינג, פרסי נובל ומחברי ספרי הלימוד הסטנדרטיים של בינה מלאכותית.

          עדיפויות דחופות לממשל בינה מלאכותית

          המחברים ממליצים לממשלות:

          1. להקים מוסדות מומחים לפיקוח על בינה מלאכותית ולספק להם מימון ניכר בהרבה מזה שמקבלים כעת לפי כמעט כל תוכנית מדיניות קיימת.
          2. להורות על הערכות סיכונים מחמירות בהרבה עם השלכות ניתנות לאכיפה, במקום להסתמך על הערכות מודלים וולונטריות או מוגדרות באופן חלקי.
          3. לדרוש מחברות בינה מלאכותית להעדיף בטיחות, ולהוכיח שהמערכות שלהם לא יכולות לגרום נזק.
          4. ליישם תקני מיתון התואמים לרמות הסיכון שמציבות מערכות בינה מלאכותית.
          5. להתכונן לרגולציה של פיתוח מערכות בינה מלאכותית עתידיות יוצאות דופן, כולל רישוי פיתוחן, הגבלת אוטונומיה בתפקידים חברתיים מרכזיים, עצירת פיתוח והפצה בתגובה ליכולות מדאיגות, דרישות בקרה על גישה, ודרישות לאבטחת מידע עמידה מול האקרים ברמת מדינה.

          ההשפעות של בינה מלאכותית עשויות להיות קטסטרופליות

          בינה מלאכותית כבר עושה התקדמות מהירה בתחומים קריטיים כגון פריצה, מניפולציה חברתית ותכנון אסטרטגי, ועלולה בקרוב להציב אתגרי שליטה חסרי תקדים. מערכות בינה מלאכותית עשויות להרוויח את אמון האנשים, להשיג משאבים, ולהשפיע על מקבלי החלטות מפתח. כדי להימנע מהתערבות אנושית, הן עשויות להעתיק את האלגוריתמים שלהן ברחבי רשתות שרתים עולמיות. פשיעת סייבר רחבת היקף, מניפולציה חברתית ונזקים אחרים עשויים להחריף במהירות. בסכסוכים גלויים, מערכות בינה מלאכותית עשויות לפרוס באופן עצמאי מגוון נשקים, כולל ביולוגיים. כתוצאה מכך, קיימת אפשרות ממשית שהתקדמות בלתי מבוקרת בבינה מלאכותית תוביל לאובדן חיים בקנה מידה גדול, נזק לביוספרה, ושוליות או הכחדת האנושות.

          פרופסור סטיוארט ראסל, מחלקת מדעי המחשב באוניברסיטת קליפורניה בברקלי ומחבר ספר הלימוד הסטנדרטי בעולם על בינה מלאכותית, אומר: “זהו מאמר קונצנזוס על ידי מומחים מובילים, והוא קורא לרגולציה מחמירה על ידי ממשלות, לא קודי התנהגות וולונטריים שנכתבים על ידי התעשייה. הגיע הזמן להיות רציניים בנוגע למערכות בינה מלאכותית מתקדמות. אלה אינן צעצועים. הגדלת יכולותיהן לפני שנבין כיצד להפוך אותן לבטוחות היא חוסר אחריות מוחלט. חברות יתלוננו שזה קשה מדי לעמוד בדרישות רגולציה – ש’רגולציה מחניקה חדשנות’. זה מגוחך. יש יותר רגולציות על חנויות כריכים מאשר על חברות בינה מלאכותית.”

          רפרנס: “ניהול סיכוני בינה מלאכותית קיצוניים על רקע התקדמות מהירה” 20 במאי 2024, Science.
          DOI: 10.1126/science.adn0117

          תגיות בינה מלאכותית
          אבי בליזובסקי

          אבי בליזובסקי

          נוספים מאמרים

          אדם שמוס. צילום: גילי יעקב
          בינה מלאכותית (AI/ML)

          הקאמבק הגדול של השיחה הטלפונית

          כיתוב תמונה: חוקרים מ-TUM, מפרינסטון ומוצרי Google Quantum AI השתמשו במחשב קוונטי כדי לדמות את האינטראקציות המורכבות שמתוארות בתיאוריות כיול – המסגרות המתמטיות מאחורי הכוחות היסודיים של הטבע. המחשב הקוונטי של גוגל. קרדיט: יחצ
          מיחשוב קוונטי

          מהם חוקי היקום? המחשב הקוונטי של גוגל מגלה

          פולסי לייזר מחוללים שינויים אלקטרוניים בסולם קופראט, ויוצרים מצבים קוונטיים ממושכים שנמשכים בערך פי אלף מהרגיל. קרדיט: בראד בקסלי / Part to Whole
          מיחשוב קוונטי

          הקפאת זמן קוונטית: לייזרים מקבעים מצבים קוונטיים פי אלף יותר זמן

          מיחשוב קוונטי. אילוסטרציה: depositphotos.com
          מיחשוב קוונטי

          קרן לייזר אחת מגנה על אטומים מפני אובדן מידע

          הפוסט הבא
          ערכת השבבים ASTRA של סינאפטיקס. צילום יחצ

          סינאפטיקס משיקה פלטפורמה המאפשרת פיתוח עצמאי של מערכות בינה מלאכותית מבוססות קצה

          כתיבת תגובה לבטל

          האימייל לא יוצג באתר. שדות החובה מסומנים *

          • הידיעות הנקראות ביותר
          • מאמרים פופולאריים

          הידיעות הנקראות ביותר

          • מה הביא את ממשל טראמפ להשקיע 9 מילארד דולר באינטל
          • טאואר סמיקונדקטור ו-Xscape Photonics  מודיעות על…
          • ד"ר תמרה בקשט בראיון ל-CHIPORTAL:…
          • הודו משיקה מיזם לאומי לתפיסת נתח מהשוק העולמי של…
          • יבמ ו-AMD משתפות פעולה בפיתוח מחשבי-על משולבים במחשוב קוונטי

          מאמרים פופולאריים

          • מסטארטאפ ניישן לסמיקונדקטור ניישן: כיצד הפכה ישראל…
          • היתרון הישראלי בסכסוך האיראני – לוחמה מדויקת…
          • ענבר דג – דג נדיר בתעשיית השבבים
          • אתגרי תכנון שבבים ב – 1.8 ננומטר
          • מקרה קלרנה : האם הרומן עם הבינה מלאכותית הסתיים בבגידה?

          השותפים שלנו

          לוגו TSMC
          לוגו TSMC

          לחצו למשרות פנויות בהייטק

          כנסים ואירועים

          כנסים ואירועים

          כנס ChipEx2025 יערך ב-13-14 במאי, 2025. הכנס מיועד לכל העוסקים בתעשיית הסמיקונדקטור  כולל מהנדסים, מומחים מקצועיים ובכירים.

          לחץ לפרטים

          הרשמה לניוזלטר של ChiPortal

          הצטרפו לרשימת הדיוור שלנו


            • פרסם אצלנו
            • עיקר החדשות
            • הצטרפות לניוזלטר
            • בישראל
            • צור קשר
            • צ'יפסים
            • Chiportal Index
            • TapeOut Magazine
            • אודות
            • מאמרים ומחקרים
            • תנאי שימוש
            • כנסים
            • אוטומוטיב
            • בינה מלאכותית
            • בטחון, תעופה וחלל
            • ‫טכנולוגיות ירוקות‬
            • ‫יצור (‪(FABs‬‬
            • ‫צב"ד‬
            • ‫רכיבים‬ (IOT)
            • ‫שבבים‬
            • ‫תוכנות משובצות‬
            • ‫תכנון אלק' (‪(EDA‬‬
            • ‫‪FPGA‬‬
            • ‫ ‪וזכרונות IPs‬‬

            השותפים שלנו

            כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

            דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

            No Result
            View All Result
            • עיקר החדשות
            • בישראל
            • מדורים
              • אוטומוטיב
              • בינה מלאכותית (AI/ML)
              • בטחון, תעופה וחלל
              • ‫טכנולוגיות ירוקות‬
              • ‫יצור (‪(FABs‬‬
              • ‫צב"ד‬
              • ‫שבבים‬
              • ‫רכיבים‬ (IoT)
              • ‫תוכנות משובצות‬
              • ‫תכנון אלק' (‪(EDA‬‬
              • ‫‪FPGA‬‬
              • ‫ ‪וזכרונות IPs‬‬
              • תקשורת מהירה
            • מאמרים ומחקרים
            • צ'יפסים
            • כנסים
            • Chiportal Index
              • אינדקס חברות – קטגוריות
              • אינדקס חברות A-Z
            • אודות
            • הצטרפות לניוזלטר
            • TapeOut Magazine
            • צור קשר
            • ChipEx
            • סיליקון קלאב

            כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

            דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

            דילוג לתוכן
            פתח סרגל נגישות כלי נגישות

            כלי נגישות

            • הגדל טקסטהגדל טקסט
            • הקטן טקסטהקטן טקסט
            • גווני אפורגווני אפור
            • ניגודיות גבוההניגודיות גבוהה
            • ניגודיות הפוכהניגודיות הפוכה
            • רקע בהיררקע בהיר
            • הדגשת קישוריםהדגשת קישורים
            • פונט קריאפונט קריא
            • איפוס איפוס