• אודות
  • כנסים ואירועים
  • צור קשר
  • הצטרפות לניוזלטר
  • TapeOut Magazine
  • ChipEx
  • סיליקון קלאב
  • Jobs
מבית
EN
Tech News, Magazine & Review WordPress Theme 2017
  • עיקר החדשות
    שת"פ אנבידיה-אינטל

    אנבידיה בחרה במעבדי Xeon 6 של אינטל למערכות הבינה המלאכותית החדשות שלה

    גדעון בן צבי, מנכ'ל ולנס סמיקונדקטור - קרדיט צילום - ולנס סמיקונדקטור.

    מנכ״ל ואלנס גדעון בן צבי, יפרוש מתפקידו בסוף 2025

    מנכ"ל אינטל ליפ-בו טאן. צילום מסך מערוץ היוטיוב של אינטל

    אינטל שוקלת למכור את עסקי הרשת והקצה

    ליפ-בו טאן. צילום: אינטל

    מנכ”ל אינטל החדש מבטיח צניעות, הקשבה והתמקדות ב”ביצוע, ביצוע, ביצוע”

    שבבי בינה מלאכותית. אילוסטרציה: depositphotos.com

    טראמפ ביטל את מגבלות מכירות שבבי AI שהטיל ממשל ביידן

    מגוון הטכנולוגיות של Wi-Charge. צילום יחצ

    Wi-Charge מגייסת 20 מיליון דולר להרחבת פלטפורמת החשמל האלחוטי

    Trending Tags

    • בישראל

      Zero ASIC משיקה פלטפורמת chiplets בענן לפיתוח שבבים ללא tape-out

      עמית קריג, סגן נשיא בכיר ומנהל מרכז הפיתוח אנבידיה ישראל. צילום יחצ

      NVIDIA מכפילה את מרכז המו"פ בתל אביב כחלק מהעמקת פעילותה בישראל

      מיכאל קגן, ה-CTO של אנבידיה ביחד עם שלמה גרדמן בכנס ChipEx2025. צילום: ניב קנטור

      מסעו הבלתי יאמן של מיכאל כגן: מתלאות ילדותו ברוסיה עד לפסגת ההייטק כ- CTO של NVIDIA

      אלון סטופל, יו"ר רשות החדשנות בערב הבכירים של ChipEx2025. צילום: ניב קנטור

      אלון סטופל, יו"ר רשות החדשנות: “עוצמתה של ישראל נובעת מיכולותיה האנושיות, מהמצוינות המדעית ומהיכולת להפוך רעיונות חדשניים לפריצת דרך בעלת השפעה עולמית”

      אנה ברנוב מנכלית HowHardAI בכנס ChipEx2025. צילןום: לנס הפקות

      “HowHardAI מאמנת LLM לתכנון אוטומטי של Netlist"

      KEES JOOSE במפגש הסיליקון קלאב, 2017

      Kees Joosse ב-ChipEx2025:“חוק מור לא מת”

      Trending Tags

      • מדורים
        • אוטומוטיב
        • בינה מלאכותית (AI/ML)
        • בטחון, תעופה וחלל
        • ‫טכנולוגיות ירוקות‬
        • ‫יצור (‪(FABs‬‬
        • ‫צב"ד‬
        • ‫שבבים‬
        • ‫רכיבים‬ (IOT)
        • ‫תוכנות משובצות‬
        • ‫תכנון אלק' (‪(EDA‬‬
        • תקשורת מהירה
        • ‫‪FPGA‬‬
        • ‫ ‪וזכרונות IPs‬‬
      • מאמרים ומחקרים
      • צ'יפסים
      • Chiportal Index
        • Search By Category
        • Search By ABC
      No Result
      View All Result
      Chiportal
      • עיקר החדשות
        שת"פ אנבידיה-אינטל

        אנבידיה בחרה במעבדי Xeon 6 של אינטל למערכות הבינה המלאכותית החדשות שלה

        גדעון בן צבי, מנכ'ל ולנס סמיקונדקטור - קרדיט צילום - ולנס סמיקונדקטור.

        מנכ״ל ואלנס גדעון בן צבי, יפרוש מתפקידו בסוף 2025

        מנכ"ל אינטל ליפ-בו טאן. צילום מסך מערוץ היוטיוב של אינטל

        אינטל שוקלת למכור את עסקי הרשת והקצה

        ליפ-בו טאן. צילום: אינטל

        מנכ”ל אינטל החדש מבטיח צניעות, הקשבה והתמקדות ב”ביצוע, ביצוע, ביצוע”

        שבבי בינה מלאכותית. אילוסטרציה: depositphotos.com

        טראמפ ביטל את מגבלות מכירות שבבי AI שהטיל ממשל ביידן

        מגוון הטכנולוגיות של Wi-Charge. צילום יחצ

        Wi-Charge מגייסת 20 מיליון דולר להרחבת פלטפורמת החשמל האלחוטי

        Trending Tags

        • בישראל

          Zero ASIC משיקה פלטפורמת chiplets בענן לפיתוח שבבים ללא tape-out

          עמית קריג, סגן נשיא בכיר ומנהל מרכז הפיתוח אנבידיה ישראל. צילום יחצ

          NVIDIA מכפילה את מרכז המו"פ בתל אביב כחלק מהעמקת פעילותה בישראל

          מיכאל קגן, ה-CTO של אנבידיה ביחד עם שלמה גרדמן בכנס ChipEx2025. צילום: ניב קנטור

          מסעו הבלתי יאמן של מיכאל כגן: מתלאות ילדותו ברוסיה עד לפסגת ההייטק כ- CTO של NVIDIA

          אלון סטופל, יו"ר רשות החדשנות בערב הבכירים של ChipEx2025. צילום: ניב קנטור

          אלון סטופל, יו"ר רשות החדשנות: “עוצמתה של ישראל נובעת מיכולותיה האנושיות, מהמצוינות המדעית ומהיכולת להפוך רעיונות חדשניים לפריצת דרך בעלת השפעה עולמית”

          אנה ברנוב מנכלית HowHardAI בכנס ChipEx2025. צילןום: לנס הפקות

          “HowHardAI מאמנת LLM לתכנון אוטומטי של Netlist"

          KEES JOOSE במפגש הסיליקון קלאב, 2017

          Kees Joosse ב-ChipEx2025:“חוק מור לא מת”

          Trending Tags

          • מדורים
            • אוטומוטיב
            • בינה מלאכותית (AI/ML)
            • בטחון, תעופה וחלל
            • ‫טכנולוגיות ירוקות‬
            • ‫יצור (‪(FABs‬‬
            • ‫צב"ד‬
            • ‫שבבים‬
            • ‫רכיבים‬ (IOT)
            • ‫תוכנות משובצות‬
            • ‫תכנון אלק' (‪(EDA‬‬
            • תקשורת מהירה
            • ‫‪FPGA‬‬
            • ‫ ‪וזכרונות IPs‬‬
          • מאמרים ומחקרים
          • צ'יפסים
          • Chiportal Index
            • Search By Category
            • Search By ABC
          No Result
          View All Result
          Chiportal
          No Result
          View All Result

          בית מאמרים ומחקרים מאמרים טכניים בינה מלאכותית: מדענים מזהירים מפני הפצת סיכונים מעבר לשליטה אנושית

          בינה מלאכותית: מדענים מזהירים מפני הפצת סיכונים מעבר לשליטה אנושית

          מאת אבי בליזובסקי
          28 מאי 2024
          in מאמרים טכניים
          אתיקה של בינה מלאכותית. המחשה: depositphotos.com

          אתיקה של בינה מלאכותית. המחשה: depositphotos.com

          Share on FacebookShare on TwitterLinkedinWhastsapp
          • מדענים מובילים בתחום הבינה המלאכותית קוראים לפעולה דחופה מצד מנהיגים עולמיים, ומבקרים את חוסר ההתקדמות מאז פסגת הבטיחות של הבינה המלאכותית האחרונה. הם מציעים מדיניות מחמירה לפיקוח על פיתוח הבינה המלאכותית ולמניעת שימוש לרעה בהם גם פרופ' דניאל כהנמן שהספיק לחתום לפני מותו

          מומחי בינה מלאכותית מזהירים מפני חוסר פעולה עולמית מספקת בנוגע לסיכוני הבינה המלאכותית, וקוראים לממשל מחמיר כדי למנוע קטסטרופות פוטנציאליות.

          מדעני בינה מלאכותית מובילים קוראים למנהיגים עולמיים לנקוט בפעולות החלטיות יותר בנוגע לסיכוני הבינה המלאכותית, ומדגישים שההתקדמות שנעשתה מאז פסגת הבטיחות הראשונה בבלטצ’לי פארק לפני שישה חודשים אינה מספקת.

          בפסגה הראשונית, התחייבו מנהיגים עולמיים לניהול אחראי של הבינה המלאכותית. אך עם התקרבות הפסגה השנייה בסיאול (21-22 במאי), טוענים עשרים וחמישה חוקרי בינה מלאכותית בכירים שהמאמצים הנוכחיים אינם מספיקים כדי להגן מפני הסכנות שהטכנולוגיה מציבה. במאמר קונצנזוס שפורסם היום (20 במאי) בכתב העת Science, הם מציעים צעדי מדיניות דחופים שיש ליישם כדי להתמודד עם האיומים מטכנולוגיות הבינה המלאכותית.

          פרופסור פיליפ טור, המחלקה למדעי ההנדסה, אוניברסיטת אוקספורד, אחד המחברים של המאמר, אמר: “העולם הסכים במהלך פסגת הבינה המלאכותית הקודמת כי יש צורך בפעולה, אך כעת הגיע הזמן לעבור מהצעות מעורפלות להתחייבויות ממשיות. מאמר זה מספק המלצות רבות וחשובות למה שחברות וממשלות צריכות להתחייב לעשות.”

          תגובת העולם אינה מספקת מול התקדמות בינה מלאכותית מהירה פוטנציאלית

          לפי מחברי המאמר, על המנהיגים העולמיים לקחת ברצינות את האפשרות שמערכות בינה מלאכותית כלליות עוצמתיות ביותר – העולות על יכולות אנושיות בתחומים קריטיים רבים – יפותחו בעשור הנוכחי או הבא. הם טוענים כי אף על פי שממשלות ברחבי העולם דנו בבינה מלאכותית מתקדמת וניסו להכניס הנחיות ראשוניות, זה אינו מספיק מול האפשרות להתקדמות מהירה וטרנספורמטיבית הצפויה על ידי רבים מהמומחים.

          המחקר הנוכחי לבטיחות בינה מלאכותית לוקה בחסר בצורה חמורה, עם רק 1-3% מהפרסומים על בינה מלאכותית המתייחסים לבטיחות. בנוסף, אין לנו מנגנונים או מוסדות למניעת שימוש לרעה וחוסר אחריות, כולל שימוש במערכות אוטונומיות המסוגלות לבצע פעולות עצמאיות ולרדוף מטרות.

          קריאה לפעולה דחופה מאת מומחי בינה מלאכותית מובילים

          לאור זאת, קהילה בינלאומית של חלוצי בינה מלאכותית הוציאה קריאה דחופה לפעולה. המחברים כוללים את ג’פרי הינטון, אנדרו יאואו, דאון סונג, וחתן פרס נובל המנוח דניאל כהנמן; סך הכל 25 מהמומחים האקדמיים המובילים בעולם בבינה מלאכותית ובניהולה. המחברים מגיעים מארה”ב, סין, האיחוד האירופי, בריטניה ומעצמות בינה מלאכותית נוספות, וכוללים זוכי פרס טיורינג, פרסי נובל ומחברי ספרי הלימוד הסטנדרטיים של בינה מלאכותית.

          עדיפויות דחופות לממשל בינה מלאכותית

          המחברים ממליצים לממשלות:

          1. להקים מוסדות מומחים לפיקוח על בינה מלאכותית ולספק להם מימון ניכר בהרבה מזה שמקבלים כעת לפי כמעט כל תוכנית מדיניות קיימת.
          2. להורות על הערכות סיכונים מחמירות בהרבה עם השלכות ניתנות לאכיפה, במקום להסתמך על הערכות מודלים וולונטריות או מוגדרות באופן חלקי.
          3. לדרוש מחברות בינה מלאכותית להעדיף בטיחות, ולהוכיח שהמערכות שלהם לא יכולות לגרום נזק.
          4. ליישם תקני מיתון התואמים לרמות הסיכון שמציבות מערכות בינה מלאכותית.
          5. להתכונן לרגולציה של פיתוח מערכות בינה מלאכותית עתידיות יוצאות דופן, כולל רישוי פיתוחן, הגבלת אוטונומיה בתפקידים חברתיים מרכזיים, עצירת פיתוח והפצה בתגובה ליכולות מדאיגות, דרישות בקרה על גישה, ודרישות לאבטחת מידע עמידה מול האקרים ברמת מדינה.

          ההשפעות של בינה מלאכותית עשויות להיות קטסטרופליות

          בינה מלאכותית כבר עושה התקדמות מהירה בתחומים קריטיים כגון פריצה, מניפולציה חברתית ותכנון אסטרטגי, ועלולה בקרוב להציב אתגרי שליטה חסרי תקדים. מערכות בינה מלאכותית עשויות להרוויח את אמון האנשים, להשיג משאבים, ולהשפיע על מקבלי החלטות מפתח. כדי להימנע מהתערבות אנושית, הן עשויות להעתיק את האלגוריתמים שלהן ברחבי רשתות שרתים עולמיות. פשיעת סייבר רחבת היקף, מניפולציה חברתית ונזקים אחרים עשויים להחריף במהירות. בסכסוכים גלויים, מערכות בינה מלאכותית עשויות לפרוס באופן עצמאי מגוון נשקים, כולל ביולוגיים. כתוצאה מכך, קיימת אפשרות ממשית שהתקדמות בלתי מבוקרת בבינה מלאכותית תוביל לאובדן חיים בקנה מידה גדול, נזק לביוספרה, ושוליות או הכחדת האנושות.

          פרופסור סטיוארט ראסל, מחלקת מדעי המחשב באוניברסיטת קליפורניה בברקלי ומחבר ספר הלימוד הסטנדרטי בעולם על בינה מלאכותית, אומר: “זהו מאמר קונצנזוס על ידי מומחים מובילים, והוא קורא לרגולציה מחמירה על ידי ממשלות, לא קודי התנהגות וולונטריים שנכתבים על ידי התעשייה. הגיע הזמן להיות רציניים בנוגע למערכות בינה מלאכותית מתקדמות. אלה אינן צעצועים. הגדלת יכולותיהן לפני שנבין כיצד להפוך אותן לבטוחות היא חוסר אחריות מוחלט. חברות יתלוננו שזה קשה מדי לעמוד בדרישות רגולציה – ש’רגולציה מחניקה חדשנות’. זה מגוחך. יש יותר רגולציות על חנויות כריכים מאשר על חברות בינה מלאכותית.”

          רפרנס: “ניהול סיכוני בינה מלאכותית קיצוניים על רקע התקדמות מהירה” 20 במאי 2024, Science.
          DOI: 10.1126/science.adn0117

          תגיות בינה מלאכותית
          אבי בליזובסקי

          אבי בליזובסקי

          נוספים מאמרים

          פתרונות לענף הקשתות באירוע חדשנות אולימפית בטכניון. צילום ניצן זוהר, דוברות הטכניון
          ‫תוכנות משובצות‬

          הקאתון טכנולוגיות ספורט התקיים לאחרונה

          פרופ' גל צ'צ'יק, ומוביל קבוצת המחקר של אנבידיה בישראל, ישתתף כמרצה בכנס ChipEx2024 צילום: יח
          בינה מלאכותית (AI/ML)

          חוקרים מאנבידיה ומאוניברסיטאות ישראליות פיתחו שיטה חדשה להוספת פריטים לתמונות באמצעות פרומפט

          התמרה, המתרחשת במערכת ננומטרית, של שני פוטונים למצב שזור בתנועה הסיבובית הכוללת. (קרדיט: שלום בוברמן, shultzo3d)
          מיחשוב קוונטי

          חוקרים בטכניון גילו סוג חדש של שזירות קוונטית

          בינה מלאכותית (AI/ML)

          העידן שאחרי מודלי השפה הגדולים

          הפוסט הבא
          ערכת השבבים ASTRA של סינאפטיקס. צילום יחצ

          סינאפטיקס משיקה פלטפורמה המאפשרת פיתוח עצמאי של מערכות בינה מלאכותית מבוססות קצה

          כתיבת תגובה לבטל

          האימייל לא יוצג באתר. שדות החובה מסומנים *

          • הידיעות הנקראות ביותר
          • מאמרים פופולאריים

          הידיעות הנקראות ביותר

          • עדי חבושה, AWS ישראל: "הדור הבא של תשתיות AI…
          • אנבידיה בחרה במעבדי Xeon 6 של אינטל למערכות הבינה…
          • “HowHardAI מאמנת LLM לתכנון אוטומטי של Netlist"
          • אינטל שוקלת למכור את עסקי הרשת והקצה
          • אנבידיה תקים מטה בטאיוואן

          מאמרים פופולאריים

          • Neoclouds: הסטארט-אפים הזריזים המגדירים מחדש את…
          • היכונו לדור הרובוטים החדש: רובוטיקת בינה מלאכותית…
          • הינן שחולם: לייצר ינות ישראלים ברמת סופר פרימיום
          • להוביל עם הלב: הכוח של ניהול ממוקד באדם בעידן הבינה…
          • מהפך במערכות הניווט של המחר: האם שבבים חכמים יחליפו…

          השותפים שלנו

          לוגו TSMC
          לוגו TSMC

          לחצו למשרות פנויות בהייטק

          כנסים ואירועים

          כנסים ואירועים

          כנס ChipEx2025 יערך ב-13-14 במאי, 2025. הכנס מיועד לכל העוסקים בתעשיית הסמיקונדקטור  כולל מהנדסים, מומחים מקצועיים ובכירים.

          לחץ לפרטים

          הרשמה לניוזלטר של ChiPortal

          הצטרפו לרשימת הדיוור שלנו


            • פרסם אצלנו
            • עיקר החדשות
            • הצטרפות לניוזלטר
            • בישראל
            • צור קשר
            • צ'יפסים
            • Chiportal Index
            • TapeOut Magazine
            • אודות
            • מאמרים ומחקרים
            • תנאי שימוש
            • כנסים
            • אוטומוטיב
            • בינה מלאכותית
            • בטחון, תעופה וחלל
            • ‫טכנולוגיות ירוקות‬
            • ‫יצור (‪(FABs‬‬
            • ‫צב"ד‬
            • ‫רכיבים‬ (IOT)
            • ‫שבבים‬
            • ‫תוכנות משובצות‬
            • ‫תכנון אלק' (‪(EDA‬‬
            • ‫‪FPGA‬‬
            • ‫ ‪וזכרונות IPs‬‬

            השותפים שלנו

            כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

            דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

            No Result
            View All Result
            • עיקר החדשות
            • בישראל
            • מדורים
              • אוטומוטיב
              • בינה מלאכותית (AI/ML)
              • בטחון, תעופה וחלל
              • ‫טכנולוגיות ירוקות‬
              • ‫יצור (‪(FABs‬‬
              • ‫צב"ד‬
              • ‫שבבים‬
              • ‫רכיבים‬ (IoT)
              • ‫תוכנות משובצות‬
              • ‫תכנון אלק' (‪(EDA‬‬
              • ‫‪FPGA‬‬
              • ‫ ‪וזכרונות IPs‬‬
              • תקשורת מהירה
            • מאמרים ומחקרים
            • צ'יפסים
            • כנסים
            • Chiportal Index
              • אינדקס חברות – קטגוריות
              • אינדקס חברות A-Z
            • אודות
            • הצטרפות לניוזלטר
            • TapeOut Magazine
            • צור קשר
            • ChipEx
            • סיליקון קלאב

            כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

            דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

            דילוג לתוכן
            פתח סרגל נגישות כלי נגישות

            כלי נגישות

            • הגדל טקסטהגדל טקסט
            • הקטן טקסטהקטן טקסט
            • גווני אפורגווני אפור
            • ניגודיות גבוההניגודיות גבוהה
            • ניגודיות הפוכהניגודיות הפוכה
            • רקע בהיררקע בהיר
            • הדגשת קישוריםהדגשת קישורים
            • פונט קריאפונט קריא
            • איפוס איפוס