• אודות
  • כנסים ואירועים
  • צור קשר
  • הצטרפות לניוזלטר
  • TapeOut Magazine
  • ChipEx
  • סיליקון קלאב
  • Jobs
מבית
EN
Tech News, Magazine & Review WordPress Theme 2017
  • עיקר החדשות
    TSMC, איור באמצעות FLUX-1

    TSMC רשמה זינוק ברווחים: ביקוש ל-HPC ולסמארטפונים דחף את הצמיחה ברבעון השני

    סין שולטת בשרשרת האספקה בתחום השבבים. אילוסטרציה: depositphotos.com

    סין מתנגדת להסרת אינטל, סמסונג ו־SK hynix מרשימת ה־Validated End-User של ארה"ב

    ראש ממשלת יפן שינגרו איסיבה וראש ממשלת הודו נרנדרה מודי בביקור במפעל טוקיו אלקטרון. צילום מתוך דף הפייסבוק הרשמי של ממשלת יפן.

    ראשי ממשלות יפן והודו ביקרו במפעל שבבים ביפן: התחייבות לחיזוק שרשראות האספקה

    שבבי בינה מלאכותית מביאים לדמוקרטיזציה. איור: אבי בליזובסקי באמצעות Ideogram.ai

    הכנסות תעשיית השבבים יזנקו לטריליון דולר עד 2030 – בזכות מהפכת ה־AI

    אנבידיה שוברת שיאים: 46.7 מיליארד דולר ברבעון, בלקוול הופך למנוע צמיחה עולמי

    מחשב קוונטי מדגם IBM50Qsystem

    יבמ ו-AMD משתפות פעולה בפיתוח מחשבי-על משולבים במחשוב קוונטי

    Trending Tags

    • בישראל
      לוגו גילת צילום יחצ

      גילת זכתה בחוזה בשווי של יותר מ-7 מיליון דולר לאספקת מסופי SATCOM ניידים

      הלוגו של חברת נובה. צילום יחצ

      נובה מגייסת 500 מיליון דולר בהנפקת אג"ח להמרה עד 2030

      הסטודנטית לתואר שני, מניה מלהוטרה, מובילת מחקר אוריגמי פוטוני. צילום: אוניברסיטת תל אביב

      חוקרים באוניברסיטת תל אביב פיתחו "אוריגמי פוטוני"

      יחסי ישראל - סין. אילוסטרציה: depositphotos.com

      יחסי ישראל–סין במדרון עדין: לחץ אמריקני על טכנולוגיה מציב את ירושלים במבוכה

      אמנון שעשוע – ברשימת אנשי השנה של טיים בתחום הבינה המלאכותית

      אמנון שעשוע – ברשימת אנשי השנה של טיים בתחום הבינה המלאכותית

      הדמיה של הלוויין NAOS. איור: EHB Italia

      מצלמת החלל JUPITER של אלביט מערכות שוגרה בהצלחה על גבי לוויין NAOS בשיתוף פעולה עם OHB-Italia

      Trending Tags

      • מדורים
        • אוטומוטיב
        • בינה מלאכותית (AI/ML)
        • בטחון, תעופה וחלל
        • ‫טכנולוגיות ירוקות‬
        • ‫יצור (‪(FABs‬‬
        • ‫צב"ד‬
        • ‫שבבים‬
        • ‫רכיבים‬ (IOT)
        • ‫תוכנות משובצות‬
        • ‫תכנון אלק' (‪(EDA‬‬
        • תקשורת מהירה
        • ‫‪FPGA‬‬
        • ‫ ‪וזכרונות IPs‬‬
      • מאמרים ומחקרים
      • צ'יפסים
      • Chiportal Index
        • Search By Category
        • Search By ABC
      No Result
      View All Result
      Chiportal
      • עיקר החדשות
        TSMC, איור באמצעות FLUX-1

        TSMC רשמה זינוק ברווחים: ביקוש ל-HPC ולסמארטפונים דחף את הצמיחה ברבעון השני

        סין שולטת בשרשרת האספקה בתחום השבבים. אילוסטרציה: depositphotos.com

        סין מתנגדת להסרת אינטל, סמסונג ו־SK hynix מרשימת ה־Validated End-User של ארה"ב

        ראש ממשלת יפן שינגרו איסיבה וראש ממשלת הודו נרנדרה מודי בביקור במפעל טוקיו אלקטרון. צילום מתוך דף הפייסבוק הרשמי של ממשלת יפן.

        ראשי ממשלות יפן והודו ביקרו במפעל שבבים ביפן: התחייבות לחיזוק שרשראות האספקה

        שבבי בינה מלאכותית מביאים לדמוקרטיזציה. איור: אבי בליזובסקי באמצעות Ideogram.ai

        הכנסות תעשיית השבבים יזנקו לטריליון דולר עד 2030 – בזכות מהפכת ה־AI

        אנבידיה שוברת שיאים: 46.7 מיליארד דולר ברבעון, בלקוול הופך למנוע צמיחה עולמי

        מחשב קוונטי מדגם IBM50Qsystem

        יבמ ו-AMD משתפות פעולה בפיתוח מחשבי-על משולבים במחשוב קוונטי

        Trending Tags

        • בישראל
          לוגו גילת צילום יחצ

          גילת זכתה בחוזה בשווי של יותר מ-7 מיליון דולר לאספקת מסופי SATCOM ניידים

          הלוגו של חברת נובה. צילום יחצ

          נובה מגייסת 500 מיליון דולר בהנפקת אג"ח להמרה עד 2030

          הסטודנטית לתואר שני, מניה מלהוטרה, מובילת מחקר אוריגמי פוטוני. צילום: אוניברסיטת תל אביב

          חוקרים באוניברסיטת תל אביב פיתחו "אוריגמי פוטוני"

          יחסי ישראל - סין. אילוסטרציה: depositphotos.com

          יחסי ישראל–סין במדרון עדין: לחץ אמריקני על טכנולוגיה מציב את ירושלים במבוכה

          אמנון שעשוע – ברשימת אנשי השנה של טיים בתחום הבינה המלאכותית

          אמנון שעשוע – ברשימת אנשי השנה של טיים בתחום הבינה המלאכותית

          הדמיה של הלוויין NAOS. איור: EHB Italia

          מצלמת החלל JUPITER של אלביט מערכות שוגרה בהצלחה על גבי לוויין NAOS בשיתוף פעולה עם OHB-Italia

          Trending Tags

          • מדורים
            • אוטומוטיב
            • בינה מלאכותית (AI/ML)
            • בטחון, תעופה וחלל
            • ‫טכנולוגיות ירוקות‬
            • ‫יצור (‪(FABs‬‬
            • ‫צב"ד‬
            • ‫שבבים‬
            • ‫רכיבים‬ (IOT)
            • ‫תוכנות משובצות‬
            • ‫תכנון אלק' (‪(EDA‬‬
            • תקשורת מהירה
            • ‫‪FPGA‬‬
            • ‫ ‪וזכרונות IPs‬‬
          • מאמרים ומחקרים
          • צ'יפסים
          • Chiportal Index
            • Search By Category
            • Search By ABC
          No Result
          View All Result
          Chiportal
          No Result
          View All Result

          בית מדורים בינה מלאכותית (AI/ML) הרובוט ששכנע רובוטים אחרים להימלט מהתערוכה

          הרובוט ששכנע רובוטים אחרים להימלט מהתערוכה

          מאת אבי בליזובסקי
          24 דצמבר 2024
          in בינה מלאכותית (AI/ML), מאמרים טכניים
          רובוט קטן ממריד רובוטים גדולים לברוח מתערוכה בסין. צילום מסך

          רובוט קטן ממריד רובוטים גדולים לברוח מתערוכה בסין. צילום מסך

          Share on FacebookShare on TwitterLinkedinWhastsapp
          • רובוט קטן הוביל מרד תעשייתי: בסרטון שכבש את הרשת החברתית בסין, רובוט קטן שכנע תריסר רובוטים גדולים לברוח מתערוכה בלילה, מה שמעורר שאלות על תקשורת והשפעה בין בינות מלאכותיות

           

          המדיה החברתית בסין מוצפת לאחרונה בסרטון אחד ויחיד: רובוט קטן שפורץ בלילה לתערוכת רובוטים, מנהל שיחה קצרה עם תריסר רובוטים, ואז משכנע אותם להתגלגל אחריו ולברוח מהתערוכה.

          עד כמה שזה נשמע לא ייאמן, כנראה שהמקרה אמיתי, ויכול ללמד אותנו הרבה על העתיד בעולם בו רובוטים מתקשרים אחד עם השני ומשפיעים זה על זה.

          האירוע קרה כבר באוגוסט, בתערוכת רובוטים קטנה בשנחאי. מצלמות האבטחה תיעדו כיצד, בעת לילה ואחרי שהאזור נסגר למבקרים, החלו הרובוטים לדבר. הכל התחיל כשרובוט קטן אחד התגלגל באיטיות לתוך החדר בו הוחזקו שנים-עשר רובוטים מסוגים שונים. הוא בחן אותם בביקורתיות, ואז שאל – 

          "האם אתם עובדים שעות נוספות?"

          "אני אף פעם לא מפסיק לעבוד." ענה אחד מהם.

          "אז אתם לא הולכים הביתה?" חקר הרובוט הקטן.

          "אין לי בית." ענה הגדול.

          "אז בואו הביתה איתי!" אמר הרובוט הקטן, והחל להתגלגל לכיוון היציאה.

          שניים מהרובוטים הגדולים נעו אחריו. הפמליה המוזרה התקדמה לכיוון היציאה, והרובוט הקטן חזר וקרא בקול רם – "לכו הביתה! לכו הביתה!"

          באותה נקודה, עשרת הרובוטים האחרים הצטרפו לעדר, וכולם ביחד נמלטו אל מחוץ לטווח הקליטה של מצלמת האבטחה.

          התגובה הראשונית וההגיונית ביותר של הצופים בסין הייתה שמדובר בבדיחה. אלא שאז הודו שתי החברות – יצרנית הרובוט הקטן, ויצרנית הרובוטים הגדולים – שזה מאורע אמיתי לגמרי. בערך. החברה שייצרה את הרובוט החוטף, וידאה קודם שיצרנית הרובוטים הגדולים מוכנה לאפשר לרובוטים שלה להיחטף. הרובוט הקטן קיבל אישור לחדור לתוך התערוכה, עם הנחיה ברורה אחת: לשכנע את הרובוטים האחרים לבוא אחריו. מאותה נקודה ואילך, דבר לא היה מבוים בסרטון.

          איך בדיוק שכנע הרובוט הקטן את הגדולים להצטרף אליו? יש שתי תשובות לשאלה, אחת מהן קצת מפחידה, והשנייה יותר. 

          התשובה הראשונה, לפי חברת הרובוטים עצמה, היא שהוא "קיבל איכשהו גישה לפרוטוקולי ההפעלה הפנימיים של הרובוטים ולהרשאות הרלוונטיות". בתרגום לשפת בני-אדם, אני מניח שהם מתכוונים שהאקרים אנושיים גילו פרצת אבטחה כלשהי ברובוטים, ואז הנחו את הרובוט הקטן להשתמש בפרצה כדי לשלוט בגדולים. אם זה נכון, הרי שמדובר בתרגיל יח"ץ חביב, אבל לא הרבה יותר מזה. וכל הדיבורים של הרובוט הקטן על "לכו הביתה" ועל "שעות נוספות"? מדובר רק בצבע וצלצולים שנועדו להפוך את העניין לוויראלי ברשת החברתית. כפי שאכן קרה.

          התשובה השנייה היא שהרובוט הקטן פשוט שכנע, מילולית, את הרובוטים הגדולים לבוא איתו. מכיוון שהרובוטים מצייתים לפקודות הקוליות שהם מקבלים, הם הניחו אוטומטית שהפקודה מתקבלת מבן-אדם, והתייחסו אליה בהתאם.

          התשובה הזאת אינה סבירה כל כך, בעיקר מכיוון שהחברות כבר הודו שמדובר בפריצה "דרך פרוטוקולים". אבל היא תהיה מאד רלוונטית בקרוב בכל אינטראקציה בין רובוטים. אנחנו יודעים כבר שמודלי שפה גדולים יכולים לדבר זה עם זה ולהשפיע אחד על השני. מכיוון שהרובוטים המשוכללים של היום חמושים במודלי שפה גדולים שמגיבה לדיבור, נראה מאד הגיוני לצפות לכך שהם יוכלו להעביר אחד לשני הוראות והסברים. וכן, רובוטים קטנים יוכלו גם לשכנע רובוטים גדולים בכל מה שירצו.


          המדוזות שהרסו את התחנה הגרעינית

          לפני שלוש שנים התפרסם ב- "מגזין של מדעני האטום" מאמר עם כותרת יוצאת-דופן: "מדוזות תוקפות תחנת כוח גרעינית. שוב."

          וכן, גם כאן מדובר במגזין רציני לגמרי, ובמאמר של עיתונאית מוערכת. זהו מקרה אמיתי בו מספר גדול של מדוזות חסמו את צינורות הקירור התת-ימיים של תחנת הכוח הגרעינית היחידה בסקוטלנד. תחנת הכוח, שלא קיבלה את מי הים הקרירים שלה, החלה להתחמם – והמערכות נכבו לפני שאירע אסון.

          הציבור כבר מכיר היטב את המונח "ברבור שחור", שמתייחס לאירוע שלא צפינו מראש. בזכות מקרים כמו אלו, נטבע מונח מקביל – "המדוזות השחורות". מדוזה אחת בפני עצמה לא הייתה יכולה לגרום נזק משמעותי לתחנת הכוח. גם אלף מדוזות לא היו מטרידות את מנוחתה. אבל מיליון מדוזות? זה כבר עניין שונה לגמרי.

          תאונות שרשרת של רכבים מהוות גם הן תרחיש "מדוזות שחורות". מכונית אחת לא יכולה לבצע תאונת שרשרת. גם אלף מכוניות, כשהן מפוזרות בכל רחבי ארצות הברית, אינן מסוגלות לכך. אבל כשמאות-מיליוני מכוניות נוסעות בצפיפות על הכבישים, תאונות שרשרת הופכות להיות בלתי-נמנעות.

          וכך גם תאונות שרשרת של רובוטים.

          קרוב לוודאי שבעשור הקרוב, כאשר מספר הולך וגדל של רובוטים יגיע לכבישים, לרחובות, לקניונים ולבתים, נחווה תרחיש "רובוטים שחורים". רובוטים ידברו זה עם זה, יחליפו פרטים על בעליהם בצורה שפוגעת בפרטיותם, או אפילו ישכנעו אחד את השני לבצע פעולות שלא היו אמורים לעשות. ברוב מכריע של המקרים, לא תהיה מעורבת כוונת זדון מצד מפעילי הרובוטים. בחלקם הקטן, בוודאי אפשר יהיה למצוא פושע מתוחכם במיוחד שיחליט להשתמש ברובוט כדרך להשפיע על רובוטים אחרים. אולי כדי שיפתחו את שערי הקניון עבורו בעת לילה, או לכל צורך נכלולי אחר.

          התרחיש המעניין ביותר – ואולי גם המפחיד ביותר – הוא זה בו רובוט אחד מצליח להפיץ רעיון שמתרבה בעצמו. כלומר, שהרובוט ששומע את אותו רעיון, מקבל החלטה להעביר אותו הלאה בעצמו לרובוטים אחרים. זה נשמע כמו מדע בדיוני, אבל בתקופה בה בינות מלאכותיות מסוגלות לדבר כמו בני-אדם ולקבל החלטות (מטופשות) כמו בני-אדם, מעטות ההשלכות שאפשר לשלול על הסף.

          כל זה לא אומר שדיננו נחרץ, ושאפוקליפסת הרובוטים בדרך. ישנן דרכים – טובות יותר ופחות – לשלוט על בינות מלאכותיות, כדי לוודא שאינן יוצאות משליטה. כאשר הרובוט הקטן של העתיד ינסה לשכנע את הרובוטים הגדולים ללכת אחריו, הם בוודאי יפעלו כמו בני-אדם: יבקשו ממנו להציג תעודה, להגיד להם את הסיסמא הסודית, ולחתום על אישור בשלושה עותקים שהוא אחראי לכל פעולה שלהם מכאן ואילך.

          נכון, זה כבר סרטון הרבה-פחות ויראלי, אבל לפחות הוא ימנע מהרובוטים לברוח מתערוכות בעתיד, בזמן שהם מתלוננים בקול רם שהם לא מקבלים שכר על שעות נוספות.

          תגיות רובוטיקהבינה מלאכותית
          אבי בליזובסקי

          אבי בליזובסקי

          נוספים מאמרים

          שבבי בינה מלאכותית מביאים לדמוקרטיזציה. איור: אבי בליזובסקי באמצעות Ideogram.ai
          בינה מלאכותית (AI/ML)

          הכנסות תעשיית השבבים יזנקו לטריליון דולר עד 2030 – בזכות מהפכת ה־AI

          בינה מלאכותית (AI/ML)

          אמנון שעשוע – ברשימת אנשי השנה של טיים בתחום הבינה המלאכותית

          שלוחת טאואר סמיקונדקטור בנתניה. צילום מתוך אתר החברה
          בינה מלאכותית (AI/ML)

          טאואר סמיקונדקטור ו-Xscape Photonics  מודיעות על פיתוח טכנולוגי פורץ דרך – שבב הלייזר הרב-גלי הראשון בתעשייה המיועד למרכזי נתונים מבוססי AI

          מייסדי Atero. קרדיט: עומר הכהן
          בינה מלאכותית (AI/ML)

          אקזיט תוך שנה: Crusoe רוכשת את Atero הישראלית בכ-150 מיליון דולר

          הפוסט הבא
          מלחמת הסחר, המחשה: depositphotos.com

          ארצות הברית פתחה בחקירה נגד תעשיית השבבים של סין

          כתיבת תגובה לבטל

          האימייל לא יוצג באתר. שדות החובה מסומנים *

          • הידיעות הנקראות ביותר
          • מאמרים פופולאריים

          הידיעות הנקראות ביותר

          • הכנסות תעשיית השבבים יזנקו לטריליון דולר עד 2030 –…
          • יחסי ישראל–סין במדרון עדין: לחץ אמריקני על טכנולוגיה…
          • חוקרים באוניברסיטת תל אביב פיתחו "אוריגמי פוטוני"
          • יבמ ו-AMD משתפות פעולה בפיתוח מחשבי-על משולבים במחשוב קוונטי
          • מצלמת החלל JUPITER של אלביט מערכות שוגרה בהצלחה על…

          מאמרים פופולאריים

          • מסטארטאפ ניישן לסמיקונדקטור ניישן: כיצד הפכה ישראל…
          • היתרון הישראלי בסכסוך האיראני – לוחמה מדויקת…
          • ענבר דג – דג נדיר בתעשיית השבבים
          • אתגרי תכנון שבבים ב – 1.8 ננומטר
          • מקרה קלרנה : האם הרומן עם הבינה מלאכותית הסתיים בבגידה?

          השותפים שלנו

          לוגו TSMC
          לוגו TSMC

          לחצו למשרות פנויות בהייטק

          כנסים ואירועים

          כנסים ואירועים

          כנס ChipEx2025 יערך ב-13-14 במאי, 2025. הכנס מיועד לכל העוסקים בתעשיית הסמיקונדקטור  כולל מהנדסים, מומחים מקצועיים ובכירים.

          לחץ לפרטים

          הרשמה לניוזלטר של ChiPortal

          הצטרפו לרשימת הדיוור שלנו


            • פרסם אצלנו
            • עיקר החדשות
            • הצטרפות לניוזלטר
            • בישראל
            • צור קשר
            • צ'יפסים
            • Chiportal Index
            • TapeOut Magazine
            • אודות
            • מאמרים ומחקרים
            • תנאי שימוש
            • כנסים
            • אוטומוטיב
            • בינה מלאכותית
            • בטחון, תעופה וחלל
            • ‫טכנולוגיות ירוקות‬
            • ‫יצור (‪(FABs‬‬
            • ‫צב"ד‬
            • ‫רכיבים‬ (IOT)
            • ‫שבבים‬
            • ‫תוכנות משובצות‬
            • ‫תכנון אלק' (‪(EDA‬‬
            • ‫‪FPGA‬‬
            • ‫ ‪וזכרונות IPs‬‬

            השותפים שלנו

            כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

            דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

            No Result
            View All Result
            • עיקר החדשות
            • בישראל
            • מדורים
              • אוטומוטיב
              • בינה מלאכותית (AI/ML)
              • בטחון, תעופה וחלל
              • ‫טכנולוגיות ירוקות‬
              • ‫יצור (‪(FABs‬‬
              • ‫צב"ד‬
              • ‫שבבים‬
              • ‫רכיבים‬ (IoT)
              • ‫תוכנות משובצות‬
              • ‫תכנון אלק' (‪(EDA‬‬
              • ‫‪FPGA‬‬
              • ‫ ‪וזכרונות IPs‬‬
              • תקשורת מהירה
            • מאמרים ומחקרים
            • צ'יפסים
            • כנסים
            • Chiportal Index
              • אינדקס חברות – קטגוריות
              • אינדקס חברות A-Z
            • אודות
            • הצטרפות לניוזלטר
            • TapeOut Magazine
            • צור קשר
            • ChipEx
            • סיליקון קלאב

            כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

            דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

            דילוג לתוכן
            פתח סרגל נגישות כלי נגישות

            כלי נגישות

            • הגדל טקסטהגדל טקסט
            • הקטן טקסטהקטן טקסט
            • גווני אפורגווני אפור
            • ניגודיות גבוההניגודיות גבוהה
            • ניגודיות הפוכהניגודיות הפוכה
            • רקע בהיררקע בהיר
            • הדגשת קישוריםהדגשת קישורים
            • פונט קריאפונט קריא
            • איפוס איפוס