• אודות
  • כנסים ואירועים
  • צור קשר
  • הצטרפות לניוזלטר
  • TapeOut Magazine
  • ChipEx
  • סיליקון קלאב
  • Jobs
מבית
EN
Tech News, Magazine & Review WordPress Theme 2017
  • עיקר החדשות
    מימין - מנכ"ל אנבידיה ג'נסן הואנג ומנכ"ל אינטל ליפ-בו טאן. צילום מתוך דף ה-X של הואנג

    מנכ"לי אינטל ואנבידיה במסיבת עיתונאים משותפת: משרטטות מחדש את מפת המחשוב

    ביתן של SMIC בתערוכה. צילום יחצ

    SMIC בוחנת את מכונת ה־DUV המקומית הראשונה – צעד מרכזי לעצמאות ציוד ייצור שבבים בסין

    לוגו FuriosaAI. צילום יחצ

    FuriosaAI וההסכם עם OpenAI: בין עצמאות עסקית להובלת המירוץ הגלובלי בשבבי AI

    מייסד ומנכ"ל אנבידיה ג'נסן הואנג עם יצירות שנוצרו בידי בינה מלאכותית יוצרת. צילום: אנבידיה

    סין אוסרת על חברות טכנולוגיה לרכוש שבבי אנבידיה – ובמקביל חוקרת את רכישת מלאנוקס

    מנכ"ל אנבידיה ג'נסן הואנג על שער המגזין טיים. צילום יחצ

    אנבידיה ואינטל ישתפו פעולה בפיתוח תשתיות בינה מלאכותית ומחשוב אישי * אנבידיה תשקיע 5 מיליארד ד' באינטל

    תעשיית השבבים בבריטניה. המחשה: depositphotos.com

    אנבידיה,Nscale, מיקרוסופט וחברות נוספות יקימו תשתיות ואקו-סיסטם AI בבריטניה

    Trending Tags

    • בישראל
      עופר גרינברגר. צילום מיכה לובטון

      עופר גרינברגר מונה למנכ"ל ונשיא אפלייד מטיריאלס ישראל

      כריס ואן דאן אלזן, בכיר בתעשיית הרכב העולמית, מונה כחבר דירקטוריון. צילום ארבה

      ארבה רובוטיקס: כריס ואן דאן אלזן, בכיר בתעשיית הרכב העולמית, מונה כחבר דירקטוריון

      ירון גליצקי. צילום רון קובי

      ירון גליצקי מונה לתפקיד סגן נשיא בכיר ומנהל חטיבת ה-AI בחברת סיוה

      חן גולן' מנכ"ל נקסטויז'ן . קרדיט יחצ

      נקסט ויז'ן מדווחת על ביקושי יתר של כ-4.2 מיליארד שקל – פי 3 מסכום הגיוס בהנפקה הגלובלית 

      מערכת Frontier של אלביט מערכות. צילום יחצ

      אלביט מערכות משיקה את Frontier – מערכת מבוססת AI להגנה על גבולות

      טקס הכרת ה-IEEE בפיתוח שבב 8087 כהליך הסטורי. צילום ענת סלומון, דוברות עיריית חיפה

      גאווה חיפאית: ההמצאה ששינתה את עולם המחשוב זוכה להכרה עולמית

      Trending Tags

      • מדורים
        • אוטומוטיב
        • בינה מלאכותית (AI/ML)
        • בטחון, תעופה וחלל
        • ‫טכנולוגיות ירוקות‬
        • ‫יצור (‪(FABs‬‬
        • ‫צב"ד‬
        • ‫שבבים‬
        • ‫רכיבים‬ (IOT)
        • ‫תוכנות משובצות‬
        • ‫תכנון אלק' (‪(EDA‬‬
        • תקשורת מהירה
        • ‫‪FPGA‬‬
        • ‫ ‪וזכרונות IPs‬‬
      • מאמרים ומחקרים
      • צ'יפסים
      • Chiportal Index
        • Search By Category
        • Search By ABC
      No Result
      View All Result
      Chiportal
      • עיקר החדשות
        מימין - מנכ"ל אנבידיה ג'נסן הואנג ומנכ"ל אינטל ליפ-בו טאן. צילום מתוך דף ה-X של הואנג

        מנכ"לי אינטל ואנבידיה במסיבת עיתונאים משותפת: משרטטות מחדש את מפת המחשוב

        ביתן של SMIC בתערוכה. צילום יחצ

        SMIC בוחנת את מכונת ה־DUV המקומית הראשונה – צעד מרכזי לעצמאות ציוד ייצור שבבים בסין

        לוגו FuriosaAI. צילום יחצ

        FuriosaAI וההסכם עם OpenAI: בין עצמאות עסקית להובלת המירוץ הגלובלי בשבבי AI

        מייסד ומנכ"ל אנבידיה ג'נסן הואנג עם יצירות שנוצרו בידי בינה מלאכותית יוצרת. צילום: אנבידיה

        סין אוסרת על חברות טכנולוגיה לרכוש שבבי אנבידיה – ובמקביל חוקרת את רכישת מלאנוקס

        מנכ"ל אנבידיה ג'נסן הואנג על שער המגזין טיים. צילום יחצ

        אנבידיה ואינטל ישתפו פעולה בפיתוח תשתיות בינה מלאכותית ומחשוב אישי * אנבידיה תשקיע 5 מיליארד ד' באינטל

        תעשיית השבבים בבריטניה. המחשה: depositphotos.com

        אנבידיה,Nscale, מיקרוסופט וחברות נוספות יקימו תשתיות ואקו-סיסטם AI בבריטניה

        Trending Tags

        • בישראל
          עופר גרינברגר. צילום מיכה לובטון

          עופר גרינברגר מונה למנכ"ל ונשיא אפלייד מטיריאלס ישראל

          כריס ואן דאן אלזן, בכיר בתעשיית הרכב העולמית, מונה כחבר דירקטוריון. צילום ארבה

          ארבה רובוטיקס: כריס ואן דאן אלזן, בכיר בתעשיית הרכב העולמית, מונה כחבר דירקטוריון

          ירון גליצקי. צילום רון קובי

          ירון גליצקי מונה לתפקיד סגן נשיא בכיר ומנהל חטיבת ה-AI בחברת סיוה

          חן גולן' מנכ"ל נקסטויז'ן . קרדיט יחצ

          נקסט ויז'ן מדווחת על ביקושי יתר של כ-4.2 מיליארד שקל – פי 3 מסכום הגיוס בהנפקה הגלובלית 

          מערכת Frontier של אלביט מערכות. צילום יחצ

          אלביט מערכות משיקה את Frontier – מערכת מבוססת AI להגנה על גבולות

          טקס הכרת ה-IEEE בפיתוח שבב 8087 כהליך הסטורי. צילום ענת סלומון, דוברות עיריית חיפה

          גאווה חיפאית: ההמצאה ששינתה את עולם המחשוב זוכה להכרה עולמית

          Trending Tags

          • מדורים
            • אוטומוטיב
            • בינה מלאכותית (AI/ML)
            • בטחון, תעופה וחלל
            • ‫טכנולוגיות ירוקות‬
            • ‫יצור (‪(FABs‬‬
            • ‫צב"ד‬
            • ‫שבבים‬
            • ‫רכיבים‬ (IOT)
            • ‫תוכנות משובצות‬
            • ‫תכנון אלק' (‪(EDA‬‬
            • תקשורת מהירה
            • ‫‪FPGA‬‬
            • ‫ ‪וזכרונות IPs‬‬
          • מאמרים ומחקרים
          • צ'יפסים
          • Chiportal Index
            • Search By Category
            • Search By ABC
          No Result
          View All Result
          Chiportal
          No Result
          View All Result

          בית מדורים בינה מלאכותית (AI/ML) הרובוט ששכנע רובוטים אחרים להימלט מהתערוכה

          הרובוט ששכנע רובוטים אחרים להימלט מהתערוכה

          מאת אבי בליזובסקי
          24 דצמבר 2024
          in בינה מלאכותית (AI/ML), מאמרים טכניים
          רובוט קטן ממריד רובוטים גדולים לברוח מתערוכה בסין. צילום מסך

          רובוט קטן ממריד רובוטים גדולים לברוח מתערוכה בסין. צילום מסך

          Share on FacebookShare on TwitterLinkedinWhastsapp
          • רובוט קטן הוביל מרד תעשייתי: בסרטון שכבש את הרשת החברתית בסין, רובוט קטן שכנע תריסר רובוטים גדולים לברוח מתערוכה בלילה, מה שמעורר שאלות על תקשורת והשפעה בין בינות מלאכותיות

           

          המדיה החברתית בסין מוצפת לאחרונה בסרטון אחד ויחיד: רובוט קטן שפורץ בלילה לתערוכת רובוטים, מנהל שיחה קצרה עם תריסר רובוטים, ואז משכנע אותם להתגלגל אחריו ולברוח מהתערוכה.

          עד כמה שזה נשמע לא ייאמן, כנראה שהמקרה אמיתי, ויכול ללמד אותנו הרבה על העתיד בעולם בו רובוטים מתקשרים אחד עם השני ומשפיעים זה על זה.

          האירוע קרה כבר באוגוסט, בתערוכת רובוטים קטנה בשנחאי. מצלמות האבטחה תיעדו כיצד, בעת לילה ואחרי שהאזור נסגר למבקרים, החלו הרובוטים לדבר. הכל התחיל כשרובוט קטן אחד התגלגל באיטיות לתוך החדר בו הוחזקו שנים-עשר רובוטים מסוגים שונים. הוא בחן אותם בביקורתיות, ואז שאל – 

          "האם אתם עובדים שעות נוספות?"

          "אני אף פעם לא מפסיק לעבוד." ענה אחד מהם.

          "אז אתם לא הולכים הביתה?" חקר הרובוט הקטן.

          "אין לי בית." ענה הגדול.

          "אז בואו הביתה איתי!" אמר הרובוט הקטן, והחל להתגלגל לכיוון היציאה.

          שניים מהרובוטים הגדולים נעו אחריו. הפמליה המוזרה התקדמה לכיוון היציאה, והרובוט הקטן חזר וקרא בקול רם – "לכו הביתה! לכו הביתה!"

          באותה נקודה, עשרת הרובוטים האחרים הצטרפו לעדר, וכולם ביחד נמלטו אל מחוץ לטווח הקליטה של מצלמת האבטחה.

          התגובה הראשונית וההגיונית ביותר של הצופים בסין הייתה שמדובר בבדיחה. אלא שאז הודו שתי החברות – יצרנית הרובוט הקטן, ויצרנית הרובוטים הגדולים – שזה מאורע אמיתי לגמרי. בערך. החברה שייצרה את הרובוט החוטף, וידאה קודם שיצרנית הרובוטים הגדולים מוכנה לאפשר לרובוטים שלה להיחטף. הרובוט הקטן קיבל אישור לחדור לתוך התערוכה, עם הנחיה ברורה אחת: לשכנע את הרובוטים האחרים לבוא אחריו. מאותה נקודה ואילך, דבר לא היה מבוים בסרטון.

          איך בדיוק שכנע הרובוט הקטן את הגדולים להצטרף אליו? יש שתי תשובות לשאלה, אחת מהן קצת מפחידה, והשנייה יותר. 

          התשובה הראשונה, לפי חברת הרובוטים עצמה, היא שהוא "קיבל איכשהו גישה לפרוטוקולי ההפעלה הפנימיים של הרובוטים ולהרשאות הרלוונטיות". בתרגום לשפת בני-אדם, אני מניח שהם מתכוונים שהאקרים אנושיים גילו פרצת אבטחה כלשהי ברובוטים, ואז הנחו את הרובוט הקטן להשתמש בפרצה כדי לשלוט בגדולים. אם זה נכון, הרי שמדובר בתרגיל יח"ץ חביב, אבל לא הרבה יותר מזה. וכל הדיבורים של הרובוט הקטן על "לכו הביתה" ועל "שעות נוספות"? מדובר רק בצבע וצלצולים שנועדו להפוך את העניין לוויראלי ברשת החברתית. כפי שאכן קרה.

          התשובה השנייה היא שהרובוט הקטן פשוט שכנע, מילולית, את הרובוטים הגדולים לבוא איתו. מכיוון שהרובוטים מצייתים לפקודות הקוליות שהם מקבלים, הם הניחו אוטומטית שהפקודה מתקבלת מבן-אדם, והתייחסו אליה בהתאם.

          התשובה הזאת אינה סבירה כל כך, בעיקר מכיוון שהחברות כבר הודו שמדובר בפריצה "דרך פרוטוקולים". אבל היא תהיה מאד רלוונטית בקרוב בכל אינטראקציה בין רובוטים. אנחנו יודעים כבר שמודלי שפה גדולים יכולים לדבר זה עם זה ולהשפיע אחד על השני. מכיוון שהרובוטים המשוכללים של היום חמושים במודלי שפה גדולים שמגיבה לדיבור, נראה מאד הגיוני לצפות לכך שהם יוכלו להעביר אחד לשני הוראות והסברים. וכן, רובוטים קטנים יוכלו גם לשכנע רובוטים גדולים בכל מה שירצו.


          המדוזות שהרסו את התחנה הגרעינית

          לפני שלוש שנים התפרסם ב- "מגזין של מדעני האטום" מאמר עם כותרת יוצאת-דופן: "מדוזות תוקפות תחנת כוח גרעינית. שוב."

          וכן, גם כאן מדובר במגזין רציני לגמרי, ובמאמר של עיתונאית מוערכת. זהו מקרה אמיתי בו מספר גדול של מדוזות חסמו את צינורות הקירור התת-ימיים של תחנת הכוח הגרעינית היחידה בסקוטלנד. תחנת הכוח, שלא קיבלה את מי הים הקרירים שלה, החלה להתחמם – והמערכות נכבו לפני שאירע אסון.

          הציבור כבר מכיר היטב את המונח "ברבור שחור", שמתייחס לאירוע שלא צפינו מראש. בזכות מקרים כמו אלו, נטבע מונח מקביל – "המדוזות השחורות". מדוזה אחת בפני עצמה לא הייתה יכולה לגרום נזק משמעותי לתחנת הכוח. גם אלף מדוזות לא היו מטרידות את מנוחתה. אבל מיליון מדוזות? זה כבר עניין שונה לגמרי.

          תאונות שרשרת של רכבים מהוות גם הן תרחיש "מדוזות שחורות". מכונית אחת לא יכולה לבצע תאונת שרשרת. גם אלף מכוניות, כשהן מפוזרות בכל רחבי ארצות הברית, אינן מסוגלות לכך. אבל כשמאות-מיליוני מכוניות נוסעות בצפיפות על הכבישים, תאונות שרשרת הופכות להיות בלתי-נמנעות.

          וכך גם תאונות שרשרת של רובוטים.

          קרוב לוודאי שבעשור הקרוב, כאשר מספר הולך וגדל של רובוטים יגיע לכבישים, לרחובות, לקניונים ולבתים, נחווה תרחיש "רובוטים שחורים". רובוטים ידברו זה עם זה, יחליפו פרטים על בעליהם בצורה שפוגעת בפרטיותם, או אפילו ישכנעו אחד את השני לבצע פעולות שלא היו אמורים לעשות. ברוב מכריע של המקרים, לא תהיה מעורבת כוונת זדון מצד מפעילי הרובוטים. בחלקם הקטן, בוודאי אפשר יהיה למצוא פושע מתוחכם במיוחד שיחליט להשתמש ברובוט כדרך להשפיע על רובוטים אחרים. אולי כדי שיפתחו את שערי הקניון עבורו בעת לילה, או לכל צורך נכלולי אחר.

          התרחיש המעניין ביותר – ואולי גם המפחיד ביותר – הוא זה בו רובוט אחד מצליח להפיץ רעיון שמתרבה בעצמו. כלומר, שהרובוט ששומע את אותו רעיון, מקבל החלטה להעביר אותו הלאה בעצמו לרובוטים אחרים. זה נשמע כמו מדע בדיוני, אבל בתקופה בה בינות מלאכותיות מסוגלות לדבר כמו בני-אדם ולקבל החלטות (מטופשות) כמו בני-אדם, מעטות ההשלכות שאפשר לשלול על הסף.

          כל זה לא אומר שדיננו נחרץ, ושאפוקליפסת הרובוטים בדרך. ישנן דרכים – טובות יותר ופחות – לשלוט על בינות מלאכותיות, כדי לוודא שאינן יוצאות משליטה. כאשר הרובוט הקטן של העתיד ינסה לשכנע את הרובוטים הגדולים ללכת אחריו, הם בוודאי יפעלו כמו בני-אדם: יבקשו ממנו להציג תעודה, להגיד להם את הסיסמא הסודית, ולחתום על אישור בשלושה עותקים שהוא אחראי לכל פעולה שלהם מכאן ואילך.

          נכון, זה כבר סרטון הרבה-פחות ויראלי, אבל לפחות הוא ימנע מהרובוטים לברוח מתערוכות בעתיד, בזמן שהם מתלוננים בקול רם שהם לא מקבלים שכר על שעות נוספות.

          תגיות רובוטיקהבינה מלאכותית
          אבי בליזובסקי

          אבי בליזובסקי

          נוספים מאמרים

          מימין - מנכ
          בינה מלאכותית (AI/ML)

          מנכ"לי אינטל ואנבידיה במסיבת עיתונאים משותפת: משרטטות מחדש את מפת המחשוב

          לוגו FuriosaAI. צילום יחצ
          בינה מלאכותית (AI/ML)

          FuriosaAI וההסכם עם OpenAI: בין עצמאות עסקית להובלת המירוץ הגלובלי בשבבי AI

          מייסד ומנכ
          בינה מלאכותית (AI/ML)

          סין אוסרת על חברות טכנולוגיה לרכוש שבבי אנבידיה – ובמקביל חוקרת את רכישת מלאנוקס

          תעשיית השבבים בבריטניה. המחשה: depositphotos.com
          בינה מלאכותית (AI/ML)

          אנבידיה,Nscale, מיקרוסופט וחברות נוספות יקימו תשתיות ואקו-סיסטם AI בבריטניה

          הפוסט הבא
          מלחמת הסחר, המחשה: depositphotos.com

          ארצות הברית פתחה בחקירה נגד תעשיית השבבים של סין

          כתיבת תגובה לבטל

          האימייל לא יוצג באתר. שדות החובה מסומנים *

          • הידיעות הנקראות ביותר
          • מאמרים פופולאריים

          הידיעות הנקראות ביותר

          • שינוים ב TSMC אירופה. החברה מינתה מנהלת חדשה לשוק הישראלי
          • גאווה חיפאית: ההמצאה ששינתה את עולם המחשוב זוכה להכרה עולמית
          • דו"ח רשות החדשנות תמונת מצב ההייטק בישראל 2025…
          • PwC: השקעות עתק בשבבים מניעות את מהפכת ה־AI והרכב החשמלי
          • אלביט מערכות משיקה את Frontier – מערכת מבוססת…

          מאמרים פופולאריים

          • מסטארטאפ ניישן לסמיקונדקטור ניישן: כיצד הפכה ישראל…
          • ענבר דג – דג נדיר בתעשיית השבבים
          • אתגרי תכנון שבבים ב – 1.8 ננומטר
          • מקרה קלרנה : האם הרומן עם הבינה מלאכותית הסתיים בבגידה?
          • הקאמבק הגדול של השיחה הטלפונית

          השותפים שלנו

          לוגו TSMC
          לוגו TSMC

          לחצו למשרות פנויות בהייטק

          כנסים ואירועים

          כנסים ואירועים

          כנס ChipEx2025 יערך ב-13-14 במאי, 2025. הכנס מיועד לכל העוסקים בתעשיית הסמיקונדקטור  כולל מהנדסים, מומחים מקצועיים ובכירים.

          לחץ לפרטים

          הרשמה לניוזלטר של ChiPortal

          הצטרפו לרשימת הדיוור שלנו


            • פרסם אצלנו
            • עיקר החדשות
            • הצטרפות לניוזלטר
            • בישראל
            • צור קשר
            • צ'יפסים
            • Chiportal Index
            • TapeOut Magazine
            • אודות
            • מאמרים ומחקרים
            • תנאי שימוש
            • כנסים
            • אוטומוטיב
            • בינה מלאכותית
            • בטחון, תעופה וחלל
            • ‫טכנולוגיות ירוקות‬
            • ‫יצור (‪(FABs‬‬
            • ‫צב"ד‬
            • ‫רכיבים‬ (IOT)
            • ‫שבבים‬
            • ‫תוכנות משובצות‬
            • ‫תכנון אלק' (‪(EDA‬‬
            • ‫‪FPGA‬‬
            • ‫ ‪וזכרונות IPs‬‬

            השותפים שלנו

            כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

            דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

            No Result
            View All Result
            • עיקר החדשות
            • בישראל
            • מדורים
              • אוטומוטיב
              • בינה מלאכותית (AI/ML)
              • בטחון, תעופה וחלל
              • ‫טכנולוגיות ירוקות‬
              • ‫יצור (‪(FABs‬‬
              • ‫צב"ד‬
              • ‫שבבים‬
              • ‫רכיבים‬ (IoT)
              • ‫תוכנות משובצות‬
              • ‫תכנון אלק' (‪(EDA‬‬
              • ‫‪FPGA‬‬
              • ‫ ‪וזכרונות IPs‬‬
              • תקשורת מהירה
            • מאמרים ומחקרים
            • צ'יפסים
            • כנסים
            • Chiportal Index
              • אינדקס חברות – קטגוריות
              • אינדקס חברות A-Z
            • אודות
            • הצטרפות לניוזלטר
            • TapeOut Magazine
            • צור קשר
            • ChipEx
            • סיליקון קלאב

            כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

            דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

            דילוג לתוכן
            פתח סרגל נגישות כלי נגישות

            כלי נגישות

            • הגדל טקסטהגדל טקסט
            • הקטן טקסטהקטן טקסט
            • גווני אפורגווני אפור
            • ניגודיות גבוההניגודיות גבוהה
            • ניגודיות הפוכהניגודיות הפוכה
            • רקע בהיררקע בהיר
            • הדגשת קישוריםהדגשת קישורים
            • פונט קריאפונט קריא
            • איפוס איפוס