• אודות
  • כנסים ואירועים
  • צור קשר
  • הצטרפות לניוזלטר
  • TapeOut Magazine
  • ChipEx
  • סיליקון קלאב
  • Jobs
מבית
EN
Tech News, Magazine & Review WordPress Theme 2017
  • עיקר החדשות
    אנתרופיק. אילוסטרציה: depositphotos.com

    אנתרופיק בדרך לנאסד״ק: ענקיות השבבים משתתפות בהקצאה פרטית של 26 מיליארד דולר

    מנכ"ל אנבידיה ג'נסן הואנג בכנס CES 2025. צילום יחצ אנבידיה

    דירקטוריון אנבידיה אינו שוקל להחזיר את ג'נסן הואנג, למרות קמפיין שזוכה לתמיכת טראמפ ומאסק

    Arc pro b70. צילום יחצ אינטל

    אינטל: כרטיס ה-AI החדש שלה מהיר עד פי 5.9 מכרטיס של אנבידיה בסימולציות פיננסיות

    הדמיה: הלוגואים של AMD ו-World Labs. צילום: יח"צ AMD

    AMD השלימה את רכישת World Labs ב-8.2 מיליארד דולר; פיי־פיי לי מונתה למדענית הראשית

    מסך AURASTACK. איור: קיידנס

    קיידנס משיקה מודלי AI לתכנון שבבים המבוססים על Nemotron של אנבידיה

    יפן רוצה לחזור לימי הזוהר של תעשיית השבבים.

    דיווח: קשיים בייצור תאי SRAM עלולים לדחות בשנה את ייצור שבבי ה־2 ננומטר של רפידוס

  • בישראל
    אבי שבתאי, מנכ"ל רמון ספייס. צילום: רמון ספייס

    רמון ספייס גייסה 124 מיליון דולר לפיתוח תשתית מחשוב בחלל; מיקרון מצטרפת כמשקיעה

    הדמיה אווירית של מבני חוות שרתים בנמל חיפה

    אנלייט ושמן נדל"ן יקימו חוות שרתים בהספק של עד 150 מגה-ואט בנמל חיפה

    הדמיה של מבני תעשייה ומפעלי שבבים בפארק הדיפ-טק באשקלון

    נדב ב. לוגיסטיקה תשקיע 1.5 מיליארד שקל בפארק השבבים של Awz באשקלון

    פולסי לייזר בשני צבעים מכוונים זרם אלקטרונים בין חוד מיקרוסקופ מנהור לדגם

    חוקרי הטכניון כיוונו בעזרת צורת גל האור זרם אלקטרונים שנמשך 860 אטו-שניות

    רחפן התצפית seniX של אירו סנטינל

    אירו סנטינל משיקה רחפן תצפית שקט ועוברת לייצור סדרתי

    מערכות VeritySEM 7AP ו־SEMVision G7AP של אפלייד מטיריאלס למדידה ולניתוח פגמים באריזות שבבים מתקדמות. קרדיט: Applied Materials.

    אפלייד מטיריאלס: הכנסות שיא של 10.41 מיליארד דולר ברבעון, עלייה של 53%

  • מדורים
    • אוטומוטיב
    • בינה מלאכותית (AI/ML)
    • בטחון, תעופה וחלל
    • ‫טכנולוגיות ירוקות‬
    • ‫יצור (‪(FABs‬‬
    • ‫צב"ד‬
    • ‫שבבים‬
    • ‫רכיבים‬ (IOT)
    • ‫תוכנות משובצות‬
    • ‫תכנון אלק' (‪(EDA‬‬
    • תקשורת מהירה
    • ‫‪FPGA‬‬
    • ‫ ‪וזכרונות IPs‬‬
  • מאמרים ומחקרים
  • צ'יפסים
  • Chiportal Index
    • Search By Category
    • Search By ABC
No Result
View All Result
Chiportal
  • עיקר החדשות
    אנתרופיק. אילוסטרציה: depositphotos.com

    אנתרופיק בדרך לנאסד״ק: ענקיות השבבים משתתפות בהקצאה פרטית של 26 מיליארד דולר

    מנכ"ל אנבידיה ג'נסן הואנג בכנס CES 2025. צילום יחצ אנבידיה

    דירקטוריון אנבידיה אינו שוקל להחזיר את ג'נסן הואנג, למרות קמפיין שזוכה לתמיכת טראמפ ומאסק

    Arc pro b70. צילום יחצ אינטל

    אינטל: כרטיס ה-AI החדש שלה מהיר עד פי 5.9 מכרטיס של אנבידיה בסימולציות פיננסיות

    הדמיה: הלוגואים של AMD ו-World Labs. צילום: יח"צ AMD

    AMD השלימה את רכישת World Labs ב-8.2 מיליארד דולר; פיי־פיי לי מונתה למדענית הראשית

    מסך AURASTACK. איור: קיידנס

    קיידנס משיקה מודלי AI לתכנון שבבים המבוססים על Nemotron של אנבידיה

    יפן רוצה לחזור לימי הזוהר של תעשיית השבבים.

    דיווח: קשיים בייצור תאי SRAM עלולים לדחות בשנה את ייצור שבבי ה־2 ננומטר של רפידוס

  • בישראל
    אבי שבתאי, מנכ"ל רמון ספייס. צילום: רמון ספייס

    רמון ספייס גייסה 124 מיליון דולר לפיתוח תשתית מחשוב בחלל; מיקרון מצטרפת כמשקיעה

    הדמיה אווירית של מבני חוות שרתים בנמל חיפה

    אנלייט ושמן נדל"ן יקימו חוות שרתים בהספק של עד 150 מגה-ואט בנמל חיפה

    הדמיה של מבני תעשייה ומפעלי שבבים בפארק הדיפ-טק באשקלון

    נדב ב. לוגיסטיקה תשקיע 1.5 מיליארד שקל בפארק השבבים של Awz באשקלון

    פולסי לייזר בשני צבעים מכוונים זרם אלקטרונים בין חוד מיקרוסקופ מנהור לדגם

    חוקרי הטכניון כיוונו בעזרת צורת גל האור זרם אלקטרונים שנמשך 860 אטו-שניות

    רחפן התצפית seniX של אירו סנטינל

    אירו סנטינל משיקה רחפן תצפית שקט ועוברת לייצור סדרתי

    מערכות VeritySEM 7AP ו־SEMVision G7AP של אפלייד מטיריאלס למדידה ולניתוח פגמים באריזות שבבים מתקדמות. קרדיט: Applied Materials.

    אפלייד מטיריאלס: הכנסות שיא של 10.41 מיליארד דולר ברבעון, עלייה של 53%

  • מדורים
    • אוטומוטיב
    • בינה מלאכותית (AI/ML)
    • בטחון, תעופה וחלל
    • ‫טכנולוגיות ירוקות‬
    • ‫יצור (‪(FABs‬‬
    • ‫צב"ד‬
    • ‫שבבים‬
    • ‫רכיבים‬ (IOT)
    • ‫תוכנות משובצות‬
    • ‫תכנון אלק' (‪(EDA‬‬
    • תקשורת מהירה
    • ‫‪FPGA‬‬
    • ‫ ‪וזכרונות IPs‬‬
  • מאמרים ומחקרים
  • צ'יפסים
  • Chiportal Index
    • Search By Category
    • Search By ABC
No Result
View All Result
Chiportal
No Result
View All Result

בית מאמרים ומחקרים מאמרים טכניים האם רשתות נוירונים מלאכותיות מבינות שפה כמונו?

האם רשתות נוירונים מלאכותיות מבינות שפה כמונו?

מאת אבי בליזובסקי
27 ספטמבר 2023
in מאמרים טכניים
רשתות נוירונים במוח. אילוסטרציה: depositphotos.com

רשתות נוירונים במוח. אילוסטרציה: depositphotos.com

Share on FacebookShare on TwitterLinkedinWhastsapp

ככל שתחום הבינה המלאכותית מתקדם, קל יותר לרשתות האלה לשטות בנו ולהתחזות כדומות מאד בהתנהגותן לבני אדם. אבל כאשר אנחנו מפעילים את הכלים המתאימים, אנחנו יכולים לראות שישנה עוד דרך עד שנגיע לאלגוריתמים שמחקים בצורה מאד מדויקת התנהגות אנושית

בדו שיח עם צ’ט-בוטים, דהיינו עם רשתות המעבדות שפה, פעמים רבות נדמה שיש בן אדם מהצד השני של הצ’ט. חוקרים מאוניברסיטת בן-גוריון בנגב ואוניברסיטת קולומביה בדקו האם הרשתות הללו מבינות ומעבדות שפה כמו בני האדם ומצאו פערים מפתיעים. ממצאי המחקר התפרסמו בכתב העת היוקרתי Nature Machine Intelligence.

כשבוחנים עיבוד של משפטים בשפה האנגלית בקרב בני אדם ובקרב מערכות למידה עמוקה (רשתות נוירונים מלאכותיות), נראה שיש דמיון מפתיע בין בני האדם ובין הרשתות. נתון זה הטריד את ד”ר טל גולן מהמחלקה למדעי הקוגניציה והמוח באוניברסיטת בן-גוריון בנגב ואת מתיו סיגלמן, תלמיד מחקר מאוניברסיטת קולומביה, שכן ישנם הבדלים משמעותיים בין הרשתות השונות וכן בין הצורה בה הרשתות הללו בנויות ופועלות, לבין המוח האנושי. ״אם נבין טוב יותר את הדמיון וההבדלים בין אינטליגנציה מלאכותית ואינטליגנציה טבעית, נוכל להבין טוב יותר כיצד אנחנו עצמנו פועלים״,  הסביר ד”ר גולן.

אחד הכלים המרכזיים בחקר השפה הוא בחינת המשפטים הנתפסים על ידי דוברי השפה כ-״קבילים״. למשל ״דנה אכלה כריך״ הוא משפט קביל בעברית, אך ״דנה כריך אכל״ או ״כריך אכל דנה״, אינם משפטים קבילים. בשנים האחרונות, מדענים החלו לבחון רשתות נוירונים מלאכותיות באופן דומה, ומצאו להפתעתם דמיון רב בין השיפוטים האנושיים ובין ההסתברות שרשתות נוירונים מלאכותיות מייחסות למשפטים שונים.

במחקר הנוכחי, החוקרים רצו לבחון את גבולות הדמיון בין בני האדם והרשתות. לצורך כך, הם פיתחו תוכנה שבונה זוגות של משפטים ״מעוררי מחלוקת״ בין הרשתות. בכל זוג כזה, יש משפט שרשת אחת מזהה כקביל, ואילו הרשת השנייה מזהה כבלתי קביל. המשפט השני נשפט על ידי הרשתות באופן הפוך- הרשת הראשונה מזהה אותו כבלתי קביל והרשת השנייה כקביל.

למשל, המשפט ״This is the week you have been dying״ נמצא כבלתי קביל לפי רשת מסוג GPT-2, וכקביל לחלוטין לפי רשת מסוג BERT. לעומת זאת המשפט ״That is the narrative we have been sold״ נמצא כקביל לפי GPT-2 וכבלתי קביל לפי BERT. אחרי שהחוקרים יצרו מאות זוגות של משפטים כאלה, המשפטים הוצגו ל-100 נבדקים אנושיים דוברי אנגלית, שהתבקשו לשפוט עבור כל אחד מהזוגות איזה משפט קביל יותר. במבחן שכזה, אחת הרשתות חייבת להיכשל, כיוון שהן אינן מסכימות ביניהן.

החוקרים מצאו שתחת המבחן המחמיר הזה, כל הרשתות מפגינות פערים משמעותיים בשיפוטים שלהן לעומת בני האדם. הן קיבלו משפטים לא דקדוקיים ולא הגיוניים כקבילים, ובאותו הזמן דחו משפטים דקדוקיים והגיוניים כלא קבילים. הרשת שנמצאה כדומה ביותר לבני האדם הייתה GPT-2, שלומדת על ידי ניסיון לחזות את המילה הבאה בטקסט, אותו עקרון המיושם בשלב האימון הראשון והעיקרי של צ׳ט-בוטים כגון ChatGPT.

״המחקר חושף פערים בין האופן שבו רשתות נוירונים מלאכותיות ובני אדם מעבדים שפה כתובה”, מסביר ד”ר גולן. “ככל שתחום הבינה המלאכותית מתקדם, קל יותר לרשתות האלה לשטות בנו ולהתחזות כדומות מאד בהתנהגותן לבני אדם. אבל כאשר אנחנו מפעילים את הכלים המתאימים, אנחנו יכולים לראות שישנה עוד דרך עד שנגיע לאלגוריתמים שמחקים בצורה מאד מדויקת התנהגות אנושית. ייתכן ונוכל לבנות רשתות נוירונים שמדמות באופן מדויק שיפוטים לשוניים של בני אדם רק כאשר הרשתות יממשו כישורים קוגניטיביים נוספים, כגון חישת הסביבה ובקרת תנועה, ולא רק יקראו מיליוני ספרים,” סיכם ד”ר גולן.

קבוצת המחקר כללה את: פרופסור כריסטופר בלדסנו ופרופסור ניקולאוס קריגסקורטה מהמחלקה לפסיכולוגיה של אוניברסיטת קולומביה.

מחקר זה (מס’ מענק1948004 ) מומן ע”י הקרן האמריקאית למדע ומלגת צוקרמן.

עוד בנושא באתר הידען:

Tags: רשתות נוירוניםאוניברסיטת בן גוריוןבינה מלאכותית
אבי בליזובסקי

אבי בליזובסקי

נוספים מאמרים

פולסי לייזר בשני צבעים מכוונים זרם אלקטרונים בין חוד מיקרוסקופ מנהור לדגם
בישראל

חוקרי הטכניון כיוונו בעזרת צורת גל האור זרם אלקטרונים שנמשך 860 אטו-שניות

מגנט מרחף מעל מוליך־על בטמפרטורה נמוכה
‫ ‪וזכרונות IPs‬‬

סיבית זיכרון במוליך־על מתקרבת לגבול האנרגיה התאורטי של מחיקת מידע

איור: מחשב קוונטי בתוך בועה
מיחשוב קוונטי

האם המחשוב הקוונטי הוא בועת הדוט־קום הבאה?

יריעת פוטוניקת סיליקון שקופה וגמישה שפותחה ב־MIT וב־NY CREATES. המעגלים הפוטוניים נשארו פעילים לאחר אלפי מחזורי כיפוף. באדיבות החוקרים
אופטיקת סיליקון

MIT פיתח תהליך לייצור שבבים פוטוניים גמישים ושקופים על פרוסות 300 מ״מ

Next Post
מנכ"ל אינטל, פט גלסינגר: יש בהחלט אפשרות שנשתף פעולה עם אנבידיה

מנכ"ל אינטל, פט גלסינגר: יש בהחלט אפשרות שנשתף פעולה עם אנבידיה

כתיבת תגובה לבטל

האימייל לא יוצג באתר. שדות החובה מסומנים *

  • הידיעות הנקראות ביותר

  • מאמרים פופולאריים

הידיעות הנקראות ביותר

  • התפטרות ג'נסן הואנג מטלטלת את אנבידיה, את שוק ה-AI…
  • נדב ב. לוגיסטיקה תשקיע 1.5 מיליארד שקל בפארק השבבים…
  • AMD החלה לשווק את מעבדי EPYC מהדור השישי: עד 256…
  • Unit 42: האקרים הקשורים לסין הפעילו כלי AI אוטונומי…
  • ג'נסן הואנג התפטר מתפקיד מנכ"ל אנבידיה;…

מאמרים פופולאריים

  • האם המחשוב הקוונטי הוא בועת הדוט־קום הבאה?
  • סיבית זיכרון במוליך־על מתקרבת לגבול האנרגיה התאורטי…
  • מאלקטרוניקה גמישה ועד חומרים דו־ממדיים: ארבעה חוקרים…
  • חוקרי הטכניון כיוונו בעזרת צורת גל האור זרם…

השותפים שלנו

לוגו TSMC
לוגו TSMC

לחצו למשרות פנויות בהייטק

כנסים ואירועים

כנסים ואירועים

כנס ChipEx2027 יערך ב-18-19 במאי, 2027. הכנס מיועד לכל העוסקים בתעשיית הסמיקונדקטור  כולל מהנדסים, מומחים מקצועיים ובכירים.

ChipEx2027 will be held on May 18-19, 2027. The conference is intended for everyone involved in the semiconductor industry, including engineers, professional experts, and senior executives.

לחץ לפרטים

הרשמה לניוזלטר של ChiPortal

הצטרפו לרשימת הדיוור שלנו


    • פרסם אצלנו
    • עיקר החדשות
    • הצטרפות לניוזלטר
    • בישראל
    • צור קשר
    • צ'יפסים
    • Chiportal Index
    • TapeOut Magazine
    • אודות
    • מאמרים ומחקרים
    • תנאי שימוש
    • כנסים
    • אוטומוטיב
    • בינה מלאכותית
    • בטחון, תעופה וחלל
    • ‫טכנולוגיות ירוקות‬
    • ‫יצור (‪(FABs‬‬
    • ‫צב"ד‬
    • ‫רכיבים‬ (IOT)
    • ‫שבבים‬
    • ‫תוכנות משובצות‬
    • ‫תכנון אלק' (‪(EDA‬‬
    • ‫‪FPGA‬‬
    • ‫ ‪וזכרונות IPs‬‬

    השותפים שלנו

    כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

    דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

    No Result
    View All Result
    • עיקר החדשות
    • בישראל
    • מדורים
      • אוטומוטיב
      • בינה מלאכותית (AI/ML)
      • בטחון, תעופה וחלל
      • ‫טכנולוגיות ירוקות‬
      • ‫יצור (‪(FABs‬‬
      • ‫צב"ד‬
      • ‫שבבים‬
      • ‫רכיבים‬ (IoT)
      • ‫תוכנות משובצות‬
      • ‫תכנון אלק' (‪(EDA‬‬
      • ‫‪FPGA‬‬
      • ‫ ‪וזכרונות IPs‬‬
      • תקשורת מהירה
    • מאמרים ומחקרים
    • צ'יפסים
    • כנסים
    • Chiportal Index
      • אינדקס חברות – קטגוריות
      • אינדקס חברות A-Z
    • אודות
    • הצטרפות לניוזלטר
    • TapeOut Magazine
    • צור קשר
    • ChipEx
    • סיליקון קלאב

    כל הזכויות שמורות Chiportal (c) 2010 תנאי שימוש ומדיניות פרטיות

    דרונט דיגיטל - בניית אתרים, בניית אתרי וורדפרס, בניית אתרי סחר, חנות אינטרנטית, פיתוח אתרים

    דילוג לתוכן
    פתח סרגל נגישות כלי נגישות

    כלי נגישות

    • הגדל טקסטהגדל טקסט
    • הקטן טקסטהקטן טקסט
    • גווני אפורגווני אפור
    • ניגודיות גבוההניגודיות גבוהה
    • ניגודיות הפוכהניגודיות הפוכה
    • רקע בהיררקע בהיר
    • הדגשת קישוריםהדגשת קישורים
    • פונט קריאפונט קריא
    • איפוס איפוס