חוקרי אוניברסיטת מינסוטה הציגו חידוש חומרה בשם CRAM, המפחית את צריכת האנרגיה של AI עד פי 2,500 על ידי עיבוד נתונים בתוך הזיכרון, ומבטיחים שיפורים משמעותיים ביעילות ה-AI.

התקן זה יכול להפחית את צריכת האנרגיה של אינטליגנציה מלאכותית לפחות פי 1,000. חוקרים בתחום ההנדסה באוניברסיטת מינסוטה פיתחו התקן חומרה מתקדם שיכול להפחית את צריכת האנרגיה ביישומי מחשוב של אינטליגנציה מלאכותית לפחות פי 1,000.

המחקר פורסם בכתב העת המדעי "NPJ Unconventional Computing" שמפרסם Nature. לחוקרים יש מספר פטנטים על הטכנולוגיה שבה השתמשו בהתקן.

עם הביקוש הגובר ליישומי AI, מחפשים החוקרים דרכים ליצור תהליך יעיל יותר באנרגיה, תוך שמירה על ביצועים גבוהים ועלויות נמוכות. בדרך כלל, תהליכי למידת מכונה או אינטליגנציה מלאכותית מעבירים נתונים בין הלוגיקה (היכן שהמידע מעובד במערכת) לזיכרון (היכן שהנתונים מאוחסנים), מה שצורך כמות גדולה של אנרגיה.

הצגת טכנולוגיית CRAM 

צוות חוקרים במכללת המדע וההנדסה של אוניברסיטת מינסוטה הציג מודל חדש שבו הנתונים לא עוזבים את הזיכרון, הנקרא זיכרון גישה אקראית חישובית (CRAM).

"זוהי ההדגמה הניסויית הראשונה של CRAM, שבה הנתונים יכולים להיות מעובדים לחלוטין בתוך מערך הזיכרון ללא צורך לעזוב את הרשת שבה המחשב מאחסן מידע," אמר יאנג לו, חוקר פוסט-דוקטורט במחלקה להנדסת חשמל ומחשבים באוניברסיטת מינסוטה והמחבר הראשון של המאמר.

התקן חומרה מותאם אישית מתוכנן לסייע ל-AI להיות יעיל יותר באנרגיה. קרדיט: אוניברסיטת מינסוטה.

סוכנות האנרגיה הבינלאומית (IEA) פרסמה תחזית גלובלית לשימוש באנרגיה במרץ 2024, שחזתה כי צריכת האנרגיה עבור AI תכפיל את עצמה מ-460 טרה-וואט שעה (TWh) ב-2022 ל-1,000 TWh ב-2026. זה שווה בערך לצריכת החשמל של כל יפן.

לדברי מחברי המאמר החדש, מאיץ למידת מכונה מבוסס CRAM צפוי להשיג שיפור בסדר גודל של פי 1,000. דוגמה נוספת הראתה חיסכון באנרגיה של פי 2,500 ו-1,700 בהשוואה לשיטות מסורתיות.

התפתחות המחקר

מחקר זה מתבצע למעלה מעשרים שנה, 

"הקונספט הראשוני שלנו להשתמש בתאי זיכרון ישירות לחישוב לפני 20 שנה נחשב מטורף," אמר ג'יאן-פינג ואנג, המחבר הראשי של המאמר ופרופסור מכובד באוניברסיטת מקנייט ויושב ראש רוברט פ. הארטמן במחלקה להנדסת חשמל ומחשבים באוניברסיטת מינסוטה.

"עם קבוצה מתפתחת של תלמידים מאז 2003 וצוות סגל בין-תחומי אמיתי שבנינו באוניברסיטת מינסוטה – מפיזיקה, מדע והנדסת חומרים, מדעי המחשב והנדסה, למידול ובניית מודלים ויצירת חומרה – הצלחנו להשיג תוצאות חיוביות ועכשיו הדגמנו שטכנולוגיה מסוג זה ישימה ומוכנה להיכלל בטכנולוגיה," אמר ואנג.

מחקר זה הוא חלק ממאמץ עקבי וארוך טווח הבונה על מחקרו פורץ הדרך של ואנג ושותפיו בנושא התקני Magnetic Tunnel Junctions (MTJs), שהינם התקנים ננו-מבניים המשמשים לשיפור כוננים קשיחים, חיישנים ומערכות מיקרואלקטרוניקה אחרות, כולל Magnetic Random Access Memory (MRAM), שהשתמשו בהם במערכות משובצות כגון מיקרו-בקרים ושעונים חכמים.

ארכיטקטורת CRAM מאפשרת חישוב אמיתי בזיכרון ועל ידי הזיכרון ומפרה את החסימה בין החישוב לזיכרון כגורם מגביל בארכיטקטורת פון נוימן המסורתית, עיצוב תיאורטי למחשב עם תוכנית מאוחסנת המשמש כבסיס לרוב המחשבים המודרניים.

"כמצע חישובי מבוסס זיכרון דיגיטלי יעיל מאוד באנרגיה, CRAM גמיש מאוד בכך שניתן לבצע חישוב בכל מיקום במערך הזיכרון. בהתאם לכך, נוכל לקנפג את CRAM כך שיתאים בצורה מיטבית לצורכי הביצועים של מגוון רחב של אלגוריתמי AI," אמרה אוליה קרפוזקו, מומחית לארכיטקטורת חישוב, מחברת המאמר ופרופסור חבר במחלקה להנדסת חשמל ומחשבים באוניברסיטת מינסוטה. "הוא יעיל יותר באנרגיה מאשר בלוקים מסורתיים למערכות AI של היום."

CRAM מבצע חישובים ישירות בתוך תאי הזיכרון, מנצל את מבנה המערך ביעילות, מה שמבטל את הצורך בהעברות נתונים איטיות וצורכות אנרגיה, הסבירה קרפוזקו.

התקן הזיכרון הגישה האקראית (RAM) היעיל ביותר בטווח הקצר משתמש בארבעה או חמישה טרנזיסטורים לקידוד אפס או אחד, אך MTJ אחד, התקן ספינטרוני, יכול לבצע את אותה הפונקציה בחלק קטן של האנרגיה, במהירות גבוהה יותר, והוא עמיד לסביבות קשות. התקנים ספינטרוניים מנצלים את הספין של האלקטרונים במקום את המטען החשמלי לאחסון נתונים, מה שמספק חלופה יעילה יותר לשבבים מבוססי טרנזיסטורים מסורתיים.

כרגע, הצוות מתכנן לעבוד עם מנהיגי תעשיית המוליכים למחצה, כולל אלה במינסוטה, כדי לספק הדגמות בקנה מידה גדול ולייצר את החומרה לשיפור פונקציונליות AI.

הפוסט התקן חומרה מתקדם מפחית צריכת אנרגיה של AI פי 1000 הופיע לראשונה ב-Chiportal.

חוקרים מבית החולים הכללי של מסצ’וסטס (MGH) השתמשו בשיטות הקלטה מתקדמות של המוח כדי לחשוף את תבנית שיתוף הפעולה של נוירונים במוח האנושי, מה שמאפשר לאנשים לעצב את מחשבותיהם למילים ולהביען בקול. המחקר, שפורסם בכתב העת Nature, מציע הצצה לתהליך היצירה וההבעה המילולית של מחשבות, חושף את התכנון המוקדם של צלילי הדיבור לפני שהם נאמרים.

החוקרים השתמשו במכשירים מתקדמים ביותר הנקראים נוירו-פיקסלים Neuropixels, אשר מסוגלים להקליט את פעילותם של נוירונים בודדים בקורטקס הפרה-חזיתי, אזור קדמי במוח האנושי. הם זיהו תאים המעורבים בייצור השפה ושעשויים להיות הבסיס ליכולת לדבר. נמצאו קבוצות נפרדות של נוירונים במוח המוקדשות לדיבור ולהאזנה.

השימוש בנוירו-פיקסלים, שבוצע בפעם הראשונה ב-MGH, מאפשר הצצה חסרת תקדים לאופן פעולתם המשותפת של נוירונים באדם ואיך הם פועלים יחד לייצור התנהגויות אנושיות מורכבות כמו השפה.

המחקר הראה איך נוירונים במוח מייצגים חלק מהאלמנטים הבסיסיים המעורבים בבניית מילים מדוברות – מצלילי דיבור פשוטים הנקראים פונמים ועד להרכבתם למיתרים מורכבים יותר כמו הברות. לדוגמה, העיצור “דה”, המיוצר על ידי נגיעת הלשון בחיך, נחוץ לייצור המילה dog (כלב). על ידי הקלטת נוירונים בודדים, החוקרים מצאו כי נוירונים מסוימים הופכים לפעילים לפני שהפונם הזה נאמר בקול רם. נוירונים אחרים השתקפו בהיבטים מורכבים יותר של בניית מילים, כמו הרכבה ספציפית של פונמים להברות.

בעזרת הטכנולוגיה שלהם, החוקרים הדגימו כי ניתן לקבוע באופן אמין את צלילי הדיבור שאנשים יאמרו לפני שהם מבטאים אותם. במילים אחרות, המדענים יכולים לחזות איזו שילוב של עיצורים ותנועות ייוצרו לפני שהמילים נאמרות בפועל. יכולת זו יכולה להינצל לבניית תותבי מוח מלאכותיים או ממשקי מוח-מכונה המסוגלים לייצר דיבור סינתטי, שיכולים להועיל למגוון רחב של חולים.

“הפרעות ברשתות הדיבור והשפה נצפות במגוון רחב של הפרעות נוירולוגיות – כולל שבץ, פגיעה במוח כתוצאה מטראומה, גידולים, הפרעות ניוון עצבי, הפרעות התפתחותיות נוירולוגיות ועוד,” אומר ארג’ון חאנה, שותף למחקר. “התקווה שלנו היא שהבנה טובה יותר של המעגלים העצביים הבסיסיים המאפשרים דיבור ושפה תפתח את הדרך לפיתוח טיפולים להפרעות אלו.”

החוקרים מקווים להרחיב את מחקרם על ידי חקר תהליכי שפה מורכבים יותר שיאפשרו להם לחקור כיצד אנשים בוחרים את המילים שהם מתכוונים לומר וכיצד המוח מרכיב מילים למשפטים שמעבירים את מחשבותיהם ורגשותיהם של האנשים לאחרים.

הפוסט קריאת מחשבות? חוקרים פיתחו שיטה שתאפשר לדעת מה אנו עומדים לומר לפני שדיברנו הופיע לראשונה ב-Chiportal.