בינה מלאכותית
בינה מלאכותית פוגשת יעילות: שבב חדש מצמצם את צריכת החשמל של LLM ב-50%
Securities.io מקפיד על סטנדרטים מחמירים של עריכה ועשוי לקבל פיצוי מקישורים שנבדקו. איננו יועצי השקעות רשומים וזה אינו ייעוץ השקעות. אנא עיינו באתר שלנו גילוי נאות.
פריחת הבינה המלאכותית (AI) המתמשכת מובילה לעלייה חדה בשימוש במרכזי נתונים, מה שמניע ביקוש עצום לחשמל להפעלה וקירור השרתים שבתוכם.
בעוד שיש מעל 8,000 מרכזי נתונים ברחבי העולם, רובם בארה"ב, מספר זה יגדל באופן משמעותי בשנים הקרובות.
לפי הערכת קבוצת הייעוץ של בוסטון, הביקוש למרכזי נתונים יעלה ב-15% עד 20% מדי שנה עד שנת 2030. בשלב זה, החברה צופה שהם יהוו 16% מכלל צריכת החשמל בארה"ב, לעומת 2.5% בלבד לפני השקת ChatGPT של OpenAI בשנת 2022.
בינתיים, דו"ח מיוחד על אנרגיה ובינה מלאכותית על פי נתוני הסוכנות הבינלאומית לאנרגיה (IEA), שפורסמו השנה, הביקוש לחשמל ממרכזי נתונים ברחבי העולם יוכפל לפחות עד סוף העשור הנוכחי, לכ-945 טרה-וואט-שעה. נתון זה כמעט שווה ערך לצריכת החשמל של יפן כיום.
הארגון הבין-ממשלתי האוטונומי שבסיסו בפריז מדווח כי בינה מלאכותית היא הגורם הגדול ביותר מאחורי הזינוק הזה, כאשר הביקוש לחשמל ממרכזי נתונים מותאמים לבינה מלאכותית צפוי לגדול ביותר מפי ארבעה עד 2030.
בארה"ב ספציפית, צריכת החשמל של מרכזי נתונים כבר צפויה להוות כמחצית מהצמיחה בביקוש לחשמל בין עכשיו לשנת 2030. בהתבסס על השימוש בבינה מלאכותית, הכלכלה האמריקאית, על פי הדו"ח, תצרוך יותר חשמל לעיבוד נתונים בשלב זה מאשר לייצור כל המוצרים עתירי האנרגיה גם יחד.
הרעב הבלתי נדלה הזה לאנרגיה מהווה בעיה עצומה בקידום ובאימוץ של בינה מלאכותית. עם זאת, הצד החיובי הוא המספר ההולך וגדל של חוקרים וחברות שעובדים על הפחתת צריכת החשמל של בינה מלאכותית והפיכתה לחסכונית יותר באנרגיה.
מה שמעניין במאמצים אלה הוא שרבים מהם משתמשים בבינה מלאכותית כדי להתמודד עם אתגרי האנרגיה שלהם.
רק החודש, צוות חוקרים הדגים שבב חדש המשתמש בבינה מלאכותית כדי לצמצם את צריכת האנרגיה של מודלים לשוניים גדולים (LLMs) ב-50%, מה שסימן התפתחות משמעותית בהפיכת מודלים לשוניים לחסכוניים וברי קיימא יותר להפעלה.
שבב חדש ממנף בינה מלאכותית כדי להפחית את צריכת האנרגיה של תואר שני
חוקרים מבית הספר להנדסה של אוניברסיטת אורגון סטייט פיתחו את שבב הבינה המלאכותית החדש והיעיל כדי לפתור את בעיית צריכת החשמל העצומה של יישומי בינה מלאכותית לתואר שני כמו GPT-4 של OpenAI ו- Gemini של גוגל.
מודל שפה גדול (LLM), סוג של מודל למידת מכונה (ML), מאומן מראש על כמויות עצומות של נתונים כדי לבצע משימות עיבוד שפה טבעית (NLP) כמו יצירת טקסט, סיכום, פישוט, הנמקת טקסט, תרגום שפה ועוד.
הצ'אטבוטים הפופולריים והנפוצים ביותר כיום כוללים את GPT-4o, o3 ו-o1 של OpenAI, את Gemini ו-Gemma של גוגל, את Llama של Meta, את R1 ו-V3 של DeepSeek, את Claude של Anthropic, את Nova של Amazon, את Phi של Microsoft ואת Grok של xAI.
במהלך השנים האחרונות, תואר ראשון במשפטים (LLM) שינו לחלוטין את תחום הבינה המלאכותית בכך שאפשרו למכונות להבין וליצור טקסט דמוי אדם בדיוק רב יותר. עם זאת, התפתחות זו של תואר ראשון במשפטים הביאה לעלייה אקספוננציאלית בגודלו.
גודלו של מודל LLM, הנמדד במספר הפרמטרים שלו, הוא הגורם העיקרי לצריכת האנרגיה שלו. משמעות הדבר היא שככל שהמודל גדול יותר, כך גדל הצורך שלו בכוח חישוב לאימון והסקה.
לדוגמה, ל-ChatGPT-1 היו קצת פחות מ-120 מיליון פרמטרים, אשר זינקו ל-175 מיליארד פרמטרים עם GPT-3, ולאחר מכן לכ-1.8 טריליון פרמטרים עם GPT-4.
הזינוק העצום בגודלם ויכולתם של מוסדות לימוד לתואר שני (LLMs) פירושו שגם צריכת האנרגיה שלהם עולה בקנה מידה חסר תקדים. מלבד גודל המודל, גורמים כמו סוג החומרה המשמשת לאימון מוסדות לימוד לתואר שני אלה, משך תהליך האימון, תשתית, כלומר מרכזי נתונים, עיבוד נתונים, אופטימיזציה של מודל ויעילות אלגוריתמים, משפיעים על צריכת האנרגיה של מוסדות לימוד לתואר שני.
מכאן, השבב החדש של חוקרי OSU. לדברי טג'אסבי אנאנד, פרופסור חבר להנדסת חשמל ב-OSU, שמנהל גם את מעבדת מעגלי האותות המעורבים והמערכות באוניברסיטה:
"הבעיה היא שהאנרגיה הנדרשת להעברת ביט בודד לא מצטמצמת באותו קצב שבו דרישת קצב הנתונים עולה. זה מה שגורם למרכזי נתונים להשתמש בכל כך הרבה חשמל."
כדי להתגבר על בעיה זו, הצוות תכנן ופיתח שבב חדש שצורך רק מחצית מהאנרגיה בהשוואה לעיצובים קונבנציונליים.
אנאנד והדוקטורנט ראמין ג'וואד הציגו את הטכנולוגיה החדשה הזו בכנס IEEE Custom Integrated Circuits (CIC), שנערך בבוסטון בחודש שעבר. הכנס, המארח פורומים, פאנלים, תערוכות ומצגות בעל פה, מוקדש לפיתוח מעגלים משולבים (IC), המשמשים כאבן הבניין של מערכות אלקטרוניות מודרניות על ידי מתן פונקציונליות וכוח עיבוד בחבילה קומפקטית ויעילה.
הטכנולוגיה העדכנית ביותר נבנתה בתמיכת המרכז לקישוריות בכל מקום (CUbiC), תאגיד המחקר של מוליכים למחצה (SRC) וסוכנות הפרויקטים למחקר מתקדם של משרד ההגנה (DARPA). היא גם זיכתה את ג'אוואדי בפרס המאמר הסטודנטיאלי הטוב ביותר בכנס.
עבור השבב החדש, החוקרים למעשה מינפו עקרונות של בינה מלאכותית אשר, ציין ג'וואדי, מפחיתים את צריכת החשמל לעיבוד אותות.
כפי שהסביר, מנהלי תואר ראשון במשפטים (LLM) שולחים ומקבלים הרבה נתונים דרך חיבורים קוויים, שהם קישורי תקשורת מבוססי נחושת במרכזי נתונים. כל התהליך הזה דורש אנרגיה משמעותית, ולכן "פתרון פוטנציאלי אחד הוא לפתח שבבי תקשורת קוויים יעילים יותר".
ג'וואדי ציין עוד שכאשר נשלחים במהירויות גבוהות, הנתונים למעשה נפגמים בקצה המקלט, וכתוצאה מכך יש לנקות אותם. למטרה זו, רוב מערכות התקשורת הקוויות הקיימות משתמשות באקולייזר, אשר צורך הרבה חשמל.
"אנו משתמשים בעקרונות הבינה המלאכותית הללו על גבי השבב כדי לשחזר את הנתונים בצורה חכמה ויעילה יותר על ידי אימון המסווג על גבי השבב לזהות ולתקן את השגיאות."
– ג'וואדי
למרות שמדובר בפיתוח גדול, זוהי רק הגרסה הראשונית של השבב. הגרסה הבאה שלו נמצאת כעת בתהליכי פיתוח כדי לשפר עוד יותר את יעילות האנרגיה שלו.
בסך הכל, מחקר מתמשך זה מראה פוטנציאל גדול להשלכות מרחיקות לכת על עתיד תשתית הבינה המלאכותית ותפעול מרכזי הנתונים. אך כמובן, הדבר ידרוש יישום מוצלח של הטכנולוגיה בקנה מידה גדול, וזו אף פעם לא משימה קלה.
לחצו כאן כדי ללמוד כיצד בינה מלאכותית משנה את הנדסת המיקרו-שבבים.
ריסון התיאבון האנרגטי של הבינה המלאכותית עם פריצות דרך ברמות השונות
פיתוח השבב האחרון הוא רק אחד מפרויקטי מחקר רבים המתמודדים עם בעיית צריכת האנרגיה של הבינה המלאכותית. לכן, בואו נסתכל בקצרה על הדרכים החדשניות בהן חוקרים התמודדו עם זה.
שימוש באור ליעילות אנרגטית של בינה מלאכותית
מוקדם יותר השנה, מדעני USST מפותח1 שבב בינה מלאכותית מיקרוסקופי, קטן יותר מגרגר אבק או גרגר מלח, המשתמש באור כדי לעבד נתונים מכבלי סיבים אופטיים. זה מבטיח חישובים מהירים יותר עם צריכת אנרגיה נמוכה יותר.
השבב מתפעל אור כדי לבצע חישובים באופן מיידי במקום לפרש אותות אור כפי שעושים מחשבים מסורתיים. לשם כך, הוא משתמש ב"רשת עצבית עמוקה דיפרקטיבית לחלוטין אופטית", טכנולוגיה המשתמשת בשכבות מודפסות תלת-ממדיות של רכיבים המוערמים יחד. למרות היותו פורץ דרך, יש להתגבר על אתגרים כמו תכנון ספציפי למשימה, רגישות לפגמים וקושי בייצור בקנה מידה גדול כדי להשיג "פונקציונליות חסרת תקדים" בהדמיה אנדוסקופית, מחשוב קוונטי ומרכזי נתונים.
מספר חודשים לפני כן, מדעני MIT השתמשו גם באור כדי לבצע את הפעולות המרכזיות של רשת נוירונים על גבי שבב, מה שאפשר חישובי בינה מלאכותית מהירים במיוחד (בתוך חצי ננו-שנייה) עם דיוק של 92% ויעילות אנרגטית עצומה.
"עבודה זו מדגימה כי ניתן לקמפל את המחשוב - במהותו, מיפוי של קלטים לפלט - על ארכיטקטורות חדשות של פיזיקה לינארית ולא לינארית המאפשרות חוק קנה מידה שונה באופן מהותי של חישוב לעומת מאמץ נדרש."
– סופר בכיר דירק אנגלונד
המדענים פיתח את השבב הפוטוני2, העשוי ממודולים מחוברים זה לזה היוצרים רשת נוירונים אופטית. ראוי לציין כי השימוש בתהליכי יציקה מסחריים לייצורו מאפשר להרחיב אותו ולשלב אותו באלקטרוניקה. כמו כן, מדענים התגברו על אתגר אי-הלינאריות באופטיקה על ידי תכנון יחידות פונקציה אופטיות לא לינאריות (NOFU) המשלבות אלקטרוניקה ואופטיקה.
כלי תוכנה להדרכת בינה מלאכותית ומערכת קירור למרכזי נתונים
חוקרים מאוניברסיטת מישיגן, בינתיים, מכוון לבזבוז אנרגיה שנוצר בזמן אימון הבינה המלאכותית, ליתר דיוק, כאשר היא מחולקת בין כרטיסי מסך, הכרח לעיבוד מערכי נתונים עצומים, באופן לא שוויוני.
לכן, הם פיתחו כלי תוכנה בשם Perseus שמזהה תת-משימות שייקחו הכי הרבה זמן להשלמה ולאחר מכן מפחית את מהירות המעבדים שאינם ב"נתיב הקריטי" הזה כדי לאפשר לכולם להשלים את המשימות שלהם בו זמנית, ובכך להסיר צריכת חשמל מיותרת.
כלי קוד פתוח זה זמין כחלק מ-Zeus, כלי למדידה ואופטימיזציה של צריכת אנרגיה מבוססת בינה מלאכותית.
בינתיים, חוקרים מאוניברסיטת מיזורי פנו אל פיתוח מערכת קירור מהדור הבא כדי לעזור למרכזי נתונים להיות יעילים יותר מבחינה אנרגטית. הם גם מייצרים מערכת קירור לחיבור וניתוק קלים בתוך מדפי שרתים.
"קירור וייצור שבבים הולכים יד ביד. ללא קירור מתאים, רכיבים מתחממים יתר על המידה ונכשלים. מרכזי נתונים חסכוניים באנרגיה יהיו המפתח לעתיד מחשוב הבינה המלאכותית."
- צ'אנוו פארק, פרופסור להנדסת מכונות וחלל במכללת מיזו להנדסה
בעזרת תמיכה של 1.5 מיליון דולר מיוזמת COOLERCHIPS של משרד האנרגיה האמריקאי, הצוות פיתח מערכת קירור דו-פאזית המפזרת חום משבבי שרתים באמצעות שינוי פאזה. לא רק שהיא יכולה לפעול באופן פסיבי מבלי להשתמש באנרגיה כאשר נדרשת קירור מופחת, אלא שגם במצב פעיל, המערכת משתמשת בכמות קטנה מאוד.
חומרת CRAM עשויה להפחית פי 1000 את צריכת האנרגיה של בינה מלאכותית
בקיץ שעבר, מהנדסים באוניברסיטת מינסוטה, ערים תאומות פיתח התקן חומרה מתקדם3 שיכול להפחית את צריכת האנרגיה של בינה מלאכותית פי 1,000 בערך.
מודל חדש זה נקרא זיכרון גישה אקראית חישובי (CRAM), וכאן, הנתונים לעולם לא עוזבים את הזיכרון; במקום זאת, הם מעובדים במלואם בתוך מערך הזיכרון, וכך מבטלים את הצורך בהעברות נתונים עתירות אנרגיה ואיטיות.
מחקר זה, שנמשך שני עשורים, הוא חלק ממאמצי הצוות לבנות על מחקרו הפטנטי של המחבר הבכיר ג'יאן-פינג וואנג על התקני צומת מנהרה מגנטית (MTJs). התקנים ננו-מבניים אלה משמשים לשיפור חיישנים, כוננים קשיחים ומערכות מיקרואלקטרוניקה אחרות כמו זיכרון גישה אקראית מגנטי (MRAM).
"כמצע חישוב דיגיטלי מבוסס זיכרון פנימי יעיל ביותר באנרגיה, CRAM גמיש מאוד בכך שניתן לבצע חישוב בכל מקום במערך הזיכרון", ציין אוליה קרפוז'ו, פרופסור חבר במחלקה להנדסת חשמל ומחשבים, המחבר השותף. כמו כן, ניתן להגדיר אותו מחדש כך שיתאים בצורה הטובה ביותר לצורכי הביצועים של אלגוריתמים שונים.
בינה מלאכותית בהשראת המוח: צמצום צריכת החשמל על ידי חיקוי יעילות אנושית
אז, כפי שראינו, חוקרים בוחנים היבטים שונים של בינה מלאכותית כדי להתמודד עם בעיות האנרגיה שלה. מעניין לציין, שהם פונים גם למוח האנושי לקבלת השראה. זה הגיוני, אחרי הכל, בינה מלאכותית היא סימולציה של תהליכי אינטליגנציה אנושית על ידי מכונות, למרות שהיא... רחוק מלהיות קרוב לחשיבה והיגיון אנושיים בשל יכולתה להכליל על פני וריאציות שהיא "חלשה משמעותית מהקוגניציה האנושית".
המחקר על הפחתת אנרגיה, בהשראת המוח, כולל את עבודתו של פרופסור חבר צ'אנג שו במרכז הבינה המלאכותית של האוניברסיטה בסידני, שציין כי ניצול משאבים במלוא יכולתם, אפילו עבור משימות פשוטות, אינו הדרך הנכונה לעשות דברים. הוא הסביר:
"כשחושבים על מוח אנושי בריא - הוא לא מפעיל את כל הנוירונים או משתמש בכל כוח המוח שלו בבת אחת. הוא פועל ביעילות אנרגטית מדהימה, רק 20 וואט של כוח, למרות שיש בו כ-100 מיליארד נוירונים, בהם הוא משתמש באופן סלקטיבי מחצאי מוח שונים כדי לבצע משימות או חשיבה שונות."
ככאלה, הם מפתחים אלגוריתמים שעוקפים את החישובים המיותרים שאינם נחוצים ואינם נכנסים להילוך גבוה באופן אוטומטי.
במקרים אחרים, המחקר קיבל השראה מהנוירומודולציה של המוח ויצר אלגוריתם שנקרא 'מערכת אחסוןכדי להפחית אנרגיה ב-37% ללא כל פגיעה בדיוק, תפקוד התיקון העצמי של תאי המוח הנקרא אסטרוציטים עבור התקני חומרה, וקיבלנו צורה נוירומורפית (בהשראת המוח) של מחשוב (ממריסטורים) ל לעבוד יחד במספר תת-קבוצות של רשתות עצביות.
השקעה בבינה מלאכותית
חברת מוליכים למחצה גלובלית, AMD (AMD ) ידועה בטכנולוגיות המחשוב, הגרפיקה וההדמיה עתירות הביצועים שלה. בעודה בתחרות ישירה עם יקירת הבינה המלאכותית NVIDIA (NVDA ), היא צוברת תאוצה במהירות בשווקי מרכזי הנתונים ומאיצי הבינה המלאכותית. סדרת MI300 שלה מכוונת במיוחד לעומסי עבודה של בינה מלאכותית ויישומי HPC מדור קודם.
נוכחותה המובילה בתחום המעבדים של מרכזי נתונים, המיקוד החזק שלה במחקר ופיתוח, צמיחת ההכנסות, קהל הלקוחות והרכישות הופכים את AMD לשחקנית חזקה במגזר.
חברות Advanced Micro Devices (AMD )
בשנת 2022, AMD ביצעה עסקה שיא בתעשיית השבבים בשווי 50 מיליארד דולר עם רכישת Xilinx, כדי להפוך למובילה בתעשייה בתחום המחשוב עתיר הביצועים והאדפטיבי. ולאחרונה, היא השלימה את רכישת ZT Systems כדי להתמודד עם הזדמנות להאצת בינה מלאכותית למרכזי נתונים בשווי 500 מיליארד דולר בשנת 2028.
גם ביצועי השוק של AMD מתאוששים השנה לאחר שנפגעה מתהפוכות מכסים. נכון לכתיבת שורות אלה, מניית AMD נסחרת במחיר של 120 דולר, ירידה של 6.9% מתחילת השנה אך רק כ-47% מהשיא של מרץ 2024. עם זאת, שווי השוק שלה עומד על 182.34 מיליארד דולר, עם רווח למניה (ETM) של 1.36 ומכפיל לרווח (ETM) של 82.44.
באשר לנתונים הפיננסיים של החברה, AMD דיווחה על עלייה של 36% בהכנסות לרבעון הראשון של 7.4, ל-1 מיליארד דולר, אותה כינתה המנכ"לית ד"ר ליסה סו "פתיחה יוצאת דופן" לשנה, "למרות הסביבה המקרו-רגולטורית והדינמית". צמיחה זו נבעה מ"המומנטום של התרחבות מרכזי הנתונים והבינה המלאכותית", הוסיפה.
במהלך תקופה זו, הרווח התפעולי של AMD הסתכם ב-806 מיליון דולר, הרווח הנקי היה 709 מיליון דולר, והרווח המדולל למניה היה 0.44 דולר. לרבעון השני של 2, היא צופה הכנסות של כ-2025 מיליארד דולר.
כמה מההתפתחויות המרכזיות שביצעה החברה כוללות הרחבת שותפויות אסטרטגיות עם Meta Platforms Inc. (META ) (לָאמָה), אלפבית Inc. (GOOGL ) (ג'מה), אורקל (ORCL ), Core42, טכנולוגיות של Dell (DELL )ואחרים. AMD, יחד עם נוקיה, Cisco Systems, Inc. (CSCO ), ו-Jio, הכריזו גם על פלטפורמת בינה מלאכותית חדשה לטלקום פתוח שתציע פתרונות מונעי בינה מלאכותית לשיפור היעילות, האבטחה והיכולות.
כעת, השבוע, AMD ו-Nvidia שיתפו פעולה עם Humain, חברת בת של קרן ההשקעות הציבורית של ערב הסעודית המתמקדת בבינה מלאכותית, כדי לספק מוליכים למחצה לפרויקט מרכז נתונים בקנה מידה גדול שצפוי להיות בעל קיבולת של 500 מגה-וואט.
לחץ כאן לרשימת חברות המחשוב המובילות שאינן מסיליקון.
מגמות ופיתוחים אחרונים בתחום המיקרו-התקנים המתקדמים (AMD)
סיכום
במהלך השנים האחרונות, שיגעון הבינה המלאכותית חווה צמיחה מדהימה, ויש לכך סיבות טובות. טכנולוגיה זו, אחרי הכל, טומנת בחובה פוטנציאל אדיר לשנות מגוון רחב של תעשיות, החל מבריאות, ייצור ומדעי החומרים ועד פיננסים, בידור, חינוך, קמעונאות ואבטחת סייבר.
עם זאת, התקדמות טכנולוגית, אימוץ גובר והתרחבות שלאחר מכן של תוכניות לימודים אלו הביאו לביקוש משמעותי לאנרגיה, התורם לפליטות גזי חממה (GHG) ולשינויי אקלים, מגדיל את העלות הכלכלית ומשפיע על קיימות הטכנולוגיה.
זה מציב אתגר גדול עבור בינה מלאכותית. אם ברצוננו לממש את מלוא הפוטנציאל האמיתי שלה מבחינת הפחתת עלויות, עלייה בפריון ושיפור קבלת החלטות בקנה מידה גדול, המודלים חייבים להשיג יעילות כלכלית וקיימות.
הדבר הטוב, עם זאת, הוא שחוקרים ברחבי העולם כבר עובדים במרץ על הפיכת בינה מלאכותית לחסכונית באנרגיה, כפי שמעיד השבב המופעל על ידי בינה מלאכותית של אוניברסיטת אורגון סטייט, דבר המצביע על אפשרות חזקה ליישר קו בין חדשנות לקיימות.
כמובן, הטכנולוגיות המוצעות צריכות להתגבר על המכשול הגדול ביותר שלהן בהשגת השפעה בעולם האמיתי, מדרגיות. ובכל זאת, דבר אחד ברור: עתיד הבינה המלאכותית הירוקה יותר הוא בר ביצוע, והוא מגיע!
לחץ כאן כדי ללמוד הכל על השקעה בבינה מלאכותית.
מחקרים שהוזכרו:
1. יו, ה., הואנג, ז., למון, ס., וו, ג'., ז'או, ז., לין, ד., ז'או, ה., ג'אנג, ג'., לו, צ., ליו, ה., ג'אנג, ש., וג'אנג, צ. (2025). העברת תמונה אופטית לחלוטין דרך סיב רב-מודדי באמצעות רשת עצבית דיפרקטיבית ממוזערת על הפאה הדיסטלית. Nature Photonics, 19, 486–493. https://doi.org/10.1038/s41566-025-01621-4
2. Bandyopadhyay, S., Sludds, A., Krastanov, S., Youssry, A., Zhang, L., Lian, C., Yu, S., Desiatov, B., Burek, MJ, Lukin, MD, & Lončar, M. (2024). רשת עצבית עמוקה פוטונית בעלת שבב יחיד עם אימון קדימה בלבד. Nature Photonics, 18, 1335–1343. https://doi.org/10.1038/s41566-024-01567-z
3. Lv, Y., Zink, BR, Bloom, RP, Roy, A., Vaddi, K., Shang, L., & Manipatruni, S. (2024). הדגמה ניסיונית של זיכרון גישה אקראית חישובי מבוסס צומת מנהרה מגנטית. npj Unconventional Computing, 1, 3. https://doi.org/10.1038/s44335-024-00003-3
