השקעה בחומרה של בינה מלאכותית: ממעבדים ועד מעבדי XPU

השקעה בחומרה של בינה מלאכותית: גישת "מקדשים ואתים"

בינה מלאכותית מבטיחה להיות השינוי החשוב ביותר בכלכלה שלנו, במערכות הייצור ובחברה בעשורים האחרונים, מה שעשוי להפוך אפילו את השינויים הרדיקליים שהביא האינטרנט לטריוויאליים בהשוואה.

זה עלול לגרום לקטגוריה שלמה של משרות להיעלם, כולל נהגים, מתרגמים, תמיכת לקוחות, מעצבי אתרים וכו'. משרות אחרות עשויות לחוות ירידה דרסטית בביקוש, כמו מתכנתים, עורכי דין מתחילים, אבחונים וכו'.

זה אמור גם ליצור ערך ופרודוקטיביות נוספים רבים עבור משימות רבות אחרות, כאשר חברות תוכנת הבינה המלאכותית הדומיננטיות הן ככל הנראה הראשונות להגיע לשווי שוק שלא ניתן היה לדמיין בעבר.

מכל הסיבות הללו, שוקי ההון והמשקיעים היו מרותקים לבינה מלאכותית ומקדישים תשומת לב רבה להתקדמותן של ענקיות הטכנולוגיה הרבות בתחום, כמו גם לתחרות החזקה הצצה מצד ענקיות טכנולוגיה סיניות כמו Alibaba וסטארטאפים כמו DeepSeek.

דרך נוספת לשחק את פריחת הבינה המלאכותית היא לפעול לפי האסטרטגיה הידועה כעובדת בכל בהלה לזהב: אל תחפשו זהב, אלא תמכרו את המכושים והאתים. זה בהחלט עבד עבור החברות שהיו במצב הטוב ביותר למכור חומרה מותאמת לבינה מלאכותית, עם... Nvidia (NVDA ) לאחר שהפכה את כרטיסי המסך לגיימינג שלה לשבבי אימון בינה מלאכותית, מה שהפך אותה לחברה היקרה ביותר בעולם, לאחר שעברה את שווי השוק המדהים של 4 טריליון דולר (לדיווח מלא על Nvidia, לחצו על הקישור).

מכיוון שבינה מלאכותית דורשת חומרה ספציפית מאוד, השונה בעיקר מצורות קודמות אחרות של משימות מחשוב, ומהווה הזדמנות עסקית עצומה, תעשיית המוליכים למחצה נמצאת כעת במרוץ לפיתוח צורות חדשות של חומרה שתוכננו במיוחד להכשרה ולהפעלת תוכניות בינה מלאכותית.

בעוד שסביר להניח ש-Nvidia תישאר אחת החברות המובילות בתחום, כעת צצות חלופות שיכולות לספק הזדמנויות מעניינות למשקיעים ששמים לב מוקדם.

למה בינה מלאכותית זקוקה לחומרה ייעודית

חישובים קטנים רבים

מאמצים ראשוניים בתחום הבינה המלאכותית השתמשו באותה קיבולת מחשוב כמו תוכנות אחרות, תוך התמקדות בעיקר במעבדים (יחידות עיבוד מרכזיות - CPU). מעבדים עדיין חשובים, אך מהר מאוד התברר שהם אינם אופטימליים עבור רוב השיטות המשמשות כיום לפיתוח בינה מלאכותית.

רשתות נוירונים ושיטות דומות אחרות דורשות הרבה חישובים פשוטים יחסית, במקום חישוב אחד מורכב מאוד. עבודה מקבילה של מספר רב של שבבים קטנים יותר עדיפה בדרך כלל על מעבדים גדולים וחזקים.

זו במידה רבה הסיבה שמעבדים גרפיים הפכו במהירות פופולריים יותר, שכן כרטיסי מסך מתוכננים מטבעם לבצע אלפי חישובים קטנים יותר במקביל.

אימון הבינה המלאכותית של ימינו מבוסס במידה רבה על רשתות עצביות, מושג שזכה בפרס נובל לפיזיקה בשנת 2024, פרס שסקרנו בפירוט במאמר ייעודי בזמנו..

מקור: פרס נובל

מהפכה שנייה בטכנולוגיית הבינה המלאכותית הגיעה עם "טרנספורמטורים". הם פותרים את בעיות הרשתות העצביות המסורתיות. חוסר יכולת לעבד ביעילות רצפי נתונים ארוכים, מאפיין נפוץ של כל שפה טבעית.

הוצג לראשונה בשנת 2017 על ידי חוקרי גוגל, והוא שורש הצמיחה הנוכחית בקיבולת הבינה המלאכותית. רובוטריקים (טרנספורמטורים) נמצאים בליבת מוצרי בינה מלאכותית כמו מודלים גדולים לשפה (LLM), כולל ChatGPT.

דרישות שונות

הבדל חשוב אחד בזרימות עבודה של בינה מלאכותית הוא ההבדל בין כוונון עדין והסקה, שלשתיהן דרישות חומרה שונות.

• כוונון עדין כרוך באימון מודל על נתונים ספציפיים לתחום, הדורשים כוח מחשוב וזיכרון משמעותיים. זוהי משימה טכנית מאוד, שלעתים קרובות נמצאת בקצה הקצה של מדע הבינה המלאכותית.
• הסקה מתמקד בשימוש במודל שכבר אומן כדי לייצר תפוקות, תוך דרישה לפחות כוח חישוב אך דגש רב יותר על השהייה נמוכה ויעילות כלכלית.
  • זה נעשה באופן שגרתי יותר על ידי מומחי בינה מלאכותית המשתמשים במודלים קיימים כדי לפתור בעיות מהחיים האמיתיים.

לכן, בעוד שעלויות הן כמובן דאגה הן לכוונון עדין/אימון והן להסקת מסקנות/שימוש בבינה מלאכותית, אימון לרוב ידרוש את החומרה הטובה ביותר האפשרית, בעוד שמשימות שימוש יתמקדו יותר בעלות החומרה ובצריכת האנרגיה בעת בחירת אפשרות החומרה הטובה ביותר.

מעבדים לעומת כרטיסי מסך

יחידות עיבוד מרכזיות (CPU):

מעבדים הם לשימוש כללי ואינם חומרה ספציפית לבינה מלאכותית. עם זאת, הם עדיין חיוניים לביצוע הוראות וחישובים בסיסיים במערכות בינה מלאכותית.

רוב התוכנות המטפלות בממשק עם המשתמשים הסופיים של מערכת בינה מלאכותית יהיו גם הן ממוקדות במעבד, בין אם מדובר במחשבים בודדים או בתוכנות מבוססות ענן.

מקור: AnandTech

ניתן להשתמש במעבדים גם עבור בינה מלאכותית פשוטה מאוד, שבהם חומרה ייעודית אינה נדרשת באמת. זה נכון במיוחד כאשר הפלט אינו דחוף במיוחד, ועיבוד הבינה המלאכותית האיטי יחסית של המעבדים אינו מהווה בעיה.

לכן, מודלים קטנים עם קבוצות קטנות של נתונים וחישובים יכולים לתפקד היטב על מעבדים. הנוכחות בכל מקום של מעבדים במחשבים רגילים הופכת אותם גם לאופציה טובה עבור משתמש ממוצע שאינו מוכן להשקיע בחומרה ספציפית לבינה מלאכותית.

מעבדים הם גם אמינים ויציבים מאוד, מה שהופך אותם לבחירה טובה עבור משימות קריטיות שבהן אי שגיאות הן קריטריון חשוב.

לבסוף, מעבדים שימושיים עבור חלק מהמשימות באימון בינה מלאכותית, בדרך כלל בשיתוף פעולה עם סוגים אחרים של חומרה, כמו טעינת נתונים, עיצוב, סינון וויזואליזציה.

יחידות עיבוד גרפי (GPUs):

מעבדים גרפיים (GPUs), שתוכננו במקור לרינדור גרפי, נועדו לעיבוד מקבילי, מה שהופך אותם לאידיאליים לאימון מודלים של בינה מלאכותית הדורשים טיפול במערכי נתונים גדולים. המעבר ממעבדים למעבדים גרפיים קיצר את זמני האימון משבועות לשעות.

בשל זמינותם הנרחבת וניסיונם של מומחי IT לעבוד איתם, מעבדים גרפיים (GPU) היו הסוג הראשון של חומרת מחשוב שהותקנה בטור כדי להרחיב את מחקר הבינה המלאכותית.

מקור: Aorus

גם פיתוח CUDA על ידי Nvidia, ממשק תכנות כללי עבור כרטיסי המסך של NVIDIA, תרם רבות להצלחתם של כרטיסי המסך, ופתח את הדלת לשימושים נוספים מלבד משחקים. הדבר נעשה משום שחוקרים מסוימים כבר השתמשו בכרטיסי המסך לביצוע חישובים במקום במחשבי העל הרגילים.

"חוקרים הבינו שעל ידי רכישת כרטיס המשחקים הזה שנקרא GeForce, אתה מוסיף אותו למחשב שלך, אתה בעצם מקבל מחשב-על אישי."

דינמיקה מולקולרית, עיבוד סייסמי, שחזור CT, עיבוד תמונה - חבורה שלמה של דברים שונים."

Jensen Huang, בראיון לסקויה

כיום, כרטיסי מסך (GPU) עדיין נחשבים לסוגי חומרת הבינה המלאכותית המבוקשים ביותר, כאשר Nvidia בקושי מצליחה לייצר מספיק כדי לספק את הביקוש של ענקיות הטכנולוגיה שבונות מרכזי נתונים של בינה מלאכותית בקנה מידה של ג'יגה-וואט.

זוהי גם תחילתה של "עידן הסופר-גרפי", עם ההשקה האחרונה של Nvidia של ה-GB200 NVL72.

חומרה זו נועדה לפעול כמעבד גרפי ענק יחיד היישר מהמפעל, במקום שיהיה צורך לחבר אליו הרבה מעבדים קטנים. זה הופך אותה לחזקה הרבה יותר אפילו מדגם ה-H100 ששבר שיאים בעבר.

מקור: Nvidia

זה אמור להיות גם הרבה יותר יעיל באנרגיה, נקודה קריטית מכיוון שתעשיית הבינה המלאכותית עלולה לסבול ממחסור באנרגיה לפני מחסור בשבבים במהירות שבה נבנים מרכזי נתונים של בינה מלאכותית. ויותר מחשוב ויעילות אנרגטית פירושם פחות חום מבוזבז, מה שפותר באופן זמני גם את בעיית התחממות יתר.

עלייתם של ASICs וחומרת בינה מלאכותית

מעגלים משולבים ספציפיים ליישום (ASICs) הם חומרת מחשוב שתוכננה במיוחד עבור משימת מחשוב נתונה, מה שהופך אותם למיוחדים אף יותר מאשר מעגלים גרפיים כלליים יחסית.

אז הם פחות גמישים וניתנים לתכנות מאשר חומרה למטרות כלליות.

ככלל, הם נוטים להיות מורכבים יותר. הם גם בדרך כלל יקרים יותר, הן בשל חוסר יתרונות גודל בייצורם והן בשל עלות העיצובים המותאמים אישית.

עם זאת, הם יעילים הרבה יותר במשימה הנתונה להם, בדרך כלל מייצרים פלט מהר יותר עם הרבה פחות בזבוז כוח מחשוב ואנרגיה.

מעגלי ASIC וחומרה ספציפית אחרת לבינה מלאכותית נמצאים בשימוש גובר, שכן התחום שם לב בהדרגה לכך שחלק מהחישובים אינם מבוצעים באופן אידיאלי על מעבדים גרפיים אלא דורשים ציוד מיוחד יותר.

יחידות עיבוד טנזור (TPUs)

יחידות TPU פותחו על ידי גוגל (GOOGL ) במיוחד לביצוע חישובי טנזור (מקושרים לחשבון מבוסס שנאים). הם ממוטבים לאריתמטיקה בעלת תפוקה גבוהה ודיוק נמוך.

מקור: C# קורנר

זה נותן ל-TPUs ביצועים גבוהים, יעילות ומדרגיות לאימון רשתות נוירונים גדולות.

ל-TPUs תכונות מיוחדות, כגון יחידת כפל מטריצה (MXU) וטופולוגיית חיבור קניינית, שהופכות אותם לאידיאליים להאצת אימון והסקת בינה מלאכותית.

יחידות TPU מפעילות את Gemini, ואת כל האפליקציות של גוגל המופעלות על ידי בינה מלאכותית כמו חיפוש, תמונות ומפות, ומשרתות למעלה ממיליארד משתמשים.

סוג חומרה זה יכול להאיץ משמעותית את הפיתוח והפעולה של רשתות עצביות, שבהן השגיאה מדי פעם פחות משמעותית, מכיוון שמודלים אלה מסתמכים במידה רבה על סטטיסטיקה ומספר רב של חישובים מלכתחילה.

בין משימות משתמש הקצה המתאימות ביותר ל-TPUs הן למידה עמוקה, זיהוי דיבור וסיווג תמונות.

מעבדי רשת עצביים (NNPs):

יחידות עיבוד עצביות (NPPs), המקושרות גם ליחידות עיבוד עצביות (NPUs) ונקראות שבבים נוירומורפיים, מתמחות בחישוב רשתות עצביות, שנועדו לחקות את הקשרים העצביים במוח האנושי. לעיתים הן נקראות גם מאיץ בינה מלאכותית, אם כי מונח זה פחות מוגדר היטב.

יחידת עיבוד שבבי (NPU) תשלב גם אחסון וחישוב באמצעות משקלים סינפטיים. כך שהיא תוכל להתאים את עצמה או "ללמוד" לאורך זמן, מה שיוביל לשיפור היעילות התפעולית.

NPU כולל מודולים ספציפיים לכפל וחיבור, פונקציות הפעלה, פעולות נתונים דו-ממדיות ודקומפרסיה.

מודול הכפל והחיבור הייעודי משמש לביצוע פעולות הרלוונטיות לעיבוד של יישומי רשת עצביים, כגון חישוב כפל וחיבור של מטריצות, קונבולוציה, מכפלה ופונקציות אחרות.

ההתמחות יכולה לעזור ל-NPU להשלים פעולה עם חישוב אחד בלבד במקום כמה אלפים עם חומרה כללית. לדוגמה, IBM טוענת ש-NPU יכול לשפר באופן דרסטי את יעילות חישוב הבינה המלאכותית בהשוואה ל-GPU.

"בדיקות הראו שביצועי מעבדי NPU מסוימים טובים פי 100 יותר מאשר ביצועי GPU דומה, עם אותה צריכת חשמל."

בגלל יעילות אנרגטית זו, יחידות NPU פופולריות בקרב יצרנים להתקנה במכשירי משתמשים, שם הן יכולות לסייע בביצוע משימות מקומיות עבור אפליקציות בינה מלאכותית גנרטיבית, דוגמה ל"מחשוב קצה". (ראה להלן עוד בנושא זה).

שיטות רבות נחקרות כיום כיצד ליצור שבבים נוירומורפיים:

• מנף את החשמל ההתחלתי, תופעה שעדיין לא מובנת.
• מצע פעיל באמצעות ונדיום או טיטניום.
• שימוש בממריסטורים, סוג חדש של רכיב אלקטרוני, שיכול לבצע משימות AI ב-1/800^thשל צריכת החשמל הרגילה.

Aעזר Pמתחרים Uאִנְבָּה (XPUs)

XPU מאחד את המעבד (CPU), ה-GPU (כרטיס מסך / מעבדים מקבילים) והזיכרון לאותו התקן אלקטרוני.

מקור: ברודקום

XPUs הוא מונח רחב, הכולל וריאציות רבות של תפיסה זו של איחוד כל החומרה ליחידות עצמאיות, כולל יחידות עיבוד נתונים (DPU), יחידות עיבוד תשתית (IPU), ו כרטיסי מאיץ פונקציות (FACs).

מרכזי נתונים מבוססי בינה מלאכותית (XPU) נתפסים כפתרון לבעיה הולכת וגדלה של מרכזי נתונים מבוססי בינה מלאכותית, שהיא הצורך הגובר בקישוריות בין יחידות המשנה, עד כדי כך שהשהיית נתונים הופכת לגורם חשוב בהאטת המחשוב, יותר מכוח המחשוב הזמין.

בעיקרון, השבבים (מעבדים גרפיים, טרופיים, גרעיני ננו-צינור וכו') ממתינים לנתונים באותה מידה שהם עובדים בפועל.

מובילה בתחום הטכנולוגיה הזו היא ברודקום (AVGO ), אשר דנו בפירוט בדוח השקעות ייעודי.

מערכי שערים ניתנים לתכנות בשטח (FPGA):

FPGAs הם מעבדים הניתנים לתכנות, מה שהופך אותם לגמישים וניתנים להגדרה מחדש באופן משמעותי מאשר ASICs נוקשים יותר. ניתן להתאים FPGAs לאלגוריתמים ספציפיים של בינה מלאכותית, מה שעשוי להציע ביצועים ויעילות אנרגטית גבוהים יותר.

מקור: מעבדות מיקרו-בקרים

הגמישות כרוכה במחיר, שכן FPGAs הם בדרך כלל מורכבים יותר, יקרים יותר וצורכים יותר חשמל. עם זאת, הם עדיין יכולים להיות יעילים יותר מחומרה כללית.

זה הופך אותם למוצר נישה במידה מסוימת, שבו הגמישות שלהם מפצה על החסרונות. לדוגמה, למידת מכונה, ראייה ממוחשבת ועיבוד שפה טבעית יכולים להפיק תועלת מהרבגוניות של FPGAs.

זיכרון רוחב פס גבוה (HBM):

ההתפתחויות החשובות ביותר בחומרה מותאמת אישית המתמקדת בבינה מלאכותית היו בתחום כוח המחשוב, שבמשך זמן רב היה נקודת המחלוקת בבניית קיבולת מחשוב נוספת להכשרת בינה מלאכותית חדשה.

ועדיין, מערכות אלו זקוקות גם למערכות תמיכה בעלות יעילות גבוהה, שזיכרון הוא חשוב ביניהן. HBM מספקת, כפי ששמו מרמז, רוחב פס גבוה יותר מאשר DRAM מסורתי.

זה מושג על ידי הצבת מספר שבבי DRAM אנכית וחיבורם באמצעות ויאים דרך סיליקון (TSVs). הדור הראשון של HBM פותח בשנת 2013.

הערימה האנכית חוסכת מקום ומפחיתה את המרחק הפיזי שהנתונים צריכים לעבור, מה שמאיץ את העברת הנתונים, דבר שחובה במחשוב בינה מלאכותית.

רכיבי HBM מורכבים יותר לייצור ויקרים יותר מ-DRAM, אך יתרונות הביצועים ויעילות האנרגיה מצדיקים לעתים קרובות את העלות הגבוהה יותר עבור יישומי בינה מלאכותית.

תשתית מרכז נתונים של בינה מלאכותית: חשמל, קירור וקישוריות

מלבד הזיכרון וכוח המחשוב, גם מערכות העזר של מרכזי נתונים מבוססי בינה מלאכותית חשובות. בלעדיהן, הנתונים לא יוכלו לזרום מספיק מהר, השבבים יתחממו יתר על המידה, או שהכוח הזמין לא יהיה מספיק.

משמעות הדבר היא, למשל, שגם חומרת קישוריות של ברודקום מרוויחה רבות מבניית מרכזי נתונים מבוססי בינה מלאכותית, וכך גם פתרונות מיוחדים כמו ספקי ציוד קירור, למשל Vertiv. (VRT ) או שניידר אלקטריק (SU.PA).

אספקת החשמל עשויה גם היא להפוך לבעיה, וכמה ענקיות טכנולוגיה מנסות להתמודד עם הבעיה על ידי הימור על אנרגיה גרעינית, עם הצעד הראשון של מיקרוסופט בשנת 2024, ואחריהם רבים אחרים מאז.

בשילוב עם מחויבות להפחתת טביעת הרגל הפחמנית של בינה מלאכותית מצד חברות טכנולוגיה, הדבר אמור להועיל רבות לחברות בתחום האנרגיה הגרעינית או המתחדשת, כמו קמקו (CCJ ), GE Vernova (GEV ), הראשון שמש (FSLR ), עידן הבא (NEE ), או Brookfield Energy Partners (BEP ) (עקבו אחר הקישורים לדיווח על כל חברה).

טכנולוגיות מחשוב בינה מלאכותית מתפתחות

מחשוב קוונטי

מכיוון שבינה מלאכותית כל כך רעבה לכוח מחשוב, ייתכן שעתיד החומרה בתחום אפילו לא טמון בפתרונות הסיליקון הקיימים כיום.

אפשרות אחת היא שניתן יהיה להשתמש במחשוב קוונטי כדי לזהות דפוסים בצורה יעילה הרבה יותר ממה שמחשוב קלאסי אי פעם הצליח, משהו שכבר נחקר על ידי חוקרים.

מחשוב קוונטי בכללותו יכול לשמש לפתרון חישובים ספציפיים שכמעט בלתי אפשריים באמצעות מחשוב בינארי. סביר להניח שזה ייושם בסופו של דבר גם בבינה מלאכותית, אך מחשבי הקוונטים המסחריים הראשונים עדיין רחוקים מספר שנים, ורשת קוונטית גדולה רחוקה עוד יותר.

פוטוניקה

באמצעות אור במקום אלקטרונים לנשיאת נתונים, פוטוניקה יכולה להיות מהירה בהרבה ממכשירים אלקטרוניים.

מכיוון שמחשבים קוונטיים בדרך כלל נושאים נתונים קוונטיים עם פוטונים שזורים, יש גם חפיפה רבה בין מחשוב קוונטי לפוטוניקה, ו... השבב הקוונטי-פוטוני הכפול הראשון כבר הוכרז.

אורגנואידים

מכיוון שרוב הבינה המלאכותית משכפלת במחשבים את תפקודן של רשתות העצבים של המוח, חוקרים מסוימים תוהים האם לא נוכל במקום זאת להשתמש... בתאי מוח אמיתיים.

זה רעיון מסקרן, במיוחד בהתחשב בכך מחקרים מסוימים עשויים להצביע על כך שהמוח הוא למעשה מחשב קוונטי אורגני.

סוג זה של "מחשב" נקרא אורגנואידים, והוא מורכב למעשה מנוירונים שגודלו במעבדה על שבב מחשב. לאחר מכן הנוירונים מארגנים את עצמם את הדנדריטים והקשרים שלהם בתגובה לגירוי השבב.

טכנולוגיה זו עדיין חדשה ומסתמכת על הדפסה ביו-תלת-ממדית.

אחרים

בחנו חלופות נוספות למחשוב סיליקון ב-"10 חברות מחשוב שאינן סיליקון המובילות", כגון ונדיום דיאוקסיד, גרפן, חסימות חמצון-חיזור או חומרים אורגניים.

כל אחד מהם מבטיח להיות מהיר בהרבה או עתיר אנרגיה בהרבה ממחשוב מבוסס סיליקון קלאסי. עם זאת, הם עדיין חדשים יחסית וסביר להניח שלא יחוללו מהפכה בתחום הבינה המלאכותית בקנה מידה מסחרי, לפחות ב-5-10 השנים הבאות.

בינה מלאכותית בענן ובינה מלאכותית בקצה: מגמות נגישות

ענן AI

מכיוון שמערכות הבינה המלאכותית החזקות ביותר מיוצרות על ידי חברות טכנולוגיה גדולות, הן נגישות בעיקר דרך הענן. הדבר נכון גם לגבי גישה לחומרה המתמחה בבינה מלאכותית עצמה.

מוביל המגמה הזו הוא Coreweave (CRCW ), חברה שעברה מספקית ענן לכריית מטבעות קריפטוגרפיים באמצעות כרטיסי מסך, וכיום מספקת מחשוב בינה מלאכותית לפי דרישה.

זה הפך את CoreWeave לשותפה מרכזית של סטארט-אפים חדשים בתחום הבינה המלאכותית שמנסים להתחרות בענקיות הטכנולוגיה, כמו Inflection AI ו שלה אשכול GPU בשווי 1.3 מיליארד דולר, ממומן על ידי סבב גיוס חדש.

"לפני חודשיים, חברה אולי לא הייתה קיימת, ועכשיו ייתכן שיש לה מימון הון סיכון של 500 מיליון דולר."

והדבר הכי חשוב להם לעשות הוא גישה מאובטחת למחשוב; הם לא יכולים להשיק את המוצר שלהם או את העסק שלהם עד שיהיה להם את זה."

בריאן ונטורו - CTO של CoreWeave

ככל שהשחקן הטהור בחומרת בינה מלאכותית הופך לחשדן כלפי חברות טכנולוגיה גדולות המייצרות GPU, TPU, XPU וכו' משלהן ומתפתחות מלקוחות למתחרים, סביר להניח שחברות כמו CoreWeave יקבלו גישה עדיפה למהדורת החומרה האחרונה של Nvidia ואחרות.

מודל עסקי זה יהיה ככל הנראה חשוב במיוחד להכשרת בינה מלאכותית, הדורשת הרבה יותר קיבולת מחשוב מאשר שימוש בבינה מלאכותית שכבר אומנה.

מחשבי קצה ומחשבי בינה מלאכותית

מקרה נוסף של מחשוב בינה מלאכותית שמתפתח במהירות הוא הצורך לבצע את מחשוב מערכות בינה מלאכותית באתר, קרוב ככל האפשר למצבים אמיתיים.

זהו חובה עבור מערכות שעשויות לא לסבול ניתוק מבינה מלאכותית אם החיבור נכשל, או כאשר זמן ההשהיה של הלוך ושוב עם הענן איטי מדי.

דוגמה טובה לכך היא מכוניות אוטונומיות, שצפויות לבצע את הבנת סביבתן במצב לא מקוון.

סוג חישוב זה נקרא מחשוב קצה, והוא מרוויח רבות מחומרה יעילה יותר ופחות צמאה לחשמל.

זה יכול להגביר את אמינות הבינה המלאכותית, וככל שהמודלים הופכים יעילים יותר, כפי שמודגם בקפיצת הדרך של DeepSeek, זה עשוי להפוך למודל נפוץ יותר של פריסת בינה מלאכותית בעתיד.

מאותה סיבה, מחשבי בינה מלאכותית כמו זה שהשיקה לאחרונה Nvidia, עשוי בטווח הארוך להספיק כדי להריץ יישומי בינה מלאכותית רבים באופן מקומי, מה שיגביר את הפרטיות והאבטחה בהשוואה לחיבור תמידי לבינה מלאכותית בענן.

סיכום

חומרת בינה מלאכותית הייתה, במשך זמן מה, שם נרדף למעבדים גרפיים (GPU), שכן כרטיסי מסך היו יעילים הרבה יותר באימון בינה מלאכותית מאשר סוגים אחרים של חומרה כמו מעבדים. זה יצר את הון חברת Nvidia ושל רבים מבעלי המניות הראשונים שלה.

מעבדים גרפיים (GPU), במיוחד "סופר-GPU" המתמקדים בבינה מלאכותית, צפויים להישאר חשובים בבניית מרכזי נתונים של בינה מלאכותית. אך הם יתפתחו לאחד המרכיבים של מערכות מורכבות ומתמחות יותר ויותר.

פעולות שנאי יישלחו ל-TPUs, רשתות נוירונים שהוטלו על NPP, משימות חוזרות ל-ASICs ייעודיים או FPGAs שתצורתם נקבעה מחדש.

בינתיים, זיכרון בעל רוחב פס גבוה, מחברי תקשורת מתקדמים וקירור יעיל במיוחד ישמרו על כל פונקציות העזר סביב ליבת המחשוב פועלות.

עבור מחשוב קצה ובינה מלאכותית קטנה יותר מאשר ה-LLMs הענקיים, מחשוב מקומי, שאולי מופעל על ידי מעבדי XPU הכל-באחד, ישמש ככל הנראה מדענים, מכוניות אוטונומיות ומשתמשים המודאגים מפרטיות או צנזורה, פוטנציאלית עם מודלים של בינה מלאכותית בקוד פתוח.

מה שבטוח הוא שהרווחים ממכירת "המכושים והאתים" של חומרת בינה מלאכותית בבהלה לזהב של בינה מלאכותית רחוקים מלהסתיים.

לאחר תקופה של שליטה של Nvidia, משקיעים עשויים לרצות לגוון סיכונים על ידי פיזור תיק החומרה של בינה מלאכותית (IA) לעיצובים אחרים, ואולי אפילו לחברות חשמל שיספקו את הגיגה-וואט היקרים להפעלת מרכזי הנתונים של בינה מלאכותית, ההולכים וגדלים בעולם.