טכנולוגיית ריבוי השחלות סימולטנית והטרוגני פורצת דרך כדי להפוך את המחשוב למהיר יותר

למרות שכל המכשירים החדשים של ענקיות הטכנולוגיה כמו אפל וגוגל כוללים שיפורים מצטברים - עלייה חד ספרתית בחיי הסוללה, ננומטר אחד פחות למעבד, שעדיין לא ייצר תשואה אופטימלית עבור היצרנים, או כמה מגה פיקסל נוספים - השאלה עולה: האם שיפורים צנועים כאלה באמת מספיקים? האם הוספת חומרה נוספת היא הפתרון?

לא לפי פרופסור חבר הונג-וויי טסנג מהמחלקה להנדסת חשמל ומחשבים באוניברסיטת קליפורניה, ריברסייד (UCR). הוא אומר: 

"אתה לא צריך להוסיף מעבדים חדשים כי כבר יש לך אותם."

פרופסור צנג, יחד עם צוות חוקרים, פיתח מסגרת תוכנה חדשה לעיבוד מקביל הנקרא סימולטני והטרוגני מרובי-הברגה (SHMT). על פי התוצאות הראשוניות, SHMT מוכנה לשפר משמעותית את מהירות העיבוד ולהפחית את צריכת החשמל על ידי ניצול היכולות הסמויות של המעבדים הנוכחיים במחשבים אישיים, טלפונים סלולריים והתקנים אחרים.

SHMT, שהוגדרה כ"פורצת דרך" על ידי קהילת הטכנולוגיה, שואפת להסיר צווארי בקבוק בזרימת נתונים ולאפשר שיתוף פעולה חלק של יחידות עיבוד רבות. פריצת דרך זו עשויה להשפיע לא רק על אלקטרוניקה אישית, אלא גם על מרכזי נתונים וסוגים אחרים של מחשוב מקביל מאוד.

לחץ כאן כדי ללמוד כיצד פוטוניקה מתקדמת תאפשר לנו לבנות סמארטפונים טובים יותר.

לשבור את צוואר הבקבוק

לפני שנצא לחקור את מלוא התהילה של מה שניתן להשיג עם ריבוי הליכי ריבוי סימולטני והטרוגני, הבה נבין תחילה את המגבלות של מערכות המחשוב הנוכחיות. 

ברוב המכשירים, רכיבים שונים, כמו יחידת העיבוד המרכזית (CPU), יחידת העיבוד הגרפי (GPU) ויחידת עיבוד הטנזור (TPU), מטפלים במידע בנפרד. נתונים מועברים מיחידת עיבוד אחת לאחרת, מה שגורם לרוב ל"צווארי בקבוק" המעכבים את ביצועי המערכת הכוללים.

מצב זה מחמיר עוד יותר על ידי מודלי התכנות המסורתיים, אשר בדרך כלל מאצילים משימות לסוג יחיד של מעבד, ובכך משאירים משאבים אחרים ללא פעילות ומיוצלים מספיק. בהשראת תצפיות אלו, מאמר המחקר 'Simultaneous and Heterogeneous Multi-threading' מאת קואן-צ'יה הסו והונג-וויי טסנג קובע: 

"דגמי התכנות המושרשים מתמקדים בשימוש רק ביחידות העיבוד היעילות ביותר עבור כל אזור קוד, תוך ניצול חסר של כוח העיבוד במחשבים הטרוגניים."

SHMT נוקטת סטייה מגישה זו על ידי ניצול המגוון של רכיבים מרובים בתוך מערכת מחשוב. מושג זה ידוע בשם הטרוגניות. על ידי פירוק פונקציות חישוביות והפצתן בין יחידות עיבוד זמינות, SHMT מאפשר עיבוד מקבילי אמיתי. 

גישה זו של פירוק פונקציות חישוביות והפצתן בין מספר יחידות עיבוד ממקסמת את ניצול המשאבים הזמינים כדי לשפר ביצועים ולחסוך באנרגיה. מאמר המחקר מנתח עוד יותר את החסרונות של מודלים תכנות מסורתיים בכך שהם "יכולים להאציל רק אזור קוד באופן בלעדי לסוג אחד של מעבד, ולהשאיר משאבי מחשוב אחרים פעילים מבלי לתרום לפונקציה הנוכחית." 

SHMT, לעומת זאת, שואפת להשתחרר מהאילוצים הללו על ידי מינוף הכישורים הייחודיים של כל יחידת עיבוד ועבודתה השיתופית באזור קוד משותף. המחברים מציינים גם כי טכנולוגיית המחשוב העכשווית היא הטרוגנית ללא ספק, שכן כל פלטפורמות המחשוב משלבות סוגים מרובים של יחידות עיבוד ומאיצי חומרה. זה דורש מודל תכנות שיכול לרתום ביעילות את כוחם של רכיבים מגוונים אלה (וזה בדיוק מה ש-SHMT שואפת להשיג).

לפיכך, SHMT סולל את הדרך למחשוב מהיר ויעיל יותר על ידי טיפול בצווארי הבקבוק במחשוב המסורתי כיום. 

כיצד פועלת טכנולוגיית ריבוי השחלות סימולטנית והטרוגנית?

כפי שברור, ניהול והפצת פעילויות מחשוב ביעילות בין רכיבי חומרה שונים הוא העיקרון הבסיסי מאחורי SHMT. 

המסגרת כוללת אוסף של פעולות וירטואליות (VOPs) כדי להקל על הורדת משימות מאפליקציית CPU ל- מכשיר חומרה וירטואליעל פי המחקר, "קבוצת פעולות וירטואליות (VOPs) מאפשרת לתוכנית CPU 'להוריד' פונקציה להתקן חומרה וירטואלי." VOPs אלה מתווכים תקשורת והאצלת משימות על ידי יצירת מחסום בין התוכנית לחומרה.

מערכת זמן ריצה ממטבת את הביצועים על ידי הערכת היכולות של כל משאב חומרה וקבלת החלטות תזמון חכמות בזמן שהיישום מבוצע. על פי המחקר, "במהלך ביצוע תוכנית, מערכת זמן ריצה מניעה חומרה וירטואלית של ריבוי-הליכים בו-זמנית והטרוגנית, ומודדת את יכולתו של משאב החומרה לקבל החלטות תזמון." כדי למקסם את יעילות המשאבים ולהתאים את עצמה לצרכים הספציפיים למשימה, SHMT מעריכה באופן דינמי את יכולות החומרה.

מערכת זמן הריצה מפרקת VOPs לפעולות ברמה גבוהה (HLOPs) כדי להפיץ אותם לתורי משימות חומרה שונים. על פי המחקר, "מערכת זמן הריצה מחלקת VOPs לפעולה אחת או יותר ברמה גבוהה (HLOPs) כדי להשתמש בו זמנית במספר משאבי חומרה." פירוק VOPs ל-HLOPs משיג שליטה פרטנית על הקצאת משרות וניצול מקסימלי של כל יחידת עיבוד.

מדיניות התזמון של SHMT משתמשת בגישת גניבת עבודה מודעת לאיכות (QAWS), המבטיחה ניצול משאבים יעיל ועומסי עבודה מגוונים. על פי המחקר, "SHMT משתמשת במדיניות תזמון גניבת עבודה מודעת לאיכות (QAWS) שאינה גוזלת משאבים, אלא מסייעת לשמור על בקרת איכות ואיזון עומסי עבודה." בנוסף לחלוקת עבודה יעילה ברחבי המערכת, גישה זו מונעת מכל יחידת עיבוד לאגור משאבים.

אם SHMT רוצה למקסם את הביצועים מבלי להקריב את האיכות, היא זקוקה למדיניות תזמון QAWS. המחקר קובע כי "SHMT חייב להבטיח את התוצאה מבלי לעלות על תקורה משמעותית." כדי להבטיח שהתפוקה מיחידות עיבוד הטרוגניות מדויקת ועקבית, SHMT משלבת טכניקות בקרת איכות בתזמון.

היכולת של SHMT לעשות שימוש ביכולות הספציפיות של כל פיסת חומרה היא יתרון משמעותי. כפי שמציין המחקר, "SHMT יכול לפרק את החישוב מאותה פונקציה למספר סוגים של משאבי מחשוב ומנצל סוגים הטרוגניים של מקביליות בינתיים." SHMT משפר מאוד את הביצועים מכיוון שהוא עושה שימוש במקביליות במערכות הטרוגניות כדי להריץ עבודות בו-זמנית על פני מספר יחידות מעבד.

היבט נוסף של SHMT שאמור להיות גמיש והתאמה הוא מערכת זמן הריצה. ולפי המחקר, "מכיוון ש-HLOPs הם בלתי תלויים בחומרה, מערכת זמן הריצה יכולה להתאים את הקצאת המשימות כנדרש." בגלל יכולת ההסתגלות שלו, SHMT יכול להגיב תוך כדי תנועה לשינויים בזמינות החומרה או דרישות עומס העבודה, ולהשאיר את המערכת פועלת בשיא היעילות והביצועים.

בסך הכל, המחקר מציג את כל השלבים הדרושים להבנת האופן שבו SHMT פועל, תוך הפניית תשומת לב לחלקים ולתהליכים הקריטיים המאפשרים לו להשיג יעילות ויעילות יוצאת דופן בסביבות מחשוב הטרוגניות. הודות ל-SHMT, שמשתמשת ב-VOPs, HLOPs ואסטרטגיית תזמון QAWS כדי לחולל מהפכה בעיבוד מקביל, עומד להתעורר עידן חדש של מחשוב יעיל ורב עוצמה.

ממצאים חיוביים מבדיקה ראשונית של אב הטיפוס

כדי להוכיח ש-SHMT עובד, חוקרים ב-UCR ערכו בדיקות קפדניות על מערכת אב טיפוס שחיקתה את יכולות מרכז הנתונים על ידי שימוש ברכיבים סטנדרטיים בטלפונים סלולריים עכשוויים. האב טיפוס כלל TPU של Google Edge המשולב בחריץ M.2 Key E של המערכת, מודול NVIDIA Jetson Nano עם מעבד ARM Cortex-A57 בעל ארבע ליבות, ו-128 ליבות GPU בארכיטקטורת Maxwell.

כדי להעריך את ביצועי מסגרת ה-SHMT תחת תנאי עומס עבודה שונים, החוקרים הריצו את האב טיפוס דרך סדרה של תוכניות ביצועים. התוצאה הייתה מרשימה: אסטרטגיית QAWS בעלת הביצועים הגבוהים ביותר לא רק הפחיתה את צריכת האנרגיה ב-51%, אלא גם שיפרה את ביצועי העיבוד פי 1.95 בהשוואה לטכניקת הבסיס.

התוצאות מדגישות את הפוטנציאל של SHMT לשפר משמעותית את ביצועי העיבוד ואת יעילות האנרגיה במגוון רחב של מכשירים ויישומי תוכנה. SHMT הוכיחה שניתן להפיק את המרב מהמערכת הנוכחית על ידי ניצול טוב יותר של כל המשאבים שלה מבלי להוציא הון תועפות על חומרה חדשה.

עם הצורך ההולך וגובר במחשוב מהיר ויעיל יותר, פריצות דרך כמו ריבוי הליכי ריבוי סימולטני והטרוגני יהפכו להיות חיוניות יותר ויותר בעיצוב המסלול העתידי של הטכנולוגיה. עבודת צוות המחקר של UCR מבהירה שמציאת פתרונות מחשוב ארוכי טווח ובעלי ביצועים גבוהים המסוגלים להסתגל לדרישות הדינמיות של העולם הדיגיטלי שלנו מעולם לא הייתה קלה יותר מאשר בעבודה של צוות המחקר של UCR.

השלכות וכיוונים עתידיים של ריבוי השחלות סימולטני והטרוגני

היצירה והבדיקה של SHMT מייצגים שינוי עמוק בעתיד המחשוב. יש לו פוטנציאל לחולל מהפכה בתכנון מכשירי המחשוב ובשימוש במספר יישומים על ידי מתן שיפור משמעותי בביצועים וחיסכון באנרגיה עם החומרה הקיימת.

ככל ש-SHMT זוכה לאימוץ רחב יותר, ייתכן שהצרכנים יוכלו להימנע מעדכוני חומרה יקרים וליהנות ממכשירים ניידים, טאבלטים, מחשבים ניידים ומחשבים שולחניים מהירים ומגיבים יותר. בגלל זה, בקרוב יותר אנשים יוכלו לרכוש ולקבל גישה למחשבים בעלי ביצועים גבוהים, שיסייעו לסגור את הפער הדיגיטלי.

גם מרכזי נתונים ומערכות מחשוב גדולות אחרות עשויים למצוא ב-SHMT כלי חיוני לקיצוץ בעלויות וצריכת אנרגיה מבלי להתפשר על ביצועים. בנוסף, חידושים המקדמים יעילות אנרגטית וקיימות, כגון SHMT, יקבלו משמעות ככל שהדאגות לגבי ההשפעות הסביבתיות של הטכנולוגיה יגברו.

למרות מאמציהם, צוות המחקר של UCR מכיר בכך שעדיין יש מכשולים שצריך לכבוש והזדמנויות לחקירה נוספת ולקידום בעתיד. מהנדסי תוכנה ויצרני חומרה יצטרכו לעבוד בשיתוף פעולה הדוק כדי ליישם SHMT בקנה מידה גדול. זה יבטיח שהטכנולוגיה תעבוד היטב בכל המכשירים והפלטפורמות. עם זאת, נדרש מחקר נוסף כדי לקבוע אילו יישומים ועומסי עבודה מתאימים ביותר לשימוש בטכנולוגיה מהפכנית זו.

למרות המכשולים הללו, אנשי אקדמיה ועסקים כאחד שמו לב לתוצאות המוקדמות המבטיחות של SHMT. האפשרות שטכנולוגיה פורצת דרך זו עשויה לשנות את תעשיית המחשבים הופכת לאטרקטיבית יותר ויותר ככל שהמחקרים מתקדמים ושיתופי פעולה מתפתחים. 

כמו רעיונות מבריקים רבים אחרים, נראה כי ריבוי חוטים בו-זמני והטרוגני הוא תוצר של שכל ישר, אבל השטן נמצא בפרטים הקטנים. בעוד שהרעיון של מטמון משותף בין CPUs ו-GPUs מסקרן, הוא צפוי לדרוש שיפוץ מלא של ארכיטקטורת החומרה.

זה יצדיק התרחקות מארכיטקטורת x86-64 הנוכחית, ותכנון כזה יחייב פיתוח של ארכיטקטורת מעבד חדשה עם מטמון L3 או L4 משותף. זה, בתורו, יגדיל את המורכבות של ה-CPU ועלול לשלול את כל היתרונות שהושגו מהמטמון המשותף. 

נוסף על כך, זיכרון המטמון הוא בדרך כלל קטן בהרבה בהשוואה ל-RAM של המערכת ואינו מתאים ליישומי GPU, הדורשים כמויות גדולות של זיכרון ברוחב פס גבוה. עם זאת, התפתחויות כמו זיכרון אוניברסלי עשוי להתייחס לחששות אלה. ככל שהמחקר על SHMT יימשך, יהיה מרגש לראות כיצד הטכנולוגיה החדשנית הזו מתפתחת ומשפיעה על העתיד של עיבוד מקביל ומחשוב הטרוגני.