מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיץ

במאמר הזה מתוארות מכונות Compute Engine עם מעבדי GPU של NVIDIA שמצורפים מראש במשפחת המכונות שמותאמות להאצה. המכונות האלה מיועדות במיוחד לבינה מלאכותית (AI), למידת מכונה (ML), מחשוב עתיר ביצועים (HPC) ואפליקציות שדורשות משאבים גרפיים רבים.

משפחת המכונות שמותאמות לאקסלרטורים כוללת את סדרות המכונות הבאות: A4X Max,‏ A4X,‏ A4,‏ A3,‏ A2,‏ G4 ו-G2. לכל סוג מכונה בסדרה יש דגם ספציפי ומספר ספציפי של מעבדי GPU של NVIDIA שמחוברים אליה. אפשר גם לצרף דגמים מסוימים של GPU למכונות וירטואליות לשימוש כללי מסוג N1.

מידע נוסף על מכונות שמותאמות למאיצים עם יחידות TPU מצורפות זמין במאמר מכונות TPU במשפחת המכונות שמותאמות למאיצים.

דגמי GPU וסדרות מכונות

בטבלה הבאה מפורטים המפרטים של החומרה, המיפויים של סדרות המכונות, רוחב הפס של הרשת ויכולות האחסון של דגמי ה-GPU שזמינים ב-Compute Engine:

דגם ה-GPU סדרת מכונות ארכיטקטורה זיכרון ורוחב פס של GPU מעבדים גרפיים לכל מכונה רוחב הפס המקסימלי של הרשת אחסון SSD מקומי Interconnect תמיכה ב-NVIDIA RTX Virtual Workstation (vWS)‎
NVIDIA GB300 A4X Max Blackwell Ultra ‫279GB HBM3e‏ (8TBps) ‫4 (NVL72) 3,600 Gbps ‫12,000 GiB ‫NVLink Full Mesh ‏ (1,800GBps) לא
NVIDIA GB200 A4X Blackwell ‫186GB‏ HBM3e‏ (8TBps) ‫4 (NVL72) ‫2,000 Gbps ‫12,000 GiB ‫NVLink Full Mesh ‏ (1,800GBps) לא
NVIDIA B200 A4 Blackwell ‫180GB HBM3e ‏ (8TBps) 8 3,600 Gbps ‫12,000 GiB ‫NVLink Full Mesh ‏ (1,800GBps) לא
NVIDIA H200 A3 Ultra תא אחסון עליון ‫141GB HBM3e‏ (4.8TBps) 8 3,600 Gbps ‫12,000 GiB ‫NVLink Full Mesh ‏ (900GBps) לא
NVIDIA H100 A3 Mega, High, Edge תא אחסון עליון ‫80GB HBM3‏ (3.35TBps) 1, 2, 4, 8 עד 1,000 Gbps עד 6,000 GiB ‫NVLink Full Mesh ‏ (900GBps) לא
NVIDIA A100 (80GB) A2 Ultra אמפר ‫80GB HBM2e ‏ (1.9TBps) 1, 2, 4, 8 100 Gbps עד 3,000 GiB ‫NVLink Full Mesh ‏ (600GBps) לא
NVIDIA A100 (40GB) A2 Standard אמפר ‫40GB HBM2‏ (1.6TBps) 1, 2, 4, 8, 16 100 Gbps עד 3,000 GiB ‫NVLink Full Mesh ‏ (600GBps) לא
NVIDIA RTX PRO 6000 G4 Blackwell ‫96GB GDDR7‏ (1.597TBps) 1/8, 1/4, 1/2, 1, 2, 4, 8 200 Gbps עד 3,000 GiB PCIe גרסה 5 כן
NVIDIA L4 G2 עדה לאבלייס ‫24GB GDDR6 ‏ (300GBps) 1, 2, 4, 8 100 Gbps עד 3,000 GiB PCIe גרסה 4 כן
NVIDIA V100 N1+V100 Volta ‫16GB HBM2 ‏ (900GBps) 1, 2, 4, 8 100 Gbps נתמך ‫NVLink Ring ‏ (300GBps) לא
‫NVIDIA T4 (מתקרב לסיום התמיכה) N1+T4 Turing ‫16GB GDDR6 ‏ (320GBps) 1, 2, 4 100 Gbps נתמך PCIe גרסה 3 כן
‫NVIDIA P4 (מתקרב לסיום התמיכה) N1+P4 פסקל ‫8GB GDDR5 ‏ (192GBps) 1, 2, 4 100 Gbps נתמך PCIe גרסה 3 כן

בקטע הבא מפורטות סדרות המכונות המומלצות בהתאם לעומסי העבודה של ה-GPU. למידע נוסף על בחירת אסטרטגיית מחשוב לעומסי עבודה של AI/ML ו-HPC, קראו את המאמר בחירת אסטרטגיית מחשוב במסמכי התיעוד של AI Hypercomputer.

אימון AI/ML

  • מודלי בסיס מתקדמים ושילוב מומחים (MoE): אימון מראש של מודלים גדולים של טרנספורמרים, ארכיטקטורות מולטי-מודאליות ורשתות שילוב מומחים (MoE) דורש תפוקה גבוהה של Tensor Core, קיבולת גדולה של זיכרון ברוחב פס גבוה (HBM) (עד 279GB לכל GPU) ורוחב פס של חיבור NVLink במהירות גבוהה במיוחד (עד 1,800GBps) כדי לצמצם את זמן האחזור של הסנכרון בין כמה צמתים. סדרת המכונות המומלצת:

    מידע נוסף זמין במאמר המ��צות לאימון מראש של מודלים במסמכי התיעוד של AI Hypercomputer.

  • כוונון עדין ואימון מודלים מתון: התאמה של מודלים בסיסיים קיימים באמצעות טכניקות כמו כוונון יעיל בפרמטרים (PEFT) ו-Low-Rank Adaptation‏ (LoRA) דורשת מספיק זיכרון GPU כדי להכיל את משקלי המודל והגרדיאנטים, בלי צורך באשכולות מרובי-צמתים בקנה מידה של אקסה-בייט. סדרת המכונות המומלצת:

    • ‫A3 High (NVIDIA H100)
    • ‫A2 (NVIDIA A100)
    • G4 (NVIDIA RTX PRO 6000)

    מידע נוסף זמין במאמר המלצות לכוונון מודלים במסמכי התיעוד של AI Hypercomputer.

הסקת מסקנות באמצעות AI/ML

  • הסקת מסקנות ממודלים גדולים (יותר מ-70 מיליארד פרמטרים): כדי להריץ מודלי שפה גדולים (LLM), כדאי להשתמש בזיכרון ברוחב פס גבוה (HBM3e) (141GB עד 186GB לכל GPU) כדי להתאים את משקלי המודל לפחות יחידות GPU, וכך לצמצם את התקורה של התקשורת בין השבבים. סדרת המכונות המומלצת:

    • ‫A4X (NVIDIA GB200)
    • ‫A4 (NVIDIA B200)
    • ‫A3 Ultra (NVIDIA H200)

  • תפוקה גבוהה ועיבוד בזמן אמת: שאילתות אינטראקטיביות עם זמן אחזור קצר, תשובות בסטרימינג ויצירת תמונות משתמשות בפורמטים מספריים מכומתים עם האצת חומרה, כמו נקודה צפה (floating-point) של 8 ביט (FP8), מספר שלם של 8 ביט (INT8) ומספר שלם של 4 ביט (INT4), כדי למקסם את תפוקת הבקשות לכל דולר. סדרת המכונות המומלצת:

    מידע נוסף זמין במאמר המלצות להצגת הסקות במסמכי התיעוד של AI Hypercomputer.

גרפיקה ורכיבים חזותיים

HPC וסימולציה

  • סימולציה ומודלים מדעיים: אפליקציות בדינמיקה מולקולרית (כמו GROMACS ו-AMBER), דינמיקת נוזלים חישובית (CFD), כימיה קוונטית, אסטרופיזיקה וחיזוי מזג אוויר דורשות ביצועים גבוהים של נקודה צפה (FP64) עם דיוק כפול של 64 ביט ורוחב פס גבוה של זיכרון. סדרת המכונות המומלצת:

    • ‫A4X (NVIDIA GB200)
    • ‫A4 (NVIDIA B200)
    • ‫A3 (NVIDIA H100)
    • ‫A2 (NVIDIA A100)

    מידע נוסף זמין במאמר המלצות ל-HPC במסמכי התיעוד של AI Hypercomputer.

סדרות המכונות A4X Max ו-A4X

סדרות המכונות A4X Max ו-A4X פועלות בפלטפורמה בקנה מידה של אקסה-בייט שמבוססת על ארכיטקטורה בקנה מידה של ארון שרתים של NVIDIA, והן מותאמות לעומסי עבודה של HPC ואימון ML שמוגבלים לרשת ודורשים הרבה משאבי מחשוב וזיכרון. ההבדלים העיקריים בין A4X Max ל-A4X הם ברכיבי ה-GPU והרשת. מכונות A4X Max זמינות רק כמכונות Bare Metal, שמאפשרות גישה ישירה למעבד ולזיכרון של השרת המארח, בלי ה-hypervisor של Compute Engine באמצע.

לכל סוגי המכונות בסדרות A4X Max ו-A4X יש שני שקעים עם מעבדי NVIDIA Grace™‎ עם ליבות Arm® Neoverse™ V2. המעבדים האלה מתחברים לארבעה מעבדים גרפיים באמצעות תקשורת NVLink-C2 מהירה בין שבבים.

שתי סדרות המכונות, A4X Max ו-A4X, מבוססות על ארכיטקטורת NVL72 של NVIDIA בקנה מידה של ארון שרתים, שמשתמשת בדומיינים של NVLink כדי לאפשר מחשוב GPU בקנה מידה גדול ובביצועים גבוהים. דומיין NVLink הוא קבוצה של שבבי NVIDIA NVSwitch מקושרים וה-GPU שמחוברים אליהם, שיוצרים מארג רשת במהירות גבוהה שמאפשר תקשורת ישירה ומהירה בין יחידות ה-GPU. בסוגי המכונות A4X Max ו-A4X, דומיין NVL72 (NVLink)‎ אחד מורכב מ-18 מכונות ו-72 יחידות GPU.

השוואה בין A4X Max ל-A4X

בטבלה הבאה מוצגת השוואה בין התכונות השונות של סוגי המכונות A4X Max ו-A4X:

��כונ�� ‫A4X Max‏ (NVIDIA GB300) ‫A4X‏ (NVIDIA GB200)
האצת GPU למכונות A4X Max מצורפים באופן אוטומטי שבבי NVIDIA GB300 Ultra Superchip. השבבים האלה כוללים מעבדי GPU מסוג NVIDIA B300, עם זיכרון GPU כולל של עד 20TB לכל דומיין NVL72, כלומר בערך 279GB לכל GPU. למכונות A4X יש שבבי NVIDIA GB200 Superchip שמחוברים אוטומטית. השבבים האלה כוללים מעבדי GPU מסוג NVIDIA B200 ומציעים זיכרון בנפח 186GB לכל GPU.
רשת משופרת עם RoCE

במכונות A4X Max, פרוטוקול RDMA over Converged Ethernet ‏ (RoCE) משפר את ביצועי הרשת על ידי שילוב של NVIDIA ConnectX-8 (CX-8) SuperNICs עם הרשת של Google ברמת מרכז הנתונים, שכוללת ארכיטקטורת rail-aligned עם שמונה מסילות. ההגדרה הזו מספקת רוחב פס של עד 3,200Gbps, שמתאים במיוחד למשימות אימון בקנה מידה גדול ולמשימות HPC.

לרשתות למטרות כלליות, לכל מכונה יש גם רוחב פס של עד 400Gbps.

במכונות A4X, פרוטוקול RDMA over Converged Ethernet‏ (RoCE) משפר את ביצועי הרשת על ידי שילוב של כרטיסי רשת NVIDIA ConnectX-7 (CX-7)‎ עם הרשת של Google בכל מרכז הנתונים, שכוללת ארבעה מסלולים בארכיטקטורת rail-aligned. הארכיטקטורה הזו מספקת רוחב פס של עד 1,600Gbps, ומאפשרת תקשורת עם תפוקה גבוהה וזמן אחזור קצר לעומסי עבודה מבוזרים בקנה מידה גדול.

לרשתות למטרות כלליות, לכל מכונה יש גם רוחב פס של עד 400Gbps.
ביצועים שבבי NVIDIA GB300 Ultra Superchips מספקים ביצועי FP4 דחוסים של 15 PetaFLOPS. במשימות הסקה ב-FP4 בקנה מידה גדול, שבבי GB300 Ultra Superchip צפויים לספק ביצועים גבוהים ב-20% עד 40% בהשוואה לשבבי GB200 Superchip. שבבי NVIDIA GB200 Superchip מספקים ביצועי FP4 דחוסים של 10 PetaFLOPS.
תמיכה ב-Bare Metal ובמכונות וירטואליות מכונות Bare Metal בלבד רק מכונות וירטואליות
תמיכה במערכת ההפעלה מכונות A4X Max תומכות במגוון קובצי אימג' של מערכת ההפעלה Linux. עם זאת, מכיוון שמכונות Bare Metal משתמשות במנהל ההתקן של הרשת Infrastructure Data Path Function‏ (IDPF), קובץ האימג' של מערכת ההפעלה חייב לתמוך ב-IDPF. כדי להשתמש בקובץ אימג' של מערכת הפעלה שזמין ב-Compute Engine, עיינו במאמר קובצי אימג' של מערכות הפעלה שתומכים ב-IDPF. מכונות A4X תומכות במגוון קובצי אימג' של מערכת ההפעלה Linux. כאן תוכלו לקרוא אילו מערכות הפעלה נתמכות ב-Compute Engine.

למכונות מסוג A4X Max ו-A4X יש ��ת המאפיינים הבאים:

  • פלטפורמת מעבד (CPU): סוגי המכונות A4X Max ו-A4X משתמשים בפלטפורמת המעבד NVIDIA Grace עם ליבות Arm® Neoverse™ V2. למידע נוסף על הפלטפורמה, ראו פלטפורמות של מעבדים.

  • מדרגיות של NVLink: NVLink עם כמה צמתים מאפשר להגדיל את מספר מעבדי ה-GPU עד ל-72 מעבדים בדומיין אחד, ומספק רוחב פס דו-כיווני של 1,800GB לשנייה לכל מעבד GPU.

  • תמיכה בדיסקים: מכונות A4X Max ו-A4X תומכות ב-SSD מקומי לדיסקים מהירים לאחסון נדיף, שמועילים להזנת נתונים למעבדי GPU תוך מניעת צווארי בקבוק של קלט/פלט. ‫12,000GiB של Local SSD מתווספים אוטומטית למכונות A4X Max ו-A4X.

    לאחסון עמיד, אפשר לצרף עד 512 TiB של אחסון Hyperdisk. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תמיכה בהקצאה צפופה ובתזמון שמותאם לטופולוגיה: סוגי המכונות A4X Max ו-A4X תומכים בבקשת בלוקים של קיבולת בהקצאה צפופה. המכונות המארחות מוקצות קרוב פיזית זו לזו, מוקצות כבלוקים של משאבים ומחוברות ביניהן באמצעות מארג רשת דינמי של ML כדי לצמצם את מספר הצעדים ברשת ולבצע אופטימיזציה לזמן אחזור קצר. בנוסף, במכונות A4X Max ו-A4X אפשר לקבל מידע על הטופולוגיה ברמת הצומת והאשכול, ולהשתמש בו כדי להקצות משימות.

אפשרויות תמחור וצריכה למכונות A4X Max ו-A4X

במכונות A4X Max ו-A4X אפשר להשתמש באפשרויות הבאות לצריכה ולהנחות:

‫Google Cloud מחייב מכונות A4X Max ו-A4X על מעבדי ה-GPU המצורפים, מעבדי ה-vCPU המוגדרים מראש, הזיכרון ודיסקי ה-SSD המקומיים הכלולים בחבילה. השימוש ב-Hyperdisk וברשת מחויב בנפרד מהתמחור של סוג המכונה. למידע נוסף, ראו אפשרויות תמחור וצריכה, תמחור של סוגי מכונות ממשפחת Accelerator-optimized ותמחור של GPU.

סוג המכונה A4X Max‏ (NVIDIA GB300)

סוגי המכונות A4X Max accelerator-optimized משתמשים ב-NVIDIA GB300 Grace Blackwell Ultra Superchips (nvidia-gb300) והם אידיאליים לאימון ולשירות של מודלים בסיסיים. סוגי המכונות A4X Max זמינים כמכונות Bare Metal.

‫A4X Max היא פלטפורמה בקנה מידה של אקסה-פלופ שמבוססת על NVIDIA GB300 NVL72. לכל מכונה יש שני שקעים עם מעבדי NVIDIA Grace עם ליבות Arm Neoverse V2. המעבדים האלה מחוברים לארבעה מעבדים גרפיים מסוג NVIDIA B300 Blackwell עם תקשורת מהירה בין שבבים (NVLink-C2C). מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A4X Max ו-A4X.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מדגם NVIDIA GB300 זיכרון GPU (GB HBM3e)
a4x-maxgpu-4g-metal 144 960 12,000 6 3,600 4 1,116

הערות לגבי סוגי המכונות A4X Max

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, קראו את המאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

סוג המכונה A4X‏ (NVIDIA GB200)

סוגי מכונות עם אופטימיזציה למאיצים מסוג A4X משתמשים ב-NVIDIA GB200 Grace Blackwell Superchips (nvidia-gb200) והם אידיאליים לאימון ולשירות של מודלים בסיסיים.

‫A4X היא פלטפורמה בקנה מידה אקסה (exascale) שמבוססת על NVIDIA GB200 NVL72. לכל מכונה יש שני שקעים עם מעבדי NVIDIA Grace עם ליבות Arm Neoverse V2. המעבדים האלה מחוברים לארבעה מעבדי NVIDIA B200 Blackwell GPU עם תקשורת מהירה בין שבבים (NVLink-C2C). מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A4X Max ו-A4X.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מדגם NVIDIA GB200 זיכרון GPU (GB HBM3e)
a4x-highgpu-4g 140 884 12,000 6 2,000 4 744

הערות לגבי סוגי מכונות A4X

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, קראו את המאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

המגבלות של A4X Max ו-A4X

המגבלות הבאות חלות על מכונות A4X Max ו-A4X:

מכונות A4X Max

מכונות A4X

סוגי הדיסקים שנתמכים במכונות A4X Max ו-A4X

A4X Max

במכונות A4X Max אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk Balanced ‏ (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Local SSD: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A4X Max

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme ‫SSD מקומי מצורף
a4x-maxgpu-4g-metal 32 32 32 32 8 4

A4X

במכונות A4X אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk Balanced ‏ (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Local SSD: מתווסף אוטומטית למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A4X

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme ‫SSD מקומי מצורף
a4x-highgpu-4g 128 128 0 0 128 8 4

ההערה הבאה רלוונטית לטבלה שלמעלה:

מגבלות על הדיסק ועל הקיבולת

אפשר לצרף למכונה שילוב של סוגי Hyperdisk שונים, אבל קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מ-512TiB לכל ה-Hyperdisks.

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk.

חוויית התחזוקה במכונות A4X Max ו-A4X

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע מארח יכול לכלול תחזוקה שוטפת של תשתית Compute Engine, או במקרים נדירים, שגיאת מארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות A4X Max ו-A4X:

סוג המכונה מספר יחידות ה-GPU תדירות טיפוסית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה לפי דרישה סימולציה של תחזוקה
‫A4X Max ו-A4X 4 90 ימים לפחות עצירה והפעלה מחדש (עם שמירת נתונים ב-SSD מקומי) 90 ימים כן לא

תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

למידע נוסף על תחזוקת מארחים ב-AI Hypercomputer, קראו את המאמר ה��בר על תחזוקת מארחים במרכז העזרה של AI Hypercomputer.

סדרת המכונות A4

בסדרת המכונות A4 יש סוגי מכונות עם עד 224 יחידות vCPU וזיכרון בנפח 3,968GB. מכונות A4 מספקות ביצועים טובים פי 3 מסוגי מכונות GPU קודמים, ברוב עומסי העבודה שמואצים באמצעות GPU. מומלץ להשתמש ב-A4 לעומסי עבודה של אימון למידת מכונה, במיוחד בקנה מידה גדול – לדוגמה, מאות או אלפי יחידות GPU. סדרת המכונות A4 זמינה בסוג מכונה אחד.

למכונות וירטואליות שנוצרו באמצעות סוג המכונה A4 יש את המאפיינים הבאים:

  • האצת GPU באמצעות מעבדי NVIDIA B200: מעבדי NVIDIA B200 מצורפים אוטומטית למכונות A4, שמציעות זיכרון GPU בנפח 180GB לכל GPU.

  • מעבד Intel Xeon Scalable מדור חמישי (Emerald Rapids): מציע תדר טורבו מקסימלי של עד 4.0GHz לליבה אחת. מידע נוסף על המעבד הזה זמין במאמר פלטפורמת מעבד (CPU).

  • מדרגיות של NVLink: מעבדי GPU מסוג NVIDIA B200 מספקים רוחב פס של GPU NVLink של 1,800GBps, דו-כיווני לכל GPU.

    עם טופולוגיית NVLink של All-to-All בין 8 מעבדי GPU במערכת, רוחב הפס המצטבר של NVLink הוא עד 14.4TBps.

  • עבודה ברשת משופרת עם RoCE: RDMA over Converged Ethernet (RoCE) משפר את ביצועי הרשת על ידי שילוב של כרטיסי רשת (NIC) מדגם NVIDIA ConnectX-7 עם רשת בארכיטקטורת rail-aligned בעלת ארבעה כיוונים של גוגל, המשתרעת על פני מרכז הנתונים. באמצעות RDMA over Converged Ethernet‏ (RoCE), במכונות A4 אפשר להגיע לקצב העברת נתונים גבוה בהרבה בין מכונות באשכול בהשוואה לרוב מכונות A3, חוץ מאלה שפועלות בסוג המכונה A3 Ultra.

  • מהירויות רשת גבוהות יותר: מהירויות רשת גבוהות עד פי 4 בהשוואה למכונות A2 מהדור הקודם.

    למידע נוסף על רשתות, קראו את המאמר רוחבי פס של רשתות ו-GPU.

  • אופטימיזציה של וירטואליזציה להעברת נתונים ולשחזור: הטופולוגיה של Peripheral Component Interconnect Express (PCIe) במכונות A4 מספקת מידע מדויק יותר על המיקום, שעומסי העבודה יכולים להשתמש בו כדי לבצע אופטימיזציה של העברת ה��תונים.

    המעב��ים הגרפיים גם חושפים את Function Level Reset‏ (FLR) לשחזור חלק מתקלות, ותומכים בפעולות אטומיות לשיפורים בו-זמניים בתרחישים מסוימים.

  • תמיכה בדיסקים: מכונות A4 תומכות ב-SSD מקומי לדיסקי אחסון נדיף (scratch disk) מהירים, שמועילים להזנת נתונים למעבדי GPU תוך מניעת צווארי בקבוק של קלט/פלט. לאחסון עמיד, אפשר לצרף אמצעי אחסון ב-Hyperdisk.

    ‫12,000GiB של Local SSD מתווספים אוטומטית למכונות A4. לעומסי עבודה שדורשים אחסון בלוקים עמיד, אפשר גם לצרף עד 512TiB של Hyperdisk למכונות A4. למידע נוסף על סוגי דיסקים, קראו את המאמר בחירת סוג דיסק.

  • תמיכה בהקצאה צפופה ובתזמון שמותאם לטופולוגיה: כשמקצים מכונות A4, אפשר לבקש בלוקים של קיבולת בהקצאה צפופה. המכונות המארחות מוקצות קרוב פיזית זו לזו, מוקצות כבלוקים של משאבים ומחוברות ביניהן באמצעות מארג דינמי של רשת למידת מכונה כדי לצמצם את מספר הדילוגים ברשת ולבצע אופטימיזציה לזמן האחזור הנמוך ביותר. בנוסף, אתם יכולים לקבל מידע על הטופולוגיה ברמת הצומת והאשכול, ולהשתמש בו כדי להקצות משימות.

אפשרויות תמחור וצריכה של מכונות A4

במכונות A4 אפשר להשתמש באפשרויות הצריכה וההנחה הבאות:

ב-Google Cloud , החיוב על מכונות A4 הוא לפי יחידות ה-GPU שמחוברות אליהן, מעבדי ה-vCPU שהוגדרו מראש, הזיכרון והדיסקים המקומיים של SSD שמצורפים אליהן. החיוב על השימוש ב-Hyperdisk וברשת מתבצע בנפרד מהתמחור של סוג המכונה. למידע נוסף, ראו אפשרויות תמחור וצריכה, תמחור של סוגי מכונות ממשפחת Accelerator-optimized ותמחור של GPU.

סוג מכונה A4‏ (NVIDIA B200)

סוגי המכונות A4 accelerator-optimized כוללים מעבדי NVIDIA B200 Blackwell GPU (nvidia-b200) והם אידיאליים לאימון ולהצגה של מודלים בסיסיים. למידע על המגבלות של סוגי המכונות, קראו את המאמר מגבלות של A4.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי GPU מסוג NVIDIA B200 Blackwell זיכרון GPU (GB HBM3e)
a4-highgpu-8g 224 3,968 12,000 10 3,600 8 1,440

הערות לגבי סוגי מכונות A4

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. מידע נוסף על רוחב הפס של הרשת זמין במאמר רוחב הפס של הרשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות ב-A4

סוגי הדיסקים שנתמכים במכונות A4

במכונות A4 אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Local SSD: מתווסף אוטומטית למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A4

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme ‫SSD מקומי מצורף
a4-highgpu-8g 128 128 לא רלוונטי 128 8 32

ההערה הבאה רלוונטית לטבלה שלמעלה:

מגבלות על הדיסק ועל הקיבולת

אפשר לצרף למכונה שילוב של סוגי Hyperdisk שונים, אבל קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מ-512TiB לכל ה-Hyperdisks.

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk.

חוויית התחזוקה במכונות A4

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע מארח יכול לכלול תחזוקה שוטפת של תשתית Compute Engine, או במקרים נדירים, שגיאת מארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות A4:

סוג המכונה מספר יחידות ה-GPU תדירות טיפוסית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה לפי דרישה סימולציה של תחזוקה
A4 8 90 ימים לפחות עצירה והפעלה מחדש (עם שמירת נתונים ב-SSD מקומי) 90 ימים כן לא

תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

למידע נוסף על תחזוקת מארחים ב-AI Hypercomputer, קראו את המאמר הסבר על תחזוקת מארחים במרכז העזרה של AI Hypercomputer.

סדרת המכונות A3

בסדרת המכונות A3 יש עד 224 מעבדי vCPU וזיכרון בנפח 2,944GB. סדרת המכונות הזו מותאמת לעומסי עבודה של HPC, לאימון ML שמוגבל לרשת ולעומסי עבודה שדורשים הרבה משאבי מחשוב וזיכרון. סדרת המכונות A3 זמינה בסוגי המכונות A3 Ultra,‏ A3 Mega,‏ A3 High ו-A3 Edge.

בטבלה הבאה מוצגת השוואה בין התכונות השונות של סוגי המכונות מסדרת A3:

תכונה ‫A3 Ultra‏ (NVIDIA H200) ‫A3 Mega,‏ High ו-Edge‏ (NVIDIA H100)
האצת GPU

מעבדי GPU מסוג NVIDIA H200 SXM מחוברים, עם זיכרון GPU בנפח 141GB לכל מעבד GPU, שמספקים זיכרון גדול ומהיר יותר לתמיכה במודלי שפה גדולים (LLM) ובעומסי עבודה של HPC.

מעבדי GPU מסוג NVIDIA H100 SXM, עם זיכרון GPU בנפח 80GB לכל מעבד GPU, שמתאימים במיוחד למודלים גדולים של שפה מבוססי-טרנספורמר, למסדי נתונים ול-HPC.
מעבדי Intel Xeon Scalable

מעבד Intel Xeon Scalable מדור חמישי (Emerald Rapids), שמציע תדר טורבו מקסימלי של עד 4.0GHz לליבה אחת. מידע נוסף על המעבד הזה זמין במאמר פלטפורמות של מעבדים.

מעבד Intel Xeon Scalable מדור רביעי (Sapphire Rapids), שמציע תדר טורבו מקסימלי של עד 3.3GHz לליבה אחת. מידע נוסף על המעבד הזה זמין במאמר פלטפורמות של מעבדים.
רשת משופרת

בסוג המכונה הזה, טכנולוגיית RDMA over Converged Ethernet ‏ (RoCE) משפרת את ביצועי הרשת על ידי שילוב של כרטיסי רשת (NIC) מסוג NVIDIA ConnectX-7 עם רשת בארכיטקטורת rail-aligned עם 4 מסי��ות בכל מרכז הנתונים של Google. באמצעות RDMA over Converged Ethernet‏ (RoCE), סוג המכונה a3-ultragpu-8g מש���� תפוקה גבוהה בהרבה בין מכונות באשכול בהשוואה לסוגי מכונות אחרים של A3.
  • בסוגי המכונות A3 Mega, ‏GPUDirect-TCPXO משפר עוד יותר את GPUDirect-TCPX על ידי העברת פרוטוקול ה-TCP. כשמשתמשים ב-GPUDirect-TCPXO, רוחב הפס של הרשת בסוג המכונה a3-megagpu-8g כפול בהשוואה לסוגי המכונות A3 High ו-A3 Edge.
  • בסוגי המכונות A3 Edge (a3-edgegpu-8g)‎ ו-A3 High (a3-highgpu-8g)‎, ‏GPUDirect-TCPX משפר את ביצועי הרשת בכך שהוא מאפשר להעביר את המטען הייעודי (payload) של חבילות הנתונים ישירות מזיכרון ה-GPU לממשק הרשת. באמצעות GPUDirect-TCPX, סוגי המכונות האלה משיגים תפוקה גבוהה בהרבה בין מכונות באשכול בהשוואה לסוגי המכונות A2 או G2 שעברו אופטימיזציה למאיצים.
מהירויות רשת משופרות

מהירות הרשת גבוהה עד פי 4 בהשוואה לסדרת המכונות A2 מהדור הקודם.

מידע נוסף על רשתות זמין במאמר רוחבי פס של רשתות ו-GPU.

מהירות הרשת גבוהה עד פי 2.5 בהשוואה לסדרת המכונות A2 מהדור הקודם.

מידע נוסף על רשתות זמין במאמר רוחבי פס של רשתות ו-GPU.

לכל סוגי המכונות מסדרת A3 יש את המאפיינים הבאים:

  • יכולת התאמה לעומס (scalability) של NVLink: מעבדי GPU מסוג NVIDIA H200 ו-H100 מספקים רוחב פס של GPU NVLink בשיא של 450GBps, בכיוון אחד. באמצעות טופולוגיית NVLink מסוג all-to-all, מערכת עם 8 מעבדי GPU מגיעה לרוחב פס מצטבר של עד 7.2TBps.

  • אופטימיזציה של וירטואליזציה: טופולוגיית Peripheral Component Interconnect Express (PCIe) של מכונות A3 מספקת מידע מדויק יותר על המיקום, שעומסי העבודה יכולים להשתמש בו כדי לבצע אופטימיזציה של העברות נתונים. המעבדים הגרפיים גם חושפים את Function Level Reset‏ (FLR) להתאוששות חלקה מכשלים, ותומכים בפעולות אטומיות לשיפורים בו-זמניים בתרחישים מסוימים.

  • תמיכה בדיסקים: מכונות A3 תומכות ב-SSD מקומי לדיסקים מהירים של אחסון נדיף (scratch disk), שמועילים להזנת נתונים ל-GPU תוך מניעת צווארי בקבוק של קלט/פלט. לאחסון עמיד, אתם יכולים לצרף אמצעי אחסון של Persistent Disk ו-Hyperdisk.

    כך מצרפים SSD מקומי:

    • ‫12,000GiB של Local SSD מתווספים אוטומטית למכונות A3 Ultra.
    • ‫6,000GiB של Local SSD מתווספים באופן אוטומטי למכונות A3 Mega,‏ High ו-Edge.

    לעומסי עבודה שדורשים אחסון בלוקים עמיד, אפשר גם לצרף עד 512TiB של Persistent Disk ו-Hyperdisk לסוגי המכונות בסדרות האלה. בסוגי מכונות מסוימים יש תמיכה גם ב-Persistent Disk בנפח של עד 257 TiB. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תמיכה במדיניות למיקום קומפקטי: שליטה רבה יותר במיקום הפיזי של המכונות במרכזי הנתונים. המיקום הזה מאפשר זמן אחזור קצר יותר ורוחב פס גבוה יותר למכונות שנמצאות באזור זמינות יחיד. מידע נוסף זמין במאמר מידע על מדיניות למיקום קומפקטי.

אפשרויות תמחור וצריכה של מכונות A3

במכונות A3 אפשר להשתמש באפשרויות הצריכה וההנחה הבאות:

ב-Google Cloud , החיוב על מכונות A3 הוא לפי יחידות ה-GPU שמצורפות אליהן, ה-vCPU שהוגדרו מראש, הזיכרון והדיסקים המקומיים של SSD שכלולים בחבילה. החיוב על שימוש ב-Persistent Disk, ב-Hyperdisk וברשת מתבצע בנפרד מהתמחור של סוג המכונה. למידע נוסף, ראו אפשרויות תמחור וצריכה, תמחור של סוגי מכונות ממשפחת Accelerator-optimized ותמחור של GPU.

סוג המכונה A3 Ultra‏ (NVIDIA H200)

למכונות מסוג A3 Ultra יש מעבדי NVIDIA H200 SXM GPU (nvidia-h200-141gb) והן מספקות את ביצועי הרשת הטובים ביותר בסדרת A3. סוגי המכונות A3 Ultra מתאימים במיוחד לאימון מודלים בסיסיים ולהצגתם. מידע על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A3 Ultra.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מדגם NVIDIA H200 זיכרון GPU (GB HBM3e)
a3-ultragpu-8g 224 2,952 12,000 10 3,600 8 1128

הערות לגבי סוג המכונה A3 Ultra

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, קראו את המאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

המגבלות של A3 Ultra

סוג המכונה A3 Mega‏ (NVIDIA H100)

סוגי המכונות A3 Mega כוללים מעבדי NVIDIA H100 SXM GPU, והם מתאימים במיוחד לאימון מודלים גדולים ולהסקת מסקנות בכמה מארחים. מידע על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A3 Mega.
סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי ה-GPU מסוג NVIDIA H100 זיכרון GPU (GB HBM3)
a3-megagpu-8g 208 1,872 6,000 9 1,800 8 640

הערות לגבי סוג המכונה A3 Mega

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, קראו את המאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של A3 Mega‏ (NVIDIA H100)

סוג המכונה A3 High‏ (NVIDIA H100)

למכונות מסוג A3 High יש מעבדי GPU מסוג NVIDIA H100 SXM, והן מתאימות גם להסקת מסקנות ממודלים גדולים וגם לכוונון מודלים. למידע על המגבלות של סוגי המכונות, קראו את המאמר המגבלות של A3 High.
סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי ה-GPU מסוג NVIDIA H100 זיכרון GPU (GB HBM3)
a3-highgpu-1g 26 234 750 1 25 1 80
a3-highgpu-2g 52 468 1,500 1 50 2 160
a3-highgpu-4g 104 936 3,000 1 100 4 320
a3-highgpu-8g 208 1,872 6,000 5 1,000 8 640

הערות לגבי סוג המכונה A3 High

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, קראו את המאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

המגבלות של A3 High

סוג המכונה A3 Edge‏ (NVIDIA H100)

סוגי המכונות A3 Edge כוללים מעבדי GPU מסוג NVIDIA H100 SXM, והם מיועדים במיוח�� להצגת מודעות וזמינים בקבוצה מוגבלת של אזורים. מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A3 Edge.
סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי ה-GPU מסוג NVIDIA H100 זיכרון GPU (GB HBM3)
a3-edgegpu-8g 208 1,872 6,000 5 ‫600 (asia-south1 ו-northamerica-northeast2) או 400 (כל שאר האזורים של A3 Edge) 8 640

הערות לגבי סוגי מכונות A3 Edge

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, קראו את המאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

המגבלות של A3 Edge

סוגי הדיסקים שנתמכים במכונות A3

A3 Ultra

במכונות A3 Ultra אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk Balanced ‏ (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫SSD מקומי: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A3

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme דיסקים מקומיים מסוג SSD שמחוברים למכונה
a3-ultragpu-8g 128 128 128 לא רלוונטי 128 8 32

ההערה הבאה רלוונטית לטבלה שלמעלה:

A3 Mega

במכונות A3 Mega אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) (pd-ssd
  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced)
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫Local SSD: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A3

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme דיסקים מקומיים מסוג SSD שמחוברים למכונה
a3-megagpu-8g 128 32 32 64 64 8 16

ההערה הבאה רלוונטית לטבלה שלמעלה:

A3 High

במכונות A3 High אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) (pd-ssd
  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced)
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫Local SSD: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A3

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme דיסקים מקומיים מסוג SSD שמחוברים למכונה
a3-highgpu-1g 128 32 32 64 64 לא רלוונטי 2
a3-highgpu-2g 128 32 32 64 64 לא רלוונטי 4
a3-highgpu-4g 128 32 32 64 64 8 8
a3-highgpu-8g 128 32 32 64 64 8 16

ההערה הבאה רלוונטית לטבלה שלמעלה:

A3 Edge

במכונות A3 Edge אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) (pd-ssd
  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced)
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫Local SSD: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A3

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme ‫SSD מקומי מצורף
a3-edgegpu-8g 128 32 32 64 64 8 16

ההערה הבאה רלוונטית לטבלה שלמעלה:

מגבלות על הדיסק ועל הקיבולת

אם סוג המכונה תומך בכך, אפשר לצרף למכונה שילוב של אמצעי אחסון ב-Hyperdisk וב-Persistent Disk, אבל חלות המגבלות הבאות:

  • המספר הכולל של אמצעי האחסון של Hyperdisk ושל Persistent Disk לא יכול להיות יותר מ-128 לכל מכונה.

  • ק��בולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מהערכים הבאים:

    • לסוגי מכונות עם פחות מ-32 יחידות vCPU:

      • ‫257 TiB לכל ה-Hyperdisk או לכל הדיסקים המתמידים
      • ‫257 TiB לשילוב של Hyperdisk ו-Persistent Disk

    • בסוגי מכונות עם 32 מעבדי vCPU או יותר:

      • ‫512 TiB לכל Hyperdisk
      • ‫‎512 TiB לשילוב של Hyperdisk ו-Persistent Disk
      • ‫257 TiB לכל Persistent Disk

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk והקיבולת המקסימלית של Persistent Disk.

חוויית התחזוקה במכונות A3

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע מארח יכול לכלול תחזוקה שוטפת של תשתית Compute Engine, או במקרים נדירים, שגיאת מארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות A3:

סוג המכונה מספר יחידות ה-GPU תדירות טיפוסית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה לפי דרישה סימולציה של תחזוקה
A3 Ultra 8 90 ימים לפחות עצירה והפעלה מחדש (עם שמירת נתונים ב-SSD מקומי) 90 ימים כן לא
‫A3 Mega ו-A3 High 8
  • לפי דרישה: 30 ימים לפחות
  • מקומות שמורים לעתיד של גושי קיבולת: לפחות 90 ימים
  • לפי דרישה: 7 ימים
  • מקומות שמורים לעתיד לגושי קיבולת: 90 ימים
 כן כן
A3 High 1, 2, 4 30 ימים לפחות עצירה והפעלה מחדש 7 ימים לא כן
A3 Edge 8 30 ימים לפחות עצירה והפעלה מחדש 7 ימים כן כן

תדירויות התחזוקה ��מוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

למידע נוסף על תחזוקת מארחים ב-AI Hypercomputer, קראו את המאמר הסבר על תחזוקת מארחים במרכז העזרה של AI Hypercomputer.

סדרת המכונות A2

סדרת המכונות A2 זמינה בסוגי המכונות A2 Standard ו-A2 Ultra. לסוגי המכונות האלה יש בין 12 ל-96 מעבדי vCPU ועד 1,360GB זיכרון.

מכונות וירטואליות שנוצרו באמצעות סוגי המכונות A2 מספקות את התכונות הבאות:

  • האצת GPU: לכל מכונה מסוג A2 יש מעבדי GPU מסוג NVIDIA A100. הם זמינים גם ב-A100 40GB וגם ב-A100 80GB.

  • מדרגיות של NVLink: מעבדי GPU של NVIDIA A100 מספקים רוחב פס של NVLink בין מעבדי GPU של 600GBps. לדוגמה, למערכות עם 16 מעבדי GPU יש רוחב פס מצטבר של NVLink של עד 9.6TBps. אפשר להשתמש ב-16 יחידות ה-GPU האלה כמאיץ יחיד עם ביצועים גבוהים ומרחב זיכרון מאוחד, כדי לספק עד 10 petaFLOPS של כוח מחשוב ועד 20 petaFLOPS של כוח מחשוב להסקת מסקנות, שאפשר להשתמש בהם לעומסי עבודה של בינה מלאכותית, למידה עמוקה ולמידת מכונה.

  • מהירויות מחשוב משופרות: מעבדי ה-GPU המצורפים מסוג NVIDIA A100 מציעים שיפור של עד פי 10 במהירות המחשוב בהשוואה למעבדי ה-GPU מהדור הקודם מסוג NVIDIA V100.

    בסדרת המכונות A2, אתם יכולים לקבל רוחב פס של עד 100Gbps ברשת.

  • תמיכה בדיסקים: מכונות A2 תומכות ב-SSD מקומי עבור דיסקי אחסון נדיף (scratch disk) מהירים, שמועילים להזנת נתונים למעבדי GPU תוך מניעת צווארי בקבוק של קלט/פלט. לאחסון עמיד, אפשר לצרף נפחי Persistent Disk ו-Hyperdisk.

    התמיכה ב-SSD מקומי היא באופן הבא:

    • בסוגי מכונות A2 Standard, אפשר להוסיף עד 3,000GiB של Local SSD כשיוצרים מכונה.
    • במכונות מסוג A2 Ultra, כשיוצרים מכונה, כונן SSD מקומי מצורף באופן אוטומטי.

    לעומסי עבודה שדורשים אחסון בלוקים עמיד, אפשר לצרף למכונות A2 נפחים של Persistent Disk עד 257 TiB ושל Hyperdisk עד 512 TiB. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תמיכה במדיניות למיקום קומפקטי: מאפשרת לכם לשלוט טוב יותר במיקום הפיזי של המכונות במרכזי הנתונים. כך אפשר להקטין את זמן האחזור ולהגדיל את רוחב הפס במכונות שנמצאות באזור זמינות אחד. מידע נוסף זמין במאמר הפחתת זמן האחזור באמצעות מדיניות למיקום קומפקטי.

אפשרויות תמחור וצריכה למכונות A2

במכונות A2 אפשר להשתמש באפשרויות הצריכה וההנחה הבאות:

ב-Google Cloud , החיוב על מכונות A2 הוא לפי יחידות ה-GPU שמחוברות אליהן, ה-vCPU שהוגדרו מראש, הזיכרון והדיסקים המקומיים של SSD שמצורפים אליהן (ב-A2 Ultra). החיוב על שימוש ב-Persistent Disk, ב-Hyperdisk, בכונני Local SSD נוספים (ל-A2 Standard) וברשת מתבצע בנפרד מהתמחור של סוג המכונה. למידע נוסף, ראו אפשרויות תמחור וצריכה, תמחור של סוגי מכונות ממשפחת Accelerator-optimized ותמחור של GPU.

סוגי המכונות הבאים זמינים לסדרת המכונות A2.

סוגי מכונות A2 Ultra‏ (NVIDIA A100 80GB)

לסוגי המכונות האלה יש מספר קבוע של מעבדי GPU מסוג A100 80GB. כונני Local SSD מחוברים באופן אוטומטי למכונות שנוצרו באמצעות סוגי המכונות A2 Ultra. מידע על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A2 Ultra.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי GPU מסוג NVIDIA A100 80GB זיכרון GPU‏ (GB HBM2e)
a2-ultragpu-1g 12 170 375 24 1 80
a2-ultragpu-2g 24 340 750 32 2 160
a2-ultragpu-4g 48 680 1,500 50 4 320
a2-ultragpu-8g 96 1,360 3,000 100 8 640

הערות לגבי סוגי המכונות A2 Ultra

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, קראו את המאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

המגבלות של A2 Ultra

  • אפשר לבקש קיבולת רק באמצעות אפשרויות הצריכה הנתמכות לסוג המכונה A2 Ultra.
  • לא מקבלים הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מכונות מסוג A2 Ultra.
  • אפשר להשתמש במכונה מסוג A2 Ultra רק באזורים ובאזורי זמינות מסוימים.
  • סוג המכונה A2 Ultra זמין רק בפלטפורמת Cascade Lake.
  • אם המכונה משתמשת בסוג מכונה A2 Ultra, אי אפשר לשנות את סוג המכונה. אם אתם צריכים להשתמש בסוג מכונה אחר של A2 Ultra, או בכל סוג מכונה אחר, אתם צריכים ליצור מכונה חדשה.
  • אי אפשר לשנות סוג מכונה אחר לסוג מכונה A2 Ultra. אם אתם צריכים מכונה שמשתמשת בסוג מכונה A2 Ultra, אתם צריכים ליצור מכונה חדשה.
  • אי אפשר לבצע פרמוט מהיר של כונני ה-SSD המקומיים שמחוברים למכונות Windows שמשתמשות בסוגי מכונות A2 Ultra. כדי לפרמט את כונני ה-SSD המקומיים האלה, צריך לבצע פרמוט מלא באמצעות הכלי diskpart ולציין את format fs=ntfs label=tmpfs.

סוגי מכונות A2 Standard‏ (NVIDIA A100 40GB)

לסוגי המכונות האלה יש מספר קבוע של מעבדי GPU מסוג A100 40GB. אפשר גם להוסיף דיסקים של Local SSD כשיוצרים מכונה מסוג A2 Standard. כדי לדעת כמה דיסקים אפשר לחבר, קראו את המאמר סוגי מכונות שצריך לבחור בהם מספר של כונני SSD מקומיים. למידע נוסף על המגבלות של סוגי המכונות, קראו את המאמר מגבלות של מכונות A2 Standard.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) תמיכה ב-SSD מקומי רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי GPU מסוג NVIDIA A100 40GB זיכרון GPU‏ (GB HBM2)
a2-highgpu-1g 12 85 כן 24 1 40
a2-highgpu-2g 24 170 כן 32 2 80
a2-highgpu-4g 48 340 כן 50 4 160
a2-highgpu-8g 96 680 כן 100 8 320
a2-megagpu-16g 96 1,360 כן 100 16 640

הערות לגבי סוגי מכונות A2 Standard

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, קראו את המאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של A2 Standard

סוגי הדיסקים הנתמכים במכונות A2

במכונות A2 אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) (pd-ssd
  • דיסק מתמיד סטנדרטי (pd-standard)
  • ‫Local SSD: מחובר אוטומטית למכונות שנוצרו באמצעות סוגי המכונות A2 Ultra.

A2 Ultra

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל הדיסקים Hyperdisk ML ‫SSD מקומי מצורף
a2-ultragpu-1g 128 32 1
a2-ultragpu-2g 128 48 2
a2-ultragpu-4g 128 64 4
a2-ultragpu-8g 128 64 8

ההערות הבאות רלוונטיות לטבלה שלמעלה:

A2 Standard

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל הדיסקים Hyperdisk ML אחסון SSD מקומי
a2-highgpu-1g 128 32 8
a2-highgpu-2g 128 48 8
a2-highgpu-4g 128 64 8
a2-highgpu-8g 128 64 8
a2-megagpu-16g 128 64 8

ההערות הבאות רלוונטיות לטבלה שלמעלה:

אם סוג המכונה תומך בכך, אפשר לצרף למכונה שילוב של אמצעי אחסון ב-Hyperdisk וב-Persistent Disk, אבל חלות המגבלות הבאות:

  • המספר הכולל של אמצעי האחסון של Hyperdisk ושל Persistent Disk לא יכול להיות יותר מ-128 לכל מכונה.

  • קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מהערכים הבאים:

    • לסוגי מכונות עם פחות מ-32 יחידות vCPU:

      • ‫257 TiB לכל ה-Hyperdisk או לכל הדיסקים המתמידים
      • ‫257 TiB לשילוב של Hyperdisk ו-Persistent Disk

    • בסוגי מכונות עם 32 מעבדי vCPU או יותר:

      • ‫512 TiB לכל Hyperdisk
      • ‫‎512 TiB לשילוב של Hyperdisk ו-Persistent Disk
      • ‫257 TiB לכל Persistent Disk

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk והקיבולת המקסימלית של Persistent Disk.

חוויית התחזוקה במכונות A2

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע מארח יכול לכלול תחזוקה שוטפת של תשתית Compute Engine, או במקרים נדירים, שגיאת מארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות A2:

סוג המכונה מספר יחידות ה-GPU תדירות טיפוסית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה לפי דרישה סימולציה של תחזוקה
A2 Ultra 1, 2, 4, 8 30 ימים לפחות עצירה והפעלה מחדש 7 ימים כן (8 מעבדי GPU בלבד) כן
A2 Standard ‫1, 2, 4, 8 או 16 30 ימים לפחות עצירה והפעלה מחדש 7 ימים כן (רק 8 ו-16 מעבדי GPU) כן

תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

סדרת המכונות G4

סדרת המכונות G4 משתמשת בפלטפורמת המעבד AMD EPYC Turin וכוללת מעבדי GPU מסוג NVIDIA RTX PRO 6000 Blackwell Server Edition. סדרת המכונות הזו מציעה שיפורים משמעותיים לעומת סדרת המכונות G2 מהדור הקודם, עם הרבה יותר זיכרון GPU, רוחב פס מוגבר של זיכרון GPU ורוחב פס גבוה יותר של רשת.

למכונות G4 יש עד 384 מעבדי vCPU, זיכרון בנפח 1,440GB ודיסקים מסוג Titanium SSD בנפח 12TiB. מכונות G4 מספקות גם ביצועי רשת סטנדרטיים של עד 400Gbps.

סדרת המכונות הזו מיועדת במיוחד לעומסי עבודה כמו עומסי עבודה של סימולציית NVIDIA Omniverse, אפליקציות שדורשות משאבים גרפיים רבים, המרת קידוד של וידאו ומחשבים וירטואליים. סדרת המכונות G4 מספקת גם פתרון זול להסקת מסקנות במארח יחיד ולכוונון מודלים, בהשוואה לסוגי המכונות מסדרה A.

מכונות מסוג G4 מספקות את התכונות הבאות:

  • האצת GPU באמצ��ות מעבדי GPU מסוג NVIDIA RTX PRO 6000 Blackwell Server Edition: מכונות G4 מצרפות באופן אוטומטי מעבדי GPU מסוג NVIDIA RTX PRO 6000 Blackwell Server Edition, שמציעים זיכרון GPU בנפח 96GB לכל GPU.

  • פלטפורמת מעבד AMD EPYC Turin מדור חמישי: הפלטפורמה הזו מציעה תדר בוסט מקסימלי קבוע של עד 4.1GHz. מידע נוסף על המעבד הזה זמין במאמר פלטפורמת מעבד (CPU).

  • ביצועים גרפיים מהדור הבא: המעבדים הגרפיים NVIDIA RTX PRO 6000 מספקים שדרוגים משמעותיים בביצועים ובתכונות בהשוואה למעבדים הגרפיים NVIDIA L4 שמחוברים לסדרת המכונות G2. אלה השדרוגים:

    • ליבות Tensor מדור חמישי: הליבות האלה תומכות בדיוק FP4 וב-DLSS 4 Multi Frame Generation. המעבדים הגרפיים NVIDIA RTX PRO 6000 כוללים ליבות Tensor מהדור החמישי, ולכן הם מציעים ביצועים משופרים להאצת משימות כמו פיתוח מקומי של מודלי LLM ויצירת תוכן, בהשוואה למעבדים הגרפיים NVIDIA L4.
    • ליבות RT מדור רביעי: הליבות האלה מספקות ביצועים של ניתוב קרניים עד פי שניים מהדור הקודם של מעבדי NVIDIA L4 GPU, ומאיצות את הרינדור של עומסי עבודה בתכנון ובייצור.
    • מספר הליבות: ה-GPU מדגם NVIDIA RTX PRO 6000 כולל 24,064 ליבות CUDA,‏ 752 ליבות Tensor מהדור החמישי ו-188 ליבות RT מהדור הרביעי. זהו שיפור משמעותי לעומת דורות קודמים, כמו L4 GPU, שכולל 7,680 ליבות CUDA ו-240 ליבות Tensor.

  • שיתוף GPU: יש כמה אפשרויות שמאפשרות לכמה עומסי עבודה לגשת ל-GPU פיזי אחד. שיתוף GPU שימושי לעומסי עבודה שלא דורשים משאבים של GPU מלא, ועוזר לכם לבצע אופטימיזציה של העלויות. אלה האפשרויות לשיתוף GPU שזמינות למכונות G4:

    • תמיכה ב-GPU חלקי (vGPU): התכונה הזו מאפשרת לכמה מכונות וירטואליות (VM) להשתמש ב-GPU פיזי אחד. מכונות vGPU מספקות בידוד אבטח�� לדיירים מרובים, כי כל vGPU הוא מכונת VM נפרדת. כדי להשתמש ב-vGPU, ב-Compute Engine יש את התבניות הבאות של מכונות וירטואליות: g4-standard-6 (GPU ‏1/8), g4-standard-12 (GPU ‏1/4) ו-g4-standard-24 (GPU ‏1/2).
    • מעבד גרפי עם כמה מכונות (MIG): התכונה הזו מאפשרת לחלק מעבד גרפי אחד לעד ארבע מכונות מבודדות לחלוטין במכונה וירטואלית אחת. האפשרות הזו לא מציעה בידוד אבטחה של ריבוי דיירים, כי כל המחיצות שייכות למכונה וירטואלית אחת.

  • תמיכה ב-Peripheral Component Interconnect Express (PCIe) Gen 5: מכונות G4 תומכות ב-PCI Express Gen 5, שמשפר את מהירות העברת הנתונים מזיכרון המעבד (CPU) ל-GPU בהשוואה ל-PCIe Gen 3 שמשמש את מכונות G2.

  • תמיכה בדיסקים: מכונות G4 תומכות ב-Titanium SSD לדיסקי אחסון נדיף (scratch disk) מהירים, שמועילים להזנת נתונים ליחידות ה-GPU תוך מניעת צווארי בקבוק בקלט/פלט. לאחסון עמיד, אפשר לצרף אמצעי אחסון ב-Hyperdisk.

    במכונות G4 אפשר לצרף עד 12,000 GiB של Titanium SSD. לעומסי עבודה שדורשים אחסון בלוקים עמיד, במכונות G4 אפשר גם לצרף Hyperdisk בנפח של עד 512 TiB. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תקשורת GPU מקצה לקצה (P2P): מכונות G4 תומכות בתקשורת GPU מקצה לקצה, שמאפשרת העברת נתונים ישירה בין מעבדי GPU באותה מכונה. כך אפשר לשפר משמעותית את הביצועים של עומסי עבודה עם כמה יחידות GPU, כי זמן האחזור של העברת הנתונים מתקצר ומשאבי המעבד מתפנים. מידע נוסף זמין במאמר תקשורת בין עמיתים (P2P) ב-GPU מסוג G4.

  • תמיכה במדיניות למיקום קומפקטי: התכונה הזו מאפשרת לכם לשלוט במיקום הפיזי של המכונות שלכם במרכזי הנתונים. מדיניות למיקום קומפקטי עוזרת למקם מכונות קרוב זו לזו כדי לצמצם את זמן האחזור ברשת, וזה שימושי לעומסי עבודה שרגישים לזמן אחזור, כמו מחשוב עתיר ביצועים (HPC) או למידת מכונה (ML). מידע נוסף זמין במאמר הפחתת זמן האחזור באמצעות מדיניות למיקום קומפקטי.

אפשרויות תמחור וצריכה למכונות G4

במכונות G4 אפשר להשתמש באפשרויות הצריכה וההנחה הבאות:

ב-Google Cloud , החיוב על מכונות G4 הוא לפי יחידות ה-GPU שמחוברות אליהן, ה-vCPU שהוגדרו מראש והזיכרון. החיוב על שימוש ב-Hyperdisk, בדיסקים של Titanium SSD וברשת מתבצע בנפרד מהתמחור של סוג המכונה. למידע נוסף, ראו אפשרויות תמחור וצריכה, תמחור של סוגי מכונות ממשפחת Accelerator-optimized ותמחור של GPU.

סוגי מכונות G4‏ (NVIDIA RTX PRO 6000)

סוגי המכונות G4 עם אופטימיזציה למאיצים משתמשים ב מעבדי GPU מסוג NVIDIA RTX PRO 6000 Blackwell Server Edition (nvidia-rtx-pro-6000) ומתאימים לעומסי עבודה של סימולציות ב-NVIDIA Omniverse, לאפליקציות שדורשות עיבוד גרפי אינטנסיבי, להמרת קידוד של וידאו ולמחשבים וירטואליים. סוגי המכונות G4 מספקים גם פתרון זול להסקת מסקנות במארח יחיד ולכוונון מודלים בהשוואה לסוגי המכונות מסדרה A.

אפשר גם להו��יף דיסקים של Titanium SSD כשיוצרים מכונה מסוג G4. כדי לדעת כמה דיסקים אפשר לחבר, קראו את המאמר סוגי מכונות שצריך לבחור בהם מספר של דיסקי SSD מקומיים. מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר המגבלות של G4.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) הנפח המקסימלי של Titanium SSD שנתמך (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מסוג NVIDIA RTX PRO 6000 זיכרון GPU (GB GDDR7)
g4-standard-6 6 22 0 1 20 1/8 12
g4-standard-12 12 45 375 1 20 1/4 24
g4-standard-24 24 90 750 1 20 1/2 48
g4-standard-48 48 180 1,500 1 50 1 96
g4-standard-96 96 360 3,000 1 100 2 192
g4-standard-192 192 720 6,000 1 200 4 384
g4-standard-384 384 1,440 12,000 2 400 8 768

הערות לגבי סוגי מכונות G4

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. מידע נוסף על רוחב פס של רשת זמין במאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של G4

סוגי הדיסקים שנתמכים במכונות G4

במכונות G4 אפשר להשתמש בסוגי האחסון הבאים:

  • ‫Hyperdisk Balanced (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk Extreme ‏ (hyperdisk-extreme): סוג הדיסק הזה נתמך רק במכונות G4 שמחוברים אליהן שני מעבדי GPU או יותר
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫Titanium SSD: אתם יכולים להוסיף Titanium SSD למכונות שנוצרו באמצעות סוגי המכונות G4.

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Extreme Hyperdisk ML Hyperdisk Throughput Titanium SSD
g4-standard-6 8 8 8 0 8 8 0
g4-standard-12 16 16 16 0 16 16 1
g4-standard-24 32 32 32 0 32 32 2
g4-standard-48 32 32 32 0 32 32 4
g4-standard-96 32 32 32 8 32 32 8
g4-standard-192 64 64 64 8 64 64 16
g4-standard-384 128 128 128 8 128 128 32

ההערה הבאה רלוונטית לטבלה שלמעלה:

אפשר לצרף למכונה שילוב של סוגי Hyperdisk שונים, אבל קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מ-512TiB לכל ה-Hyperdisks.

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk.

תקשורת מקצה לקצה (P2P) של GPU

במכונות G4, הביצועים של עומסי עבודה עם כמה מעבדי GPU משתפרים באמצעות תקשורת ישירה בין מעבדי GPU (P2P), שנתמכת רק בסוגי מכונות עם שני מעבדי GPU או יותר. הגישה הזו מאפשרת למעבדי GPU שמחוברים לאותו מכונה מסוג G4 להחליף נתונים ישירות דרך אפיק ה-PCIe, בלי צורך להעביר נתונים דרך הזיכרון הראשי של המעבד (CPU). הנתיב הישיר הזה מקצר את זמן האחזור, מפחית את השימוש במעבד (CPU) ומגדיל את רוחב הפס האפקטיבי בין יחידות ה-GPU. תקשורת P2P מאיצה באופן משמעותי אפליקציות עם כמה מעבדי GPU, כמו אימון של למידת מכונה (ML) ומחשוב עתיר ביצועים (HPC).

מכיוון שמכונות G4 משתמשות בתקשורת GPU P2P כברירת מחדל, אתם מקבלים את היתרונות הבאים בלי לשנות את קוד האפליקציה. עם זאת, באפליקציות שמשתמשות ב-NVIDIA Collective Communication Library‏ (NCCL), כדי ליהנות מכל השיפורים בביצועים של תקשורת P2P, צריך להגדיר את NCCL לשימוש ב-P2P.

יתרונות מרכזיים וביצועים

  • האצת עומסי עבודה של כמה מעבדי GPU במכונות G4 עם שני מעבדי GPU או יותר: זמני ריצה מהירים יותר לאפליקציות שפועלות במכונות מסוג g4-standard-96,‏ g4-standard-192 ו-g4-standard-384.
  • תקשורת ברוחב פס גבוה: מאפשרת העברת נתונים במ��ירות גבוהה בין מעבדי GPU.

  • שיפור הביצועים של NCCL: שיפור משמעותי בביצועים של אפליקציות שמשתמשות ב-NVIDIA Collective Communication Library‏ (NCCL), בהשוואה לתקשורת שלא משתמשת ב-P2P. ה-hypervisor של Google מבודד באופן מאובטח את תקשורת ה-P2P הזו בתוך המכונות שלכם.

    • במכונות עם ארבעה מעבדי GPU‏ (g4-standard-192), כל מעבדי ה-GPU נמצאים בצומת NUMA אחד, מה שמאפשר את תקשורת ה-P2P היעילה ביותר. זה יכול לשפר את הביצועים עד פי 2.04 לפעולות קולקטיביות כמו Allgather,‏ Allreduce ו-ReduceScatter.
    • במכונות עם שמונה יחידות GPU‏ (g4-standard-384), יחידות ה-GPU מפוזרות בין שני צומתי NUMA. תקשורת P2P מואצת לתנועה בתוך הצמתים האלה וביניהם, עם שיפורים בביצועים של עד פי 2.19 לאותם קולקטיבים.

הגדרת NCCL לשימוש ב-P2P

כדי להגדיר את NCCL לשימוש ב-P2P, לפני שמריצים את עומסי העבודה, מגדירים את משתנה הסביבה NCCL_P2P_LEVEL במכונה G4 בהתאם לסוג המכונה:

  • עבור מופעי G4 עם 2 או 4 מעבדים גרפיים (g4-standard-96, g4-standard-192): הגדר NCCL_P2P_LEVEL=PHB
  • במכונות G4 עם 8 מעבדי GPU‏ (g4-standard-384): מגדירים את NCCL_P2P_LEVEL=SYS

מגדירים את משתנה הסביבה באחת מהאפשרויות הבאות:

  • בשורת הפקודה, מריצים את פקודת הייצוא המתאימה, כמו export NCCL_P2P_LEVEL=SYS, בסשן המעטפת שבו מתכננים להריץ את האפליקציה. כדי שההגדרה הזו תהיה קבועה, מוסיפים את הפקודה הזו לסקריפט לטעינה בזמן ההפעלה של המעטפת, כמו ~/.bashrc.
  • מוסיפים את ההגדרה המתאימה, כמו NCCL_P2P_LEVEL=SYS, לקובץ התצורה של NCCL שנמצא ב-/etc/nccl.conf.

חוויית התחזוקה במכונות G4

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע מארח יכול לכלול תחזוקה שוטפת של תשתית Compute Engine, או במקרים נדירים, שגיאת מארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות G4:

סוג המכונה מספר יחידות ה-GPU תדירות טיפוסית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה לפי דרישה סימולציה של תחזוקה
G4 ‫1, 2 או 4 30 ימים לפחות עצירה והפעלה מחדש. אם מחוברים דיסקים מסוג Local SSD, המכונה נעצרת עם שמירת נתונים ב-Local SSD. 7 ימים לא כן
G4 8 90 ימים לפחות עצירה והפעלה מחדש. אם מחוברים דיסקים מסוג Local SSD, המכונה נעצרת עם שמירת נתונים ב-Local SSD. 30 ימים כן כן

תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

סדרת המכונות G2

סדרת המכונות G2 זמינה בסוגי מכונות לשימוש סטנדרטי (standard) עם 4 עד 96 מעבדי vCPU וזיכרון של עד 432GB. סדרת המכונות הזו מותאמת לעומסי עבודה של הסקה וגרפיקה. סדרת המכונות G2 זמינה בסוג מכונה רגיל אחד עם כמה הגדרות אישיות.

מכונות שנוצרו באמצעות סוגי המכונות G2 מספקות את התכונות הבאות:

  • האצת GPU: לכל סוג מכונה G2 יש מעבדי GPU מסוג NVIDIA L4.

  • שיפור קצבי ההיקש: סוג המכונה G2 תומך בסוג הנתונים FP8 (נקודה צפה של 8 ביט), שמאיץ את קצבי ההיקש של ML ומפחית את דרישות הזיכרון.

  • ביצועים גרפיים מהדור הבא: מעבדי GPU של NVIDIA L4 משפרים את הביצועים הגרפיים עד פי 3 באמצעות ליבות RT מהדור השלישי וטכנולוגיית NVIDIA DLSS 3 (Deep Learning Super Sampling).

  • רוחב פס ברשת עם ביצועים גבוהים: במכונות מסוג G2 אפשר לקבל רוחב פס ברשת של עד 100Gbps.

  • תמיכה בדיסקים: מכונות G2 תומכות ב-SSD מקומי לדיסקי אחסון נדיף (scratch disk) מהירים, שמועילים להזנת נתונים למעבדי GPU תוך מניעת צווארי בקבוק של קלט/פלט. לאחסון עמיד, אפשר לצרף נפחי Persistent Disk ו-Hyperdisk.

    אפשר להוסיף עד 3,000 GiB של Local SSD למכונות G2. לעומסי עבודה שדורשים אחסון בלוקים (block storage) עמיד, אפשר לצרף אמצעי אחסון של Hyperdisk ו-Persistent Disk למכונות G2. קיבולת האחסון המקסימלית תלויה במספר המעבדים הווירטואליים (vCPU) שיש למכונה. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תמיכה במדיניות למיקום קומפקטי: מאפשרת לכם לשלוט טוב יותר במיקום הפיזי של המכונות במרכזי הנתונים. כך אפשר להקטין את זמן האחזור ולהגדיל את רוחב הפס במכונות שנמצאות באזור זמינות אחד. מידע נוסף זמין במאמר הפחתת זמן האחזור באמצעות מדיניות למיקום קומפקטי.

אפשרויות תמחור וצריכה של מכונות G2

במכונות G2 אפשר להשתמש באפשרויות הצריכה וההנחה הבאות:

ב-Google Cloud , החיוב על מכונות G2 הוא לפי יחידות ה-GPU שמחוברות אליהן, מעבדי ה-vCPU שהוגדרו מראש והזיכרון. החיוב על שימוש ב-Persistent Disk, ב-Hyperdisk, בדיסקים של Local SSD ובשימוש ברשת מתבצע בנפרד מהתמחור של סוג המכונה. למידע נוסף, ראו אפשרויות תמחור וצריכה, תמחור של סוגי מכונות ממשפחת Accelerator-optimized ותמחור של GPU.

סוגי מכונות G2‏ (NVIDIA L4)

לסוגי המכונות G2 accelerator-optimized מצורפים מעבדי NVIDIA L4 GPU, והם אידיאליים להסקה בעלות אופטימלית, לעומסי עבודה עתירי גרפיקה ולעומסי עבודה של מחשוב עתיר ביצועים (HPC).

לכל סוג מכונה G2 יש גם זיכרון שמוגדר כברירת מחדל וטווח זיכרון בהתאמה אישית. טווח הזיכרון בהתאמה אישית מגדיר את נפח הזיכרון שאפשר להקצות למכונה לכל סוג מכונה. אפשר גם להוסיף דיסקים של Local SSD כשיוצרים מכונה מסוג G2. כדי לדעת כמה דיסקים אפשר לחבר, קראו את המאמר סוגי מכונות שצריך לבחור בהם מספר של דיסקי SSD מקומיים.

למידע על המגבלות של סוגי המכונות, קראו את המאמר מגבלות של G2.

סוג המכונה מספר מעבדי ה-vCPU זיכרון ברירת המחדל של המכונה (GB) טווח זיכרון מותאם אישית למכונה (GB) נפח מקסימלי נתמך של כונ�� SSD מקומי (GiB) רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מסוג NVIDIA L4 זיכרון GPU (GB GDDR6)
g2-standard-4 4 16 ‫16 עד 32 375 10 1 24
g2-standard-8 8 32 32 עד 54 375 16 1 24
g2-standard-12 12 48 48 עד 54 375 16 1 24
g2-standard-16 16 64 ‫54 עד 64 375 32 1 24
g2-standard-24 24 96 96 עד 108 750 32 2 48
g2-standard-32 32 128 96 עד 128 375 32 1 24
g2-standard-48 48 192 ‫192 עד 216 1,500 50 4 96
g2-standard-96 96 384 ‫384 עד 432 3,000 100 8 192

הערות לגבי סוג המכונה G2

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב פס מקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, קראו את המאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

המגבלות של G2

סוגי הדיסקים שנתמכים במכונות G2

במכונות G2 אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) (pd-ssd
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫Local SSD: אפשר להוסיף Local SSD למכונות שנוצרו באמצעות סוגי המכונות G2.

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל הדיסקים Hyperdisk ML Hyperdisk Throughput אחסון SSD מקומי
g2-standard-4 128 24 24 1
g2-standard-8 128 32 32 1
g2-standard-12 128 32 32 1
g2-standard-16 128 48 48 1
g2-standard-24 128 48 48 2
g2-standard-32 128 64 64 1
g2-standard-48 128 64 64 4
g2-standard-96 128 64 64 8

ההערות הבאות רלוונטיות לטבלה שלמעלה:

אם סוג המכונה תומך בכך, אפשר לצרף למכונה שילוב של אמצעי אחסון ב-Hyperdisk וב-Persistent Disk, אבל חלות המגבלות הבאות:

  • המספר הכולל של אמצעי האחסון של Hyperdisk ושל Persistent Disk לא יכול להיות יותר מ-128 לכל מכונה.

  • קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מהערכים הבאים:

    • לסוגי מכונות עם פחות מ-32 יחידות vCPU:

      • ‫257 TiB לכל ה-Hyperdisk או לכל הדיסקים המתמידים
      • ‫257 TiB לשילוב של Hyperdisk ו-Persistent Disk

    • בסוגי מכונות עם 32 מעבדי vCPU או יותר:

      • ‫512 TiB לכל Hyperdisk
      • ‫‎512 TiB לשילוב של Hyperdisk ו-Persistent Disk
      • ‫257 TiB לכל Persistent Disk

למידע נוסף על מגבלות הקיבולת, ראו מגבלות ה��ודל והחיבור של Hyperdisk והקיבולת המקסימלית של Persistent Disk.

חוויית התחזוקה של מכונות G2

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע מארח יכול לכלול תחזוקה שוטפת של תשתית Compute Engine, או במקרים נדירים, שגיאת מארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות G2:

סוג המכונה מספר יחידות ה-GPU תדירות טיפוסית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה לפי דרישה סימולציה של תחזוקה
G2 ‫1, 2, 4 או 8 30 ימים לפחות עצירה והפעלה מחדש 7 ימים כן (8 מעבדי GPU בלבד) כן

תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

אפשרויות תמחור וצריכה

אפשרויות הצריכה מתייחסות לדרכים לקבל משאבי מחשוב ולהשתמש בהם. ‫Google Cloud מחייבת על סוגי מכונות עם אופטימיזציה למאיצים לפי יחידות ה-GPU שמצורפות אליהן, ה-vCPU שהוגדר מראש, הזיכרון ו-SSD מקומי שמצורף (אם רלוונטי). ההנחות על מכונות שמותאמות למאיצים משתנות בהתאם לסוג המשאב ולאפשרות הצריכה שבה אתם משתמשים. בכל שלב, משאב יכול לקבל רק סוג אחד של הנחה.

בהתאם לסוג המשאב ולאפשרות הצריכה שבחרתם, ההנחות חלות על סוגי מכונות עם אופטימיזציה למאיצים באופן הבא:

  • לפי דרישה: באפשרות הצריכה הזו, אתם יכולים לקבל הנחות גמישות תמורת התחייבות לשימוש (CUD) ב-Compute רק על הוצאות שעומדות בדרישות לשימוש במכונות N1,‏ G2 ו-G4, באופן הבא:

    • במכונות מסוג N1 עם GPU מצורף, אפשר לקבל הנחות CUD גמישות על משאבי המחשוב רק ל-vCPU, לזיכרון ולדיסקים מסוג SSD מקומי.
    • בסוגי המכונות G2 ו-G4, אתם יכולים לקבל הנחות גמישות תמורת התחייבות לשימוש במשאבי המחשוב של vCPU, זיכרון, GPU ודיסקים מסוג SSD מקומי.

    כדי לקבל הנחות תמורת התחייבות לשימוש במשאבים בסדרות אחרות של מכונות עם אופטימיזציה למאיצים, כולל G2 ו-G4, צריך להשתמש באחת מהאפשרויות להזמנת מקום.

  • ‫Spot: מכונות וירטואליות במודל Spot מקבלות הנחות באופן אוטומטי דרך התמחור של מכונות וירטואליות במודל Spot.

  • התחלה גמישה (Flex-start): מכונות שהוקצו באמצעות אפשרות הצריכה "התחלה גמישה" מקבלות הנחות באופן אוטומטי דרך התמחור של מתזמן משימות לפריסת workload דינמית (DWS).

  • הזמנות: אתם יכולים לקבל הנחות תמורת התחייבות לשימוש במשאבים של סוגי מכונות עם אופטימיזציה למאיצים, על ידי רכישת התחייבויות לשימוש במשאבים. בהתחייבויות לשימוש במשאבים לכל ה-GPU ולרוב הדיסקים המקומיים של SSD, צריך לצרף הזמנות למשאבים האלה.

למידע נוסף על תמחור של מכונות שעברו אופטימיזציה למאיצים, קראו את הקטע משפחת סוגי המכונות שעברו אופטימיזציה למאיצים בדף התמחור של מכונות וירטואליות.

זמינות של אפשרויות צריכה לפי סוג מכונה

בטבלה הבאה מפורטת הזמינות של כל ��פשרות צריכה לפי סוגי המכונות. למידע נוסף על בחירת אפשרות צריכה, קראו את המאמר בחירת מודל צריכה במסמכי התיעוד של AI Hypercomputer.

סוג המכונה (דגם ה-GPU) על פי דרישה Spot התחלה גמישה (Flex-start) מקומות שמורים לפי הצורך מקומות שמורים לעתיד מקומות שמורים לעתיד במצב תזמון מקומות שמורים לעתיד בגושי קיבולת
‫A4X Max‏ (GB300) ו-A4X‏ (GB200) לא לא לא לא לא לא כן
A4 (B200) לא כן כן לא לא כן כן
A3 Ultra (H200) לא כן כן לא לא כן כן
A3 Mega (H100) כן כן כן כן כן כן כן
‫A3 High עם 8 מעבדי GPU‏ (H100) כן כן כן כן כן כן כן
‫A3 High עם פחות מ-8 מעבדי GPU ‏ (H100) לא כן כן לא לא לא לא
A3 Edge (H100) כן כן כן כן כן כן כן
A2 (A100) כן כן כן כן כן לא לא
G4 (RTX PRO 6000) כן כן כן כן כן לא לא
G2 (L4)‎ כן כן כן כן כן לא לא
‫N1 עם מעבדי GPU ‏ (T4/P4/V100) כן כן כן כן כן לא לא

המאמרים הבאים