NVIDIA Hopper ارتباطات “SM-to-SM” را در GPC ارائه می دهد که رفت و برگشت حافظه پنهان را به حداقل می رساند و عملکرد چند نمونه ای را بهبود می بخشد.

NVIDIA در ارائه HotChips 34 یک ویژگی مشخص از معماری محاسباتی “Hopper” خود را نشان داد که برای افزایش موازی کاری و کمک به عملکرد بهتر پردازنده H100 در یک محیط چند نمونه ای کار می کند. سلسله مراتب اجزای سخت افزاری Hopper نمونه ای از معماری های NVIDIA است که هسته های GPC، SM و CUDA یک سلسله مراتب را تشکیل می دهند. این شرکت در حال معرفی مولفه جدیدی است که آن را “شبکه SM به SM” می نامد. این یک بافت ارتباطی با پهنای باند بالا در داخل خوشه پردازش گرافیکی (GPC) است که ارتباط مستقیم بین SMها را بدون انجام رفت و برگشت به حافظه پنهان یا سلسله مراتب حافظه تسهیل می‌کند و نقش مهمی در ادعای کلی NVIDIA مبنی بر افزایش توان عملیاتی 6x ایفا می‌کند. بیش از A100.”ارتباط مستقیم SM به SM نه تنها بر تأخیر تأثیر می گذارد، بلکه حافظه نهان L2 را نیز تخلیه می کند و به مدیریت حافظه انویدیا اجازه می دهد تا کش داده های «سردتر» (که به ندرت قابل دسترسی هستند) را آزاد کند. CUDA هر GPU را به‌عنوان یک «شبکه»، هر GPC را به‌عنوان «خوشه»، هر SM را به‌عنوان «بلوک رشته‌ای» و هر خط از واحدهای SIMD را به‌عنوان «خط» در نظر می‌گیرد. هر خط دارای 64 کیلوبایت حافظه مشترک است که نشان دهنده 256 کیلوبایت حافظه محلی است که توسط SM به اشتراک گذاشته شده است زیرا چهار خط وجود دارد. رابط GPC با 50 مگابایت حافظه نهان L2، که آخرین سطح کش روی تراشه قبل از 80 گیگابایت HBM3 به عنوان حافظه اصلی است.