Где находится кеш L2? на чипе или вне чипа?

Question

Когда я изучал общий кэш L2 в GPU NVIDIA fermi, я думал, что кэш L2 должен быть расположен на кристалле вместе с кешем L1 и SM. Тем не менее, я видел, что некоторые материалы CUDA описывают кеш-память L2 как нечистовую память. Затем я больше смутился в кеше L2, потому что для доступа к кешу L2 требуется более 100 циклов.

Есть ли какие-либо комментарии для понимания кеша L2 в графическом процессоре NVIDIA?

Answer 1

Графический процессор состоит из множества потоковых мультипроцессоров (SM), причем каждый SM обычно имеет ширину SIMT от 8 до 32 (серия Fermi имеет 16 SM с шириной SIMT 32 и AMD ATI 5870 Evergreen имеет 20 SM с SIMT ширина 16). Каждый SM связан с частным кэшем данных L1 и текстурой с постоянным кэшем и постоянной памятью, а также с общей памятью с малой задержкой (память блокнота). Каждый MC связан с фрагментом общего кэша L2 для более быстрого доступа к кэшированным данным.

И MC, и L2 находятся на кристалле.