Разные версии кэш-памяти, буферы TLB и виртуальная память могут изначально выглядеть очень непохожими друг на друга, но они основаны на одних и тех же двух принципах локальности, и с ними можно разобраться, отвечая на следующие четыре вопроса:
Вопрос 1: Куда может быть помещен блок?
Ответ: В одно место (при непосредственном отображении), в несколько мест (при множественной ассоциативности) или в любое место (при полной ассоциативности).
Вопрос 2: Как найти блок?
Ответ: Существует четыре метода: индексация (как в кэш-памяти с непосредственным отображением), ограниченный поиск (как в кэш-памяти с множественной ассоциативностью), полный поиск (как в кэш-памяти с полной ассоциативностью) и отдельная таблица поиска (как в таблице страниц).
Вопрос 3: Какой блок заменить при промахе?
Ответ: Обычно либо наименее востребованный, либо произвольный.
Вопрос 4: Как обрабатываются записи?
Ответ: На каждом уровне иерархии может использоваться либо сквозная, либо запись.
Три «C»: Интуитивная модель восприятия поведения иерархий памяти
В этом подразделе будет рассмотрена модель, дающая представление об источниках промахов в иерархии памяти и о том, как на промахи повлияют изменения в иерархии. Идеи будут объяснены в понятиях кэш-памяти, хотя эти идеи можно перенести на любой другой уровень иерархии.
В данной модели все промахи классифицируются по одной из трех категорий (три С):
Вынужденные промахи (Compulsory misses). Эти промахи при обращении к кэш-памяти вызваны первым обращением к блоку, который никогда не был в кэш-памяти. Они также называются промахами начального запуска.
Промахи вместимости (Capacity misses). Эти промахи при обращении к кэш-памяти происходят в том случае, если кэш-память не может содержать все блоки, необходимые при выполнении программы. Промахи вместимости происходят, когда блоки заменяются, а позже снова извлекаются из памяти. Промахи конфликтов (Conflict misses). Эти промахи при обращении к кэш памяти возникают в кэш памяти с множественной ассоциативностью или в кэш-памяти с непосредственным отображением, когда несколько блоков соревнуются за место в одном и том же наборе. Промахи конфликтов относятся к таким промахам в кэш-памяти с непосредственным отображением или в кэш-памяти с множественной ассоциативностью, которые исчезают в полностью ассоциативной.