Организация кэш-памяти

Сегодня кэш-память имеется практически в любом классе ЭВМ, а в некоторых во множественном числе. При обращении к кэш-памяти на реальных программах преобладает обращение по чтению.

Все обращения за командами являются обращениями по чтению и большинство команд не пишут в памяти. Обычно операции записи составляют не более 10% от общего трафика памяти. Желание сделать общий случай более быстрым означает оптимизацию кэш-памяти для выполнения операций чтения. Однако при реализации высокопроизводительных обрабатываемых данных нельзя пренебрегать и скоростью операции записи. Очень часто организация кэш-памяти в разных ЭВМ отличается стратегией выполнения записей. Когда выполняется запись в кэш-память имеется две возможности:

Кэш-память верхнего уровня

Кэш-память

Кэш-память нижнего уровня

1ая возможность – сквозная запись. Информация записывается во все уровни иерархии памяти.

2ая возможность – запись с обратным копированием. Информация записывается только в верхний уровень кэш-памяти.

Модифицированный блок кэш-памяти записывается в ОЗУ, только когда он замещается (в ОЗУ и нижние уровни КЭШа).

Для сокращения частоты копирования в блоках при замещении обычно с каждым блоком кэш-памяти связывается так называемый бит модификации. Этот бит показывает, был ли модифицирован блок, находящийся в кэш-памяти.

Если он не модифицировался, то обратное копирование при замещении отменяется, поскольку более низкий уровень содержит ту же самую информацию, что и более высокий.

Оба подхода к организации записи имеют свои преимущества и недостатки.

При записи с обратным копированием операции записи выполняются со скоростью кэш-памяти, и несколько записей в один и тот же блок могут требовать только одной записи в память более низкого уровня.

При сквозной записи промахи почти не влияют на частоту записи. Она проще для реализации.

Кроме того, имеет преимущества в том, что ОЗУ имеет более свежую копию данных. Это важно в мультипроцессорных системах.

При промахе во время записи имеется две дополнительные возможности:

1. Разместить запись в кэш-памяти. Т.о. блок с нужным адресом загружается в кэш-память, вслед за тем выполняются действия, аналогичные выполняющимся при записи с попаданием.
2. Не размещать запись в кэш-память. Блок модифицируется на более низком уровне и не загружается в кэш-память.

Обычно в кэш-памяти, реализующей запись с обратным копированием, используется первая возможность, а со сквозной записью – вторая.