Функционирование кэш-памяти

Рассмотрим одну из возможных схем кэширования.

Содержимое кэш-памяти представляет собой совокупность записей обо всех заг­руженных в нее элементах данных из основной памяти. Каждая запись об элемен­те данных включает в себя:

· значение элемента данных;

· адрес, который этот элемент данных имеет в основной памяти;

· управляющую информацию для реализации алгоритма замещения, обычно - признак модификации и признак обращения к данным за некоторый последний период времени.

При каждом обращении к основной памяти по физическому адресу просматрива­ется содержимое кэш-памяти с целью определения, не находятся ли там нужные дан­ные. Поиск нужных данных осуществляется по содержимому - взятому из запроса значению поля адреса в оперативной памяти. Далее возможно одно из двух:

· произошло кэш-попадание - данные обнаружены в кэш-памяти; они считываются из кэш-памяти и результат передается источнику запроса;

· произошел кэш-промах (cache-miss) - нужных данных нет; они считываются из ос­новной памяти, передаются источнику запроса и одновременно копируются в кэш-память.

Схема функционирования кэш-памяти приведена на рис. 3.10.

Рисунок 3.10 - Схема функционирования кэш-памяти

Покажем, что среднее время доступа к данным зависит от вероятности попада­ния в кэш.

Пусть имеется основное запоминающие устройство со средним временем доступа к данным t1 и кэш-память, имеющая время доступа t2 (t2<t1). Обозначим через t сред­нее время доступа к данным в системе с кэш-памятью, а через p -вероятность попа­дания в кэш. По формуле полной вероятности имеем:

t = t1((1 - p) + t2p.

Видно, что среднее время доступа изменяется от среднего времени доступа в основ­ное ЗУ (при р=0) до среднего времени доступа непосредственно в кэш-память (при р=1).

Таким образом, использование кэш-памяти имеет смысл только при высокой веро­ятности кэш-попадания. Эта вероятность, в свою очередь, зависит от многих раз­личных факторов. Тем не менее в реальных системах вероятность попадания в кэш очень высока и составляет более 0.9. Такое высокое значение вероятности нахож­дения данных в кэш-памяти связано с наличием у данных объективных свойств: про­странственной и временной локальности.

Пространственная локальность. Если произошло обращение по некоторому ад­ресу, то с высокой степенью вероятности в ближайшее время произойдет обращение к соседним адресам.

Временная локальность. Если произошло обращение по некоторому адресу, то сле­дующее обращение по этому же адресу с большой вероятностью произойдет в бли­жайшее время.

На практике в кэш-память считывается не один элемент данных, к которому про­изошло обращение, а целый блок данных, что увеличивает вероятность попадания в кэш при последующих обращениях.