Для чего нужна кэш память процессора

Современные процессоры работают быстрее, чем память (мало того — различные «блоки» процессоров работают на различной частоте (скорости)), причем со временем разрыв между этими скоростями становится всё больше и больше.

Чем медленнее память, тем больше процессору ждать новых данных от нее и ничего не делать.
В кэш памяти находятся машинные слова (можно их назвать данными), которые чаще всего используются процессором.

Если ему требуется какое-нибудь слово, то он сначала обращается к кэш памяти.
Только если его там нет, он обращается к основной памяти.
Существует принцип локализации, по которому в кэш вместе с требуемым в данный момент словом загружаются также и соседние с ним слова, т.к. велика вероятность того, что они в ближайшее время тоже понадобятся.

В современных десктопных процессорах существует два уровня кэш-памяти (для серверов существует процессоры с третьим уровнем кэша, его также имеет P4 Extreme Edition).

Кэш первого уровня (Level 1 = L1) обычно разделён пополам, половина выделена для данных, а другая половина под инструкции.

Кэш второго уровня (Level 2 = L2) предназначается только для данных.
Пропускная способность оперативной памяти конечно высока, но кэш память работает в несколько раз быстрее.

У старых процессоров (Pentium, K6 и др.) микросхемы кэша L2 находились на материнской плате.
Скорость работы кэша при этом была довольно низкой (равнялась частоте FSB), но её хватало.

У Athlon K7, P2 и первых P3 кэш был помещён на специальную процессорную плату и работал на 1/2 или 1/3 частоты ядра.

У последних процессоров, в целях увеличения быстродействия, упрощения и удешевления производства, кэш L2 интегрирован в ядро и работает на его полной частоте.

В ряде случаев большой кэш весьма полезен (игры, 3D-ренеринг, работа с базами данных).
Однако с одной стороны, чем больше кэш, тем лучше, но с другой стороны, при увеличении кэша увеличивается время выборки (поиска и извлечения) данных из него.
Хотя увеличение кэша L2, не смотря на это, почти всегда дает (разный по величине) прирост по скорости.