Лекция "иерархическая структура памяти эвм. "

тема 1 вопрос 24 иерархическая структура памяти эвм. уровни иерархии назначение зу различных типов Память часто называют «узким местом» фон­неймановских ВМ из­за ее серьезного отставания по  быстродействию от процессоров, причем разрыв этот неуклонно увеличивается. При создании системы памяти постоянно приходится решать задачу обеспечения требуемой емкости  и высокого быстродействия за приемлемую цену. Наиболее распространенным подходом здесь  является построение системы памяти ВМ по иерархическому принципу. Иерархическая память  состоит из ЗУ различных типов (рис. 3.1), которые, в зависимости от характеристик, относят к  определенному уровню иерархии. Более высокий уровень меньше по емкости, быстрее и имеет  большую стоимость в пересчете на бит, чем более низкий уровень. Уровни иерархии взаимосвязаны:  все данные на одном уровне могут быть также найдены на более низком уровне, и все данные на этом  более низком уровне могут быть найдены на следующем нижележащем уровне и т.д. Самый быстрый, но и минимальный по емкости тип памяти – это внутренние регистры ЦП,  которые иногда объединяют понятием сверхоперативное запоминающее устройство – СОЗУ. Как  правило, количество регистров невелико, хотя в архитектурах с сокращенным набором команд их  число может доходить до нескольких сотен. Основная память (ОП), значительно большей емкости,  располагается несколькими уровнями ниже. Между регистрами ЦП и основной памятью часто  размещают кэш­память, которая по емкости ощутимо проигрывает ОП, но существенно превосходит  последнюю по быстродействию, уступая в то же время СОЗУ. В большинстве современных ВМ  имеется несколько уровней кэш­памяти, которые обозначают буквой L и номером уровня кэш­памяти. На рис.3.1. показаны два таких уровня. В последних разработках все чаще появляется также третий  уровень кэш­памяти (L3), причем разработчики ВМ говорят о целесообразности введения и  четвертого уровня – L4. Каждый последующий уровень кэш­памяти имеет большую емкость, но  одновременно и меньшее быстродействие по сравнению с предыдущим. Как бы то ни было, по  «скорости» любой уровень кэш­памяти превосходит основную память. Все виды внутренней памяти  реализуются на основе полупроводниковых технологий и в основном, являются энергозависимыми. Долговременное хранение больших объемов информации (программ и данных) обеспечивается  внешними ЗУ, среди которых в настоящее время наиболее распространены запоминающие устройства  на базе магнитных и оптических дисков, а также магнитоленточные ЗУ. Наконец, еще один уровень иерархии может быть добавлен между основной памятью и дисками. Этот  уровень носит название дисковой кэш­памяти и реализуется в виде самостоятельного ЗУ,  включаемого в состав магнитного диска. Дисковая кэш­память существенно улучшает  производительность при обмене информацией между дисками и основной памятью. Четыре верхних уровня иерархии образуют внутреннюю память ВМ, а все нижние уровни – это  внешняя или вторичная память. По мере движения вниз по иерархической структуре: 1. Уменьшается соотношение «стоимость/бит». 2. Возрастает емкость. 3. Растет время доступа. 4. Уменьшается частота обращения к памяти со стороны центрального процессора. Если память организована в соответствии с пунктами 1­3, а характер размещения в ней данных и  команд удовлетворяет пункту 4, иерархическая организация ведет к уменьшению общей стоимости  при заданном уровне производительности. Справедливость этого утверждения вытекает из принципа  локальности по обращению. Если рассмотреть процесс выполнения большинства программ, то можно  заметить, что с очень высокой вероятностью адрес очередной команды программы либо следует  непосредственно за адресом, по которому была считана текущая команда, либо расположен вблизи  него. Такое расположение адресов называется пространственной локальностью программы.  Обрабатываемые данные, как правило, структурированы, и такие структуры обычно хранятся в  последовательных ячейках памяти. Данная особенность программ называется пространственной  локальностью данных. Кроме того, программы содержат множество небольших циклов и  подпрограмм. Это означает, что небольшие наборы команд могут многократно повторяться в течение  некоторого интервала времени, то есть имеет место временная локальность. Все три видалокальности объединяет понятие локальность по обращению. Принцип локальности часто облекают в численную форму и представляют в виде так называемого правила «90/10»: 90% времени работы  программы связано с доступом к 10% адресного пространства этой программы. Из свойства локальности вытекает, что программу разумно представить в виде последовательно  обрабатываемых фрагментов – компактных групп команд и данных. Помещая такие фрагменты в  более быструю память, можно существенно снизить общие задержки на обращение, поскольку  команды и данные, будучи один раз переданы из медленного ЗУ в быстрое, затем могут  использоваться многократно, и среднее время доступа к ним в этом случае определяется уже более  быстрым ЗУ. Это позволяет хранить большие программы и массивы данных на медленных, емких, но  дешевых ЗУ, а в процессе обработки активно использовать сравнительно небольшую быструю память,  увеличение емкости которой сопряжено с высокими затратами. На каждом уровне иерархии информация разбивается на блоки, выступающие в качестве наименьшей  информационной единицы, пересылаемой между двумя соседними уровнями иерархии. Размер блоков  может быть фиксированным либо переменным. При фиксированном размере блока емкость памяти  обычно кратна его размеру. Размер блоков на каждом уровне иерархии чаще всего различен и  увеличивается от верхних уровней к нижним. При доступе к командам и данным, например, для их считывания, сначала производится поиск в  памяти верхнего уровня. Факт обнаружения нужной информации называют попаданием (hit), в  противном случае говорят о промахе (miss). При промахе производится поиск в ЗУ следующего более  низкого уровня, где также возможны попадание или промах. После обнаружении необходимой  информации выполняется последовательная пересылка блока, содержащего искомую информацию, с  нижних уровней на верхние. Следует отметить, что независимо от числа уровней иерархии пересылка  информации может осуществляться только между двумя соседними уровнями. При оценке эффективности подобной организации памяти обычно используют следующие  характеристики: ­ коэффициент попаданий (hit rate) – отношение числа обращений к памяти, при которых произошло  попадание, к общему числу обращений к ЗУ данного уровня иерархии; ­ коэффициент промахов (miss rate) – отношение числа обращений к памяти, при которых имел место промах, к общему числу обращений к ЗУ данного уровня иерархии; ­ время обращения при попадании (hit time) – время, необходимое для поиска нужной информации в  памяти верхнего уровня (включая выяснение, является ли обращение попаданием), плюс время на  фактическое считывание данных; ­ потери на промах (miss penalty) – время, требуемое для замены блока в памяти более высокого  уровня на блок с нужными данными, расположенный в ЗУ следующего (более низкого) уровня. Потери на промах включают в себя: время доступа (access time) – время обращения к первому слову  блока при промахе и время пересылки (transfer time) – дополнительное время для пересылки  оставшихся слов блока. Время доступа обусловлено задержкой памяти более низкого уровня, в то  время как время пересылки связано с полосой пропускания канала между ЗУ двух смежных уровней. Описание некоторого уровня иерархии ЗУ предполагает конкретизацию четырех моментов: ­ размещения блока – допустимого места расположения блока на примыкающем сверху уровне  иерархии; ­ идентификации блока – способа нахождения блока на примыкающем сверху уровне; ­ замещения блока – выбора блока, заменяемого при промахе с целью освобождения места для нового  блока; ­ согласования копий (стратегии записи) – обеспечения согласованности копий одних и тех же блоков, расположенных на разных уровнях, при записи новой информации в копию, находящуюся на более  высоком уровне. Иерархия может быть дополнена и другими видами памяти. Так, некоторые модели ВМ фирмы IBM  включают в себя так называемую расширенную память (expanded storage), выполненную на основе  полупроводниковой технологии, но имеющую меньшее быстродействие и стоимость по сравнению с  ОП. Строго говоря, этот вид памяти не входит в иерархию, а представляет собой ответвление от нее,  поскольку данные могут передаваться только между расширенной и основной памятью, но не  допускается обмен между расширенной и внешней памятью.17.2 Иерархическая структура памяти.  Иерархическая структура памяти является традиционным решением проблемы хранения  большого количества данных. На самом верху находятся регистры процессора. Доступ к  регистрам осуществляется быстрее всего. Дальше идет кэш­память, объем которой сейчас  составляет от 32 Кбайт до нескольких мегабайт. Затем следует основная память, которая  в настоящее время может вмещать от 16 Мбайт до десятков гигабайтов. Далее идут  магнитные диски и, наконец, накопители на магнитной ленте и оптические диски, которые  используются для хранения архивной информации.  По мере продвижения по структуре сверху вниз возрастают три параметра. Во­первых,  увеличивается время доступа. Доступ к регистрам занимает несколько наносекунд, доступ к кэш­памяти — немного больше, доступ к основной памяти — несколько десятков  наносекунд. Дальше идет большой разрыв: доступ к дискам занимает по крайней мере 10  мкс, а время доступа к магнитным лентам и оптическим дискам вообще может измеряться  в секундах (поскольку эти накопители информации еще нужно взять и поместить в  соответствующее устройство).  Во­вторых, увеличивается объем памяти. Регистры могут содержать в лучшем случае 128  байтов, кэш­память — несколько мегабайтов, основная память — десятки тысяч  мегабайтов, магнитные диски — от нескольких гигабайтов до нескольких десятков  гигабайтов. Магнитные ленты и оптические диски хранятся автономно от компьютера,  поэтому их объем ограничивается только финансовыми возможностями владельца.  В­третьих, увеличивается количество битов, которое вы получаете за 1 доллар. Стоимость объема основной памяти измеряется в долларах за мегабайт, объем магнитных дисков — в пенни за мегабайт, а объем магнитной ленты — в долларах за гигабайт или еще дешевле.  Характеристики и классификация запоминающих устройств. Иерархия систем памяти  Под запоминающими устройствами (ЗУ, память) будем понимать совокупность устройств  для запоминания, хранения и выдачи информации. Память является одним из основных  ресурсов компьютера, влияющим как на производительность, так и на функциональность  вычислительной машины.  К основным характеристикам устройств памяти можно отнести:  1) Временные характеристики :  ­ быстродействие ­ определяется временем выборки, временем обращения и другими  параметрами.  – время собственно записи. Таким образом, процесс чтения/записи ЗУ в общем случае  включает ряд этапов разной сложности и длительности.  ­ производительность – определяется пропускной способностью ЗУ, то есть – объемом  информации, который можно считать/записать из/в ЗУ в единицу времени. Для оценки  производительности часто используют показатель длительности цикла обращения к  памяти tц, под которым понимают минимальное время между сменой информации на  выходе/ входе ЗУ.  2) Важнейшей потребительской характеристикой ЗУ является его объем, или емкость  памяти (Е), то есть количество запоминаемой информации. В зависимости от типа ЗУ, его  места в вычислительной системе, объем может меняться от десятков байт (для  регистровой памяти ЦП) до десятков и сотен  гигабайт (для массивов накопителей на магнитных дисках). Наряду с характеристикой  емкости памяти применяют также удельную емкость по отношению к единице площади  или объема кристалла :  Eуд = E/Sкр.  Такая характеристика в большей степени характеризует технологические особенности ЗУ. 3) Третьей важнейшей потребительской характеристикой ЗУ, как и любого  вычислительного устройства, является его стоимость, которая также может меняться в  самых широких пределах в зависимости от объема, производительности и других  характеристик. Распространенной  характеристикой является удельная стоимость в расчете на единицу информации(стоимость одного бита/байта, кило­ и мегабайта и т.д.) Помимо перечисленных можно  отметить множество других характеристик ЗУ, в том числе: технологию изготовления,  потребность во внешнем источнике  питания для хранения информации, длительность хранения, количество циклов чтения и  записи, геометрические размеры, и так далее. С учетом приведенных характеристик, а  также – назначения ЗУ, места, занимаемого ЗУ в вычислительной системе, можно  привести, например,  следующую классификацию ЗУ:  1. По удаленности от процессора :  ­ сверхоперативная (регистры процессора, КЭШ память);  ­ основная (оперативная) память ;  ­ дополнительная память (внешняя) ;  ­ вторичная память (также внешняя) ;  ­ массовая память (внешняя, как правило, на доступных сменных носителях).  2. По организации записи :  ­ постоянное запоминающее устройство – ПЗУ (ROM – read­only memory)  – однократно программируемое изготовителем устройство только для  чтения;  ­ перепрограммируемое запоминающее устройство – ППЗУ (PROM) – возможно  перепрограммир­е, которое, однако, требует специальной процедуры, кол­во циклов  записи намного меньше циклов чтения;  ­ оперативное запоминающее устройство ­ ОЗУ (RAM – random access memory) ­  количество циклов чтения может совпадать с количеством циклов записи.  Строго говоря, приведенные отечественные и импортные сокращения для двух основных  типов памяти не вполне точно отражают приведенное деление памяти по организации  записи, но являются исторически сложившимися и общепринятыми.  3. По организации доступа :  ­ с последовательным доступом (tдост меняется для различных адресов или участков  памяти – чем старше адрес, тем больше время доступа);  ­ с прямым доступом (tдост = const для различных адресов или участков  памяти).  4. По организации поиска ячеек в памяти:  ­ «М­поиск» – поиск по месту (например, в адресном ОЗУ);  ­ «В­поиск» – поиск по времени (например, при работе с накопителем на магнитной ленте). 5. По физическому эффекту (технологии), используемому для запоминания  и хранения информации :  ­ полупроводниковая память, магнитная, магнитооптическая, оптическая,  электростатическая и др.  6. ОЗУ по способу хранения делится на :  ­ статическое (на триггерах);  ­ динамическое (на конденсаторах).  7. По способу адресации:  ­ адресная память;  ­ стековая память;  ­ ассоциативная память.  8. По организации памяти в систему:  ­ память с расслоением;  ­ виртуальная память;  ­ кэш­память;  ­ различные варианты блочно­конвейерных систем.  9. По зависимости от источника питания:  ­ энергозависимая;  ­ энергонезависимая.Как и ранее, при классификации вычислительных машин, отметим, что выбранные  классификационные признаки не являются всеобъемлющими или обязательными, просто  они отражают некоторые важные особенности классифицируемых систем.  Рассматривая характеристики и классификацию ЗУ, с учетом их многообразия нельзя не  упомянуть об иерархии систем памяти в составе вычислительной системы. Как мы  помним, принцип иерархического построения систем памяти заложен еще в фон­ неймановской архитектуре, в те годы, когда большинства современных ЗУ и их типов не  существовало. Однако и тогда существовала относительно быстрая и дорогая  энергозависимая оперативная память, и внешняя память – более дешевая, намного более  медленная, но при этом энергонезависимая. Сейчас иерархия выглядит намного сложнее,  но общий принцип ее построения остается в основном неизменным На верхнем уровне  иерархии располагается наиболее быстрая и дорогая регистровая память процессора, а  также – буферная кэш­память первого уровня, расположенная в кристалле процессора. К  ней примыкает кэш­память второго уровня, выполняемая в одном корпусе с процессором,  либо – на системной плате.  На следующем уровне находится оперативная (чаще всего – динамическая) память  достаточно большого объема. Эти уровни вместе с процессорами образуют ядро ВС в  архитектуре фон­Неймана. На более низких уровнях располагается внешняя память –  внешние устройства, взаимодействующие с  ядром по каналам ввода­вывода. В качестве вторичной памяти можно указать НЖМД  (HDD) – накопители на жестких магнитных дисках – пожалуй, наиболее  быстродействующую внешнюю память, при этом со значительным объемом. К массовой  памяти можно отнести разнообразные сменные носители информации, различающиеся как  по объему, так и по времени доступа (накопители на гибких магнитных дисках, магнитной  ленте, CD­ROM – диски и т.д.), которые объединяет, пожалуй, относительно низкая  удельная стоимость. Легко заметить, что при движении по иерархии сверху вниз  происходит снижение удельной стоимости хранения информации, рост объемов ЗУ и ­  падение производительности. Подобное построение систем памяти в ВС объясняется, с  одной стороны,  различной функциональной направленностью ЗУ (оперативное хранение небольших  объемов информации в ОЗУ, либо – долговременное хранение больших объемов данных на дисковой памяти), а с другой ­ попыткой достичь более­менее приемлемого соотношения  между ценой и производительностью (а также функциональностью) вычислительной  системы, что являлось актуальным как на заре вычислительной техники, так и сейчас.