CPU Многоуровневый кэш & Протокол когерентности кэша (MESI)

CPU Многоуровневый кэш

• Ссылка: Модель памяти Java

Протокол когерентности кэша (MESI)

• Появление Многоуровневого кэша решает проблему несоответствия скорости обработки процессора и скорости чтения памяти.,Но это также порождает проблему несогласованности,Чтобы решить эту проблему,Мы представили протокол согласованности кэша,Общие протоколы согласованности кэша включают MSI.,MESI,MOSI,Synapse,Firefly и DragonProtocol и т. д.,Нижеследующее описывается с использованием протокола MESI.

Строка кэша

• Строка кэша относится к наименьшей единице данных в кэше.

Четыре состояния кэша

• Строка кэша имеет 4 состояния, представленные 2 битами.

• Примечание: всегда точно для M и Eсостояния.,Они соответствуют реальному состоянию в этой кэш-строке.,иSсостояниеможет быть противоречивым。еслиодин вSсостояниеизкэш Неверный,Другая строка кэша могла быть заменена строкой кэша,Но не будет повышен до Эксклюзивного состояния.,Потому что Неверный не будет транслироваться на другие кэш-линии сразу.

переход состояния строки кэша

Пример многоядерной совместной работы

• Состояние состояния:CPUB кэш-переменная существует X состояниедля M
• CPUA Выдайте команду для чтения X инструкция, пропуск bus читать X, обнаружен конфликт адресов, будет CPUB Состояние переменной кэша установлено в значение S,читать X приезжать CPUA Заканчивать
• В это время CPUB Исправляем переменную и проход bus Запишите обратно в основную память, обнаружите конфликт адресов,будет CPUA Переменные в S состояние置для I, данные записываются обратно в основную память

Опыт работы с сайтом

• 模拟一致性из整个过程：https://www.scss.tcd.ie/Jeremy.Jones/VivioJS/caches/MESIHelp.htm

Оптимизация МЭСИ и возникающие проблемы

• В процессе сотрудничества между вышеупомянутыми многоядерными процессорами для обеспечения согласованности,Время доставки сообщения намного превышает время выполнения процессора,если每次из操作都需要等待协同инструкция响应Заканчивать,Это значительно снизит производительность процессора.,поэтому представлен магазин Буферы и недействительные Очередь оптимизирована.

Store Bufferes & Invalidate Queue

• Из приведенного выше случая многоядерного сотрудничества мы можем обнаружить, что,Каждый элемент в «Исправленкэш»,Все требуют команды никто эффект состояния (Invalidate Данные Исправить могут быть записаны обратно в строку только после выполнения Acknowledge). Ожидание согласованной инструкции приведет к пустой трате вычислительной мощности ЦП. Введены буферы, мы можем записывать измененные данные в Store, не дожидаясь возврата совместной инструкции. Буферы, если они находятся в магазине при повторном чтении Буферы уже существуют непосредственно из Buffer read (называемого «Store Forwarding"), его можно записать обратно в кэш-строку только после получения ответов от всех согласованных команд в приезжать.
• Store Bufferes ограничено, поэтому при обратной записи строк кэша, чтобы быстрее получить все Invalidate Ответ на команду Acknowledge фактически не будет выполнен немедленно, а будет помещен в Invalidate. Поставьте в очередь и немедленно верните ответ и выполните его в подходящее время.

Store Bufferes & Invalidate Queue проблемы, вызванные

• Нет никакой гарантии, когда буфер Store будет записан обратно.

value = 3;

void exeToCPUA(){
  value = 10;
  isFinsh = true;
}

void exeToCPUB(){
  if(isFinsh){
    // value Должно быть равно 10?
    // если Store Bufferes Отсутствие обратной записи приведет к несогласованности данных.
    assert value == 10;
  }
}

• Invalidate Acknowledge Нет никакой гарантии, когда оно будет выполнено // Когда процессор пытается прочитать, это на самом деле было неверным, но не выполнено. Invalidate Acknowledge данные, это приведет к несогласованности данных

Модель аппаратной памяти

• потому что Store Bufferes & Invalidate Queue Внедрение Store Bufferes Напишите строку кэша и выполните Invalidate Acknowledge Время должно быть очень подходящим, чтобы максимально высвободить вычислительную мощность ЦП. На самом деле ЦП не знает, когда оно будет выполнено, поэтому эта задача остается на усмотрение человека, который пишет программу. Это то, что мы часто делаем. вызовите барьер памяти.

читать барьер & написать барьер

• написать барьер Store Memory Barrier(a.k.a. ST, SMB, smp_wmb) — это команда, которая сообщает процессору применить все инструкции, уже находящиеся в Store, перед выполнением следующих инструкций. buffer中из保存изинструкцияприезжатькэш В движении。
• читать барьерLoad Memory Barrier (a.k.a. LD, RMB, smp_rmb) — это инструкция, которая сообщает процессору, что перед выполнением каких-либо загрузок необходимо применить все операции инвалидации, которые уже находятся в очереди инвалидации.

void executedOnCpu0() {
    value = 10;
    // Все магазины должны быть очищены перед обновлением данных буфер) был выполнен.
    storeMemoryBarrier();
    finished = true;
}
void executedOnCpu1() {
    while(!finished);
    // Все инструкции относительно этих данных в очереди «Неверный» будут выполнены перед чтением.
    loadMemoryBarrier();
    assert value == 10;
}

думать & соединять

• Различные системные архитектуры имеют разные барьеры памяти, в качестве примера можно привести архитектуру X86: читать барьер：lfence、написать барьер：sfence、читатьнаписать барьер：mfence。
• MESI Чтобы максимально повысить производительность протокола согласованности кэша, Store Bufferes & Invalidate Queue , конкретное время сбоя и время записи данных передаются на управление барьером памяти, и JMM Видимость данных гарантируется на основе барьеров памяти.
• Ключевое слово Volatible использует ключевое слово LOCK, находящееся под ним.,Суть ключевого слова LOCK — это блокировка (блокировка шины или блокировка кэш-строки).,Только часть возможностей ключевого слова LOCK имеет тот же эффект, что и барьер памяти.,Но некоторые отличия от барьеров памяти все же есть.

Профиль

👋 привет, я Lorin Лорейн, один Java Разработчик бэкэнд-технологий！девиз：Technology has the power to make the world a better place.

🚀 Моя страсть к технологиям — это моя мотивация продолжать учиться и делиться ими. Мой блог — это место об экосистеме Java, серверной разработке и последних технологических тенденциях.

🧠 Будучи энтузиастом серверных технологий Java, я не только с энтузиазмом изучаю новые возможности языка и глубину технологий, но также с энтузиазмом делюсь своими идеями и передовым опытом. Я верю, что обмен знаниями и сотрудничество с сообществом могут помочь нам расти вместе.

💡 В моем блоге вы найдете подробные статьи об основных концепциях Java, базовой технологии JVM, часто используемых платформах, таких как Spring и Mybatis, управлении базами данных, таких как MySQL, промежуточном программном обеспечении для обработки сообщений, таком как RabbitMQ и Rocketmq, оптимизации производительности и т. д. Я также поделюсь некоторыми советами по программированию и методами решения проблем, которые помогут вам лучше освоить программирование на Java.

🌐 Я поощряю взаимодействие и создание сообщества,поэтому请留下你из问题、Предложения или запросы по теме,Дайте мне знать, что вас интересует. также,Я поделюсь последними новостями Интернета и технологий.,Чтобы вы всегда были в курсе последних событий в мире технологий. Я с нетерпением жду совместной работы с вами на пути к технологиям,Давайте исследуем безграничные возможности мира технологий.

📖 Следите за обновлениями моего блога и давайте вместе стремиться к техническому совершенству.

Я участвую в последнем конкурсе эссе для специального учебного лагеря Tencent Technology Creation 2024. Приходите и разделите со мной приз!