Всем привет, мы снова встретились, я Цюаньчжаньцзюнь.

1. Что такое процессор? Что такое графический процессор?

Прежде чем выяснить разницу между серверами GPU и серверами CPU, давайте сначала вспомним, что такое CPU? Что такое графический процессор?

1. Так называемый ЦП — это центральный процессор (ЦП, центральный процессор, сокращение: ЦП), который является ядром вычислений и управления всей компьютерной системой и конечным исполнительным блоком для обработки информации и выполнения программ. ЦП является основным компонентом и наиболее фундаментальным компонентом всей обработки данных.

2. Так называемый графический процессор — это графический процессор (GPU, графический процессор, сокращение: GPU), также известный как ядро ​​дисплея, визуальный процессор и чип дисплея. Это своего рода компьютер, который специально используется в. персональные компьютеры, рабочие станции, игровые консоли и некоторые мобильные устройства (например, микропроцессоры, выполняющие операции с изображениями и графикой на планшетных компьютерах, смартфонах и т. д.).

Однако, исходя из приведенного выше буквального значения, мы не можем правильно понять важную роль, которую играют графический процессор и процессор при вычислении данных.

Разница между графическим процессором и процессором:

Из сравнительной диаграммы архитектуры графического процессора и процессора мы видим, что процессор имеет меньше логических операционных блоков и более крупный контроллер. Графический процессор имеет меньшие и более логические операционные блоки, более простые функции контроллера и меньший объем кэша. Многие логические операционные блоки графического процессора организованы в матрицу и могут параллельно обрабатывать большое количество относительно простых задач обработки. Таким образом можно разобрать обработку изображений. Вычислительная мощность одного вычислительного блока графического процессора слабее, чем у центрального процессора, но одновременно может работать большое количество вычислительных блоков. При выполнении параллельных вычислений высокой интенсивности его производительность выше, чем у центрального процессора.

суммируя

ЦП хорошо справляется со сложными операциями, такими как управление общей ситуацией, а графический процессор хорош с простыми повторяющимися операциями с большими данными. ЦП — это работник ручного труда, выполняющий сложную умственную работу, а графический процессор — физический работник, выполняющий массивные параллельные вычисления.

Глубокое обучение — это математическая сетевая модель, созданная для моделирования нервной системы человеческого мозга. Самая большая особенность этой модели заключается в том, что для обучения требуются большие данные. Таким образом, требования к компьютерным процессорам требуют большого количества параллельных повторяющихся вычислений, и графические процессоры обладают этим опытом. Это также важная причина, почему серверы с графическим процессором сегодня активно развиваются.

2. Разница между серверами CPU и серверами GPU

Термины «сервер ЦП» и «сервер ГП» на самом деле ненаучны. Сервер без графического процессора все еще можно рассчитать и использовать, но сервер без процессора не может работать. Проще говоря, термины «сервер ЦП» и «сервер графического процессора» просто имеют разное значение для сервера.

3. GPU-сервер

Сервер графического процессора — это быстрая, стабильная и гибкая вычислительная служба на основе графического процессора, которая используется в различных сценариях, таких как кодирование и декодирование видео, глубокое обучение и научные вычисления. Мы предоставляем тот же метод управления, что и стандартные облачные серверы. Отличные возможности обработки графики и высокопроизводительные вычислительные возможности обеспечивают максимальную производительность вычислений, эффективно снижают нагрузку на компьютеры и повышают эффективность вычислительной обработки и конкурентоспособность продуктов.

4. Как выбрать GPU-сервер и принципы выбора GPU-сервера:

Прежде всего, нам нужно понимать, что графические процессоры в основном делятся на три интерфейса. В настоящее время на рынке основными являются традиционные интерфейсы шины, интерфейсы PCIe и интерфейсы NV-Link.

Типичным представителем графического процессора типа интерфейса NV-Link является NVIDIA V100, использующая интерфейс SXM2. На DGX-2 имеется интерфейс SXM3. Серверы графического процессора со стандартной шиной NV-Link можно разделить на две категории: одна — это суперкомпьютер DGX, разработанный NVIDIA, а другая — сервер с интерфейсом NV-Link, разработанный партнерами. Суперкомпьютер DGX предоставляет не только аппаратное обеспечение, но также сопутствующее программное обеспечение и услуги.

Традиционные графические процессоры с интерфейсом шины в настоящее время являются массовыми продуктами, такими как V100, P40 (начало P относится к архитектуре PASCAL предыдущего поколения) и P4 с интерфейсом PCI-e, а также новейшей архитектурой Тьюринга T4 и т. д. Среди них P4 и T4, которые относительно тонкие и занимают только один слот, обычно используются для вывода, и уже существуют зрелые модели для вывода и идентификации.

Традиционные серверы с графическим процессором с шиной PCI-e также делятся на две категории: одна — это OEM-серверы, такие как Sugon, Inspur, Huawei и другие международные бренды; другая — серверы сторонних производителей, которые также включают в себя множество типов. Помимо классификации, при выборе сервера необходимо также учитывать такие показатели производительности, как точность, тип видеопамяти, объем видеопамяти и энергопотребление. При этом некоторые серверы требуют водяного охлаждения, шумоподавления или имеют специальное. требования к температуре, мобильности и т. д., необходим специальный сервер.

При выборе сервера графического процессора вы должны сначала рассмотреть потребности бизнеса в выборе подходящей модели графического процессора. В высокопроизводительных вычислениях HPC выбор также должен основываться на точности. Например, для некоторых высокопроизводительных вычислений требуется двойная точность. В этом случае нецелесообразно использовать P40 или P4, можно использовать только V100 или P100. В то же время существуют требования к емкости видеопамяти. Например, вычислительные приложения, такие как разведка нефти или нефтехимии, предъявляют относительно высокие требования к видеопамяти, некоторые из них также предъявляют требования к стандартам шины, поэтому при выборе модели графического процессора следует учитывать требования. вы должны сначала рассмотреть потребности бизнеса.

Серверы GPU также имеют множество приложений в области искусственного интеллекта. В учебных сценариях требования к виртуализации графических процессоров относительно высоки. В зависимости от количества людей в классе преподавателю может потребоваться виртуализация сервера графического процессора для создания 30 или даже 60 виртуальных графических процессоров. Поэтому пакетное обучение предъявляет относительно высокие требования к графическим процессорам, и для обучения графических процессоров обычно используется V100. После обучения модели необходимо выполнить вывод, поэтому для вывода обычно используется P4 или T4, а в некоторых случаях также используется V100.

После выбора модели графического процессора подумайте, какой тип сервера графического процессора использовать. На данный момент нам необходимо рассмотреть следующие ситуации:

Во-первых, на пограничном сервере вам необходимо выбрать соответствующие серверы, такие как T4 или P4, в зависимости от объема. В то же время вы также должны учитывать сценарии использования сервера, такие как штык вокзала, штык аэропорта или общественная безопасность. байонет и т. д. при выполнении вывода на центральном конце. Для серверов, которым может потребоваться V100, необходимо учитывать пропускную способность, сценарии использования, количество и т. д.

Во-вторых, необходимо учитывать собственную совокупность пользователей и возможности ИТ-операций и обслуживания. У крупных компаний, таких как BAT, их собственные операционные возможности относительно сильны, и в настоящее время они будут выбирать серверы PCI-e общего назначения; для некоторых возможностей ИТ-эксплуатации и обслуживания. Клиенты, которые не так сильны, уделяют больше внимания цифрам, аннотациям данных и т. д. Мы называем этих людей специалистами по данным, и критерии выбора серверов с графическим процессором также будут другими.

В-третьих, необходимо учитывать ценность вспомогательного программного обеспечения и услуг.

В-четвертых, мы должны учитывать зрелость и инженерную эффективность всей кластерной системы графических процессоров. Например, суперкомпьютер с интегрированным графическим процессором, такой как DGX, имеет очень зрелую операционную систему, которая управляет Docker, а другие части исправлены и оптимизированы, тогда эффективность будет относительной. высокий.

Издатель: Лидер стека программистов полного стека, укажите источник для перепечатки: https://javaforall.cn/111530.html Исходная ссылка: https://javaforall.cn