Недавно без ума от（Хочу купить）Jetson Orin,Это плата для разработки интегрированного искусственного интеллекта, выпущенная NVIDIA в этом году. Официально эта вещь поступит в продажу в марте или апреле этого года. Официальная цена составляет 1999 долларов США. В Китае она оценивается примерно в 16 000 долларов США. Исполнение прекрасное, и цена, конечно, красивая.

Джетсон Орин — новая серия в этом году,перед прошлымдаTX1、TX2、Xavierряд。Для этого использовались предыдущие просяные железные яйца.Xavier Серия NX. Orinизпроизводительность В настоящее время это Встроенный Совет по развитиюсерединаизпроизводительностьпотолок,В настоящее время существует множествоиз Для автомобильных компанийиз ВсеОрин делает ADAS,Вычислительная мощность все еще очень сильна,Например, Вейлай утверждает, что они используют4кусокorinНаконец-то иметь власть1000T。 Например, Baidu, Weilai, Lideal и др. также используют серию автомобильных чипов Orin (но есть некоторые отличия от того, что могут купить потребители). Конечно, есть и беспилотные автомобили, которые не используют Orin. Некоторые используют чипы Qualcomm, а некоторые используют свои собственные чипы. Сказав это, давайте посмотрим на сравнение производительности Орина:

На поверхности,от32T->275T,Улучшено в 8 раз. Вычислительная мощность INT8 достигла почти 300Т.,Но смотри внимательно,Эй, этоиндивидуальный Вычислительная мощностьНедостаточная вычислительная мощность,Если рассчитывать по плотности,Разрежьте его пополам и получите вычислительную мощность 130T-INT8. Я также некоторое время изучал, как вызывать разреженную функцию.,Не в глубину,Эффект пока не очень очевиден,Возможно, поза неправильная。в соответствии софициальный тестResNext-101существоватьA100Самый высокий в списке20%изпроизводительностьпродвигать：

В настоящее время разреженность не используется широко, но предполагается, что в будущем она может стать технологией «плохой улицы», такой как количественная оценка! Количественная технология теперь является стандартной, и для этого используется вычислительная мощность INT8 в 200Tops. Однако будет небольшое снижение квантования, обычно в пределах 1%. Если используется разреженность, падение можно игнорировать. Точность может быть FP16 или INT8, а производительность можно улучшить на основе квантования. во время процесса обучения, но требования к оборудованию относительно высоки.

Сравнение производительности

Взгляните на версию Nvidia 64G. orinизAIпроизводительность,275T=170T+105T(52.5*2)。

Значение INT8, равное 170, представляет собой разреженную вычислительную мощность, которая при преобразовании в плотную составляет 85Т. Всего 64 тензора Ядро, частота 1,3ГГц: 1.3*64*256*2*2=85196G=85T。вampereодин cycle Пропускная способность 256 индивидуальный FMA с точностью FP16, INT8 в два раза точнее, чем FP16. Я не знаком с DLA, но это поколение DLA поддерживает разреженность. На бумаге говорится, что производительность увеличилась в 8 раз, но на самом деле просто посмотрите на это. Для фактического улучшения необходимо учитывать множество факторов (структура модели, ввод-вывод, данные). На рисунке ниже показаны данные оценки Orin от SmartCow:

Что касается данных видеокарты Orin среднего уровня, количество ядер CUDA очень близко к ноутбуку 3050: всего 2048 ядер CUDA и 64 Tensor. Core：

Вычислительная мощность основана на архитектуре Ampere.,Так что начало все равно 8. 8.7 это потому что добавлен DLA.,и7.0->7.2похожий：

DLA заменили на второе поколение, убрали вычислительный блок FP16 и заменили всё на INT8. Говорят это для снижения энергопотребления, а вроде бы все включено INT8.

Новые возможности DLA:

план продукта

В настоящее время выпущена только базовая плата Orin 32G, а базовая плата 64G будет выпущена в октябре.

Серия NX выйдет в сентябре и октябре:

Продаваемый сейчас комплект разработки Orin имеет две детали, которые нельзя игнорировать, поэтому он еще и дороже:

• У него 32 Гб памяти, но вычислительная мощность 275 Тб.
• Имеется 10 гигабитных сетевых портов.

Советы по покупке

Официальная плата разработки Jetson Orin слишком дорогая, и я не могу себе ее позволить. Я посмотрел на Taobao и обнаружил, что на Xianyu она стоит около 1w5. Первоначальная цена составляет 1999 долларов США плюс доставка и 13 налогов. это примерно то же самое.

Если вы хотите купить ее сами и поиграть в нее,Рекомендуется покупать серию NX.,Я также рассмотрел некоторые причины,Просто играй сам,Вычислительная мощность Orin 200T не может быть использована, а ее производительность чрезмерна и бесполезна.（На самом деле, это в основном дорого）。

Однако, глядя на изображение ниже, улучшение производительности INT8 вполне очевидно. Я с нетерпением жду Orin. Серия NX скоро будет выпущена, и игроки смогут купить ее и играть самостоятельно:

Что еще более важно, Xavier NX будет поддерживаться до 2026 года, поэтому вы не потеряете деньги, если купите серию Xavier NX сейчас!

Конечно, есть и размер. Серия NX имеет размер кредитной карты, а серия AGX — размером с книгу весом 32 карата. Если вы покупаете ее и хотите сделать ее своими руками, будьте осторожны. Посмотрите Терри Нью ТаймсOrinизнесущая платаRTSO-1002,Размер 17см*13см.,Размер должен быть как книга размером 32К.,Не слишком маленький.

Несущая плата NX вдвое меньше.,Посмотрите Терри Нью ТаймсизRTSO-6002Размер несущей платы。

Он такого же размера, как кредитная карта, очень миниатюрный и портативный.

А что насчет оболочки?

При покупке вы должны получить индивидуальный чехол.,А вот отечественную оболочку трудно описать,Все они относительно неприхотливы. Увидел случайноВот этотвнеиз Комплект разработки довольно хороший.из,Чем отечественныйиз ДажеМолодой и красивыйНажмите хаха。 По мотивам Ксавьера NX оснащен множеством датчиков, таких как камеры, встроенные динамики, микрофоны, OLED-дисплеи и т. д.

Довольно красивый, да?

Задняя часть корпуса открыта. Это нормально?

Посмотрев на этот продукт, существует высокая вероятность того, что он имеет настроенную систему BSP. Пользователи могут напрямую использовать свою настроенную систему для разработки некоторых приложений. Как использовать камеру, микрофон и экран дисплея, вы получите инструкции, а затем. вы можете просто изменить его прямо выше. Оболочка не продается отдельно.

Подвести итог

Подвести Далее я должен сказать, что серия Jetson — это убийственное оружие для мужчин-энтузиастов искусственного интеллекта в науке и технике. Они хотят ее купить, но у них нет времени играть, поэтому они могут заниматься только бизнесом. Отдельные люди советуют, если вы просто играете самостоятельно и у вас нет реальных сценариев использования, просто купите индивидуальную серию NX. Вы также можете подождать, пока Orin станет доступен, чтобы испытать характеристики архитектуры Ampere. Неплохо купить серию Xavier. напрямую, и структура Вольта не старая. Короче говоря, после некоторого осмотра и исследования, я пока воздержался. Ха-ха, я хотел бы дать несколько советов тем, кто хочет его купить. Старайтесь не пылиться после покупки.

Справочная ссылка

• https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/
• https://developer.nvidia.com/embedded/jetson-modules
• https://medium.com/@Smartcow_ai/is-the-new-nvidia-jetson-agx-orin-really-a-game-changer-we-benchmarked-it-b3e390f4830a
• https://www.smartcow.ai/products/apollo
• https://www.servethehome.com/nvidia-orin-brings-arm-and-ampere-to-the-edge-at-hot-chips-34/
• https://www.realtimes.cn/Uploads/download/DS-10662-001_v1.0.pdf