Big Data NiFi (17): терминология NiFi
Big Data NiFi (17): терминология NiFi

Терминология Ни Фи

один、Диспетчер потока данных

DataFlow Manager (DFM) — это пользователь NiFi с разрешениями на добавление, удаление и изменение компонентов потока данных NiFi.

2. Файл потока

FlowFile представляет собой отдельный фрагмент данных в NiFi. FlowFile состоит из атрибутов и содержимого. Содержимое — это данные, представленные FlowFile, а атрибуты состоят из пар ключ-значение, которые предоставляют информацию о данных или контекстных характеристиках. Все FlowFiles имеют следующие стандартные свойства:

uuid: универсальный уникальный идентификатор, используемый для различения отдельных FlowFiles.

имя файла: удобочитаемое имя файла, которое можно использовать при хранении данных на диске или во внешней службе.

путь: иерархическое значение, которое можно использовать при хранении данных на диске или во внешних службах, чтобы данные не хранились в одном каталоге.

3. Процессор

Процессоры — это компоненты NiFi, используемые для прослушивания входящих данных, извлечения данных из внешних источников, публикации данных во внешних источниках, маршрутизации, преобразования или извлечения информации из FlowFiles.

4. Отношения

Каждый процессор имеет ноль или более связей. Эти отношения определяют, как обрабатывается FlowFile: после того, как процессор обработал FlowFile, он маршрутизирует (передает) FlowFile в одно из этих отношений. DFM может связать каждое отношение с другими компонентами, чтобы указать, где FlowFile должен быть обработан следующим.

5. Подключение

Connection может соединять различные процессоры вместе для создания процессов автоматической обработки данных.

шесть、Служба контроллера

Служба контроллера — это точка расширения, которая после добавления и настройки DFM в пользовательском интерфейсе будет запускаться при запуске NiFi и предоставлять информацию, необходимую другим компонентам (например, процессору или другим службам контроллера).

7. Задача отчетности

Задача создания отчетов выполняется в фоновом режиме и предоставляет статистические отчеты о том, что происходит в экземпляре NiFi.

8.Воронка

Воронка — это компонент NiFi, используемый для объединения данных из нескольких соединений в одно соединение.

9. Группа процессов

Когда поток данных становится сложным, полезно управлять потоком данных на более высоком, более абстрактном уровне. NiFi позволяет объединять несколько компонентов (например, процессоров) в группу процессов. Компоненты в группах и группах действий можно просмотреть через интерфейс.

10. Порт

Обычно используется для удаленного подключения к группам NiFi.

11. Группа удаленных процессов

Удаленные группы позволяют передавать данные из одного экземпляра NiFi в другой. Хотя NiFi предоставляет множество различных механизмов для передачи данных из одной системы в другую, если вы передаете данные в другой экземпляр NiFi, реализация удаленной группы процессов является самым простым методом.

12. Бюллетень (Объявление)

Пользовательский интерфейс NiFi обеспечивает множество возможностей мониторинга и обратной связи о текущем состоянии приложения. Помимо предупреждения «желтого треугольника» для каждого компонента, будет сообщаться об ошибке, когда каждый компонент запускается с ошибкой. Эта ошибка будет отображаться в правом верхнем углу процессора в виде красного значка. Объявления системного уровня отображаются в строке состояния в верхней части страницы. При наведении курсора мыши на этот значок появится всплывающая подсказка с информацией об объявлении.

13. Шаблон

DataFlow состоит из множества повторно используемых компонентов. NiFi позволяет DFM выбирать часть DataFlow (или весь DataFlow) и создавать шаблон для повторного использования.

14. поток.xml.gz

Содержимое всех компонентов холста пользовательского интерфейса записывается в режиме реального времени в файл с именем flow.xml.gz, который по умолчанию находится в каталоге $NIFI_HOME/conf. Любые изменения, внесенные на холсте, автоматически сохраняются в этом файле. Кроме того, NiFi автоматически создаст резервную копию этого файла при обновлении. Вы можете использовать эти резервные копии для отката конфигурации. Если вы хотите выполнить откат, сначала остановите NiFi, замените flow.xml.gz необходимой резервной копией, а затем перезапустите NiFi. . В кластерной среде остановите весь кластер NiFi, замените flow.xml.gz одного узла, удалите flow.xml.gz с других узлов, а затем перезапустите кластер. Будет создана резервная копия «flow.xml.gz». автоматически синхронизируется между узлами документа.

boy illustration
Углубленный анализ переполнения памяти CUDA: OutOfMemoryError: CUDA не хватает памяти. Попыталась выделить 3,21 Ги Б (GPU 0; всего 8,00 Ги Б).
boy illustration
[Решено] ошибка установки conda. Среда решения: не удалось выполнить первоначальное зависание. Повторная попытка с помощью файла (графическое руководство).
boy illustration
Прочитайте нейросетевую модель Трансформера в одной статье
boy illustration
.ART Теплые зимние предложения уже открыты
boy illustration
Сравнительная таблица описания кодов ошибок Amap
boy illustration
Уведомление о последних правилах Points Mall в декабре 2022 года.
boy illustration
Даже новички могут быстро приступить к работе с легким сервером приложений.
boy illustration
Взгляд на RSAC 2024|Защита конфиденциальности в эпоху больших моделей
boy illustration
Вы используете ИИ каждый день и до сих пор не знаете, как ИИ дает обратную связь? Одна статья для понимания реализации в коде Python общих функций потерь генеративных моделей + анализ принципов расчета.
boy illustration
Используйте (внутренний) почтовый ящик для образовательных учреждений, чтобы использовать Microsoft Family Bucket (1T дискового пространства на одном диске и версию Office 365 для образовательных учреждений)
boy illustration
Руководство по началу работы с оперативным проектом (7) Практическое сочетание оперативного письма — оперативного письма на основе интеллектуальной системы вопросов и ответов службы поддержки клиентов
boy illustration
[docker] Версия сервера «Чтение 3» — создайте свою собственную программу чтения веб-текста
boy illustration
Обзор Cloud-init и этапы создания в рамках PVE
boy illustration
Корпоративные пользователи используют пакет регистрационных ресурсов для регистрации ICP для веб-сайта и активации оплаты WeChat H5 (с кодом платежного узла версии API V3)
boy illustration
Подробное объяснение таких показателей производительности с высоким уровнем параллелизма, как QPS, TPS, RT и пропускная способность.
boy illustration
Удачи в конкурсе Python Essay Challenge, станьте первым, кто испытает новую функцию сообщества [Запускать блоки кода онлайн] и выиграйте множество изысканных подарков!
boy illustration
[Техническая посадка травы] Кровавая рвота и отделка позволяют вам необычным образом ощипывать гусиные перья! Не распространяйте информацию! ! !
boy illustration
[Официальное ограниченное по времени мероприятие] Сейчас ноябрь, напишите и получите приз
boy illustration
Прочтите это в одной статье: Учебник для няни по созданию сервера Huanshou Parlu на базе CVM-сервера.
boy illustration
Cloud Native | Что такое CRD (настраиваемые определения ресурсов) в K8s?
boy illustration
Как использовать Cloudflare CDN для настройки узла (CF самостоятельно выбирает IP) Гонконг, Китай/Азия узел/сводка и рекомендации внутреннего высокоскоростного IP-сегмента
boy illustration
Дополнительные правила вознаграждения амбассадоров акции в марте 2023 г.
boy illustration
Можно ли открыть частный сервер Phantom Beast Palu одним щелчком мыши? Супер простой урок для начинающих! (Прилагается метод обновления сервера)
boy illustration
[Играйте с Phantom Beast Palu] Обновите игровой сервер Phantom Beast Pallu одним щелчком мыши
boy illustration
Maotouhu делится: последний доступный внутри страны адрес склада исходного образа Docker 2024 года (обновлено 1 декабря)
boy illustration
Кодирование Base64 в MultipartFile
boy illustration
5 точек расширения SpringBoot, супер практично!
boy illustration
Глубокое понимание сопоставления индексов Elasticsearch.
boy illustration
15 рекомендуемых платформ разработки с нулевым кодом корпоративного уровня. Всегда найдется та, которая вам понравится.
boy illustration
Аннотация EasyExcel позволяет экспортировать с сохранением двух десятичных знаков.