NiFi для больших данных (15): Начало работы с NiFi, пример 2
NiFi для больших данных (15): Начало работы с NiFi, пример 2

Корпус входа NiFi второй

Требования: случайным образом сгенерировать несколько наборов тестовых данных, выполнить регулярное сопоставление сгенерированных данных и вывести совпадающие данные во внешний файл. Вышеуказанное требует использования процессоров «GenerateFlowFile», «ReplaceText» и «PutFile».

1. Настройте процессор GenerateFlowFile.

Этот процессор может генерировать произвольные данные FlowFile или генерировать FlowFile с пользовательским содержимым. В основном используется для нагрузочного тестирования и тестирования данных, сгенерированных моделированием.

1. Перетащите «Процессор» и во всплывающем окне введите «GenerateFlowFile».

2. Настройте «GenerateFlowFile» для создания FlowFile.

Откройте конфигурацию «GenerateFlowFile» и найдите параметр «СВОЙСТВА» для настройки:

Параметры конфигурации «PROPERTIES» для «GenerateFileFile» объясняются следующим образом:

Элементы конфигурации

значение по умолчанию

разрешенные значения

описывать

Размер файла (размер файла)

0 B

Сгенерируйте размер каждого файла FlowFile.

Размер партии (размер партии)

1

Одновременно создается несколько FlowFile.

Формат данных (формат данных)

Text

Binary Text

Указывает, являются ли сгенерированные данные текстовыми или двоичными.

Уникальные FlowFiles (толькоFlowFile)

false

true false

Если это правда, FlowFile, создаваемый каждый раз, уникален. Если это значение ложно, случайное содержимое каждого FlowFile одинаково, а пропускная способность высока.

Пользовательский текст (пользовательский текст)

Пользовательский текстовый контент. Вам необходимо установить для параметра «Формат данных» значение «Текст», а для параметра «Уникальные FlowFiles» — значение false. В этом случае размер создаваемого файла является переменным, и установленный параметр «Размер файла» будет игнорироваться.

Набор символов (Кодировка символов)

UTF-8

Укажите кодировку, используемую для создания FlowFile.

Тип пантомимы (значение mime.type)

Установите значение Value встроенного атрибута «mime.type».

Расписание по умолчанию «GenerateFlowFile» будет выполняться непрерывно для генерации данных. Чтобы облегчить последующее тестирование, после настройки здесь конфигурации «СВОЙСТВА» вам также необходимо настроить «Расписание выполнения» в разделе «ПЛАНИРОВАНИЕ». , оно будет планироваться каждые 10 секунд. Цель: данные генерируются медленнее, что облегчает просмотр результатов позже.

2. Настройте процессор «ReplaceText».

Процессор «ReplaceText» заменит содержимое FlowFile, соответствующее регулярному выражению, и создаст новое содержимое FlowFile.

1. Перетащите «Процессор» и во всплывающем окне введите «GenerateFlowFile».

2. Настройте процессор «ReplaceText».

Получит данные «hello world», сгенерированные процессором «GenerateFlowFile», и заменит «world» на «nifi».

Параметры конфигурации «СВОЙСТВА» для «ReplaceText» объясняются следующим образом:

Элементы конфигурации

значение по умолчанию

разрешенные значения

описывать

Значение поиска (обычное значение соответствия)

(?s)(^.*$)

Регулярное выражение, соответствующее содержимому FlowFile. Используется только со стратегиями замены «Регулярное выражение» и «Литеральная замена».

Стоимость замены

$1

Значение, вставленное при использовании стратегии «Стратегия замены». $1 представляет первое значение, соответствующее регулярному выражению.

Набор символов (кодировка)

UTF-8

Указывает набор символов кодировки.

Максимальный размер буфера (Максимальный размер данных буфера)

1 M

Указывает максимальный объем данных для буферизации (на файл или на строку, в зависимости от режима расчета), чтобы можно было применить замену. «Режим оценки», если «Весь Text", а FlowFile больше этого значения, то FlowFile будет перенаправлен на "сбой"; в режиме "Построчно", если строка текста больше этого значения, FlowFile будет перенаправлена значение "неудача". по умолчаниюдля1 МБ, в основном используется для «Вся Текст». В режиме «Построчно» рекомендуется использовать 8 КБ или 16 Значения типа КБ. Если для политики замены установлено одно из следующих значений: «Добавить», «Добавить в начало», «Всегда». Заменить, значение игнорируется.

Стратегия замены (стратегия замены)

Regex Replace

Prepend Append Regex Replace Literal Replace Always Replace

Стратегия, определяющая способ замены содержимого FlowFile.

Режим оценки

Line-by-Line

Line-by-Line Entire text

Выполните «стратегию замены» для каждой строки индивидуально (построчно); или буферизируйте весь файл в памяти (весь текст), а затем выполните для него «стратегию замены».

Режим построчной оценки

ALL

All First-Line Last-Line Except-First-Line Except-Last-Line

В построчном «режиме оценки»: (ALL) По умолчанию используется «стратегия замены» для всех строк в FlowFile. (Первая линия): используйте «стратегию замены» только для первой линии. (Последняя строка): используйте «стратегию замены» только для последней строки. (кроме первой строки): используйте «стратегию замены», за исключением первой строки. (Except-Last-Line): используйте «стратегию замены», за исключением последней строки.

  • Prepend
  • Append
  • Regex Replace
  • Literal Replace
  • Always Replace

Стратегия, определяющая способ замены содержимого FlowFile. Режим оценки Line-by-Line

  • Line-by-Line
  • Entire text

Выполните «стратегию замены» для каждой строки индивидуально (построчно); или буферизируйте весь файл в памяти (весь текст), а затем выполните для него «стратегию замены». Режим построчной оценки ALL

  • All
  • First-Line
  • Last-Line
  • Except-First-Line
  • Except-Last-Line

В построчном «режиме оценки»: (ALL) По умолчанию используется «стратегия замены» для всех строк в FlowFile. (Первая линия): используйте «стратегию замены» только для первой линии. (Последняя строка): используйте «стратегию замены» только для последней строки. (кроме первой строки): используйте «стратегию замены», за исключением первой строки. (Except-Last-Line): используйте «стратегию замены», за исключением последней строки.

В приведенной выше таблице «Поиск Value”значение по умолчанию“(?s)(^.*$)”Объяснено ниже:

  • (?s) означает включение однострочного режима.
  • В (^.*$) ^ указывает на начало регулярного выражения.
  • . означает соответствие любому символу, кроме символа новой строки.
  • * означает совпадение предыдущего подвыражения 0 или более раз.
  • $выражатьрегулярное выражение Заканчивать。

Доступные значения для «Стратегии замены» в таблице выше поясняются ниже:

  • Prepend: вставьте значения замены в начало файла потока или в начало каждой строки (в зависимости от режима оценки). Если для параметра «Режим оценки» установлено значение «Построчно», значение будет добавлено в начало каждой строки, а если установлено значение «Весь текст», значение будет добавлено в начало всего текста.
  • Добавить: вставить значения замены в конец файла потока или в конец каждой строки (в зависимости от режима оценки). Если для параметра «Режим оценки» установлено значение «Построчно», значение будет добавлено в начало каждой строки, если установлено значение «Весь текст», значение будет добавлено в начало всего текста.
  • Regex Заменить: используйте «Замена». Value"Заменить всерегулярное выражениесоответствующее значение,"Замена Value"Можно цитироватьрегулярное Выражение Соответствующее значение указывается с помощью $1, $2 и т. д.
  • Буквальная замена: если значение «Значение поиска» является значением поиска, используйте значение замены «Значение замены», чтобы заменить совпадение.
  • Always Заменить: всегда заменяет всю строку или все содержимое FlowFile (в зависимости от «Режима» оценки" значение атрибута), поиск значений производиться не будет. При выборе этой стратегии "Поиск Атрибут Value» будет игнорироваться.

3. Настройте процессор «PutFile».

По поводу параметров создания и настройки процессора «PutFile» см. Случай 1. Конфигурация процессора «PutFile» задается непосредственно здесь, а заменяемый FlowFile записывается во внешний путь «/root/test/matchFile»:

4. Подключите каждый процессор и запустите тест.

При подключении процессора «ReplaceText» и процессора «PutFile» необходимо установить взаимосвязь конфигурации соединения. Когда процессор «ReplaceText» записывает успешно совпавшие данные в процессор «PutFile»:

Установите FlowFile для автоматического прекращения связи, когда обработчик «ReplaceText» не соответствует:

Полное соединение выглядит следующим образом:

После запуска процессора GenerateFlowFile:

При этом просмотрите данные в «Происхождении данных» следующим образом:

Запустите процессор «ReplaceText» и просмотрите обработанные данные:

Запустите процессор «PutFile», и соответствующие данные сгенерируются на каждом узле, соответствующем кластеру NiFi:

Посмотреть результаты данных:

boy illustration
Углубленный анализ переполнения памяти CUDA: OutOfMemoryError: CUDA не хватает памяти. Попыталась выделить 3,21 Ги Б (GPU 0; всего 8,00 Ги Б).
boy illustration
[Решено] ошибка установки conda. Среда решения: не удалось выполнить первоначальное зависание. Повторная попытка с помощью файла (графическое руководство).
boy illustration
Прочитайте нейросетевую модель Трансформера в одной статье
boy illustration
.ART Теплые зимние предложения уже открыты
boy illustration
Сравнительная таблица описания кодов ошибок Amap
boy illustration
Уведомление о последних правилах Points Mall в декабре 2022 года.
boy illustration
Даже новички могут быстро приступить к работе с легким сервером приложений.
boy illustration
Взгляд на RSAC 2024|Защита конфиденциальности в эпоху больших моделей
boy illustration
Вы используете ИИ каждый день и до сих пор не знаете, как ИИ дает обратную связь? Одна статья для понимания реализации в коде Python общих функций потерь генеративных моделей + анализ принципов расчета.
boy illustration
Используйте (внутренний) почтовый ящик для образовательных учреждений, чтобы использовать Microsoft Family Bucket (1T дискового пространства на одном диске и версию Office 365 для образовательных учреждений)
boy illustration
Руководство по началу работы с оперативным проектом (7) Практическое сочетание оперативного письма — оперативного письма на основе интеллектуальной системы вопросов и ответов службы поддержки клиентов
boy illustration
[docker] Версия сервера «Чтение 3» — создайте свою собственную программу чтения веб-текста
boy illustration
Обзор Cloud-init и этапы создания в рамках PVE
boy illustration
Корпоративные пользователи используют пакет регистрационных ресурсов для регистрации ICP для веб-сайта и активации оплаты WeChat H5 (с кодом платежного узла версии API V3)
boy illustration
Подробное объяснение таких показателей производительности с высоким уровнем параллелизма, как QPS, TPS, RT и пропускная способность.
boy illustration
Удачи в конкурсе Python Essay Challenge, станьте первым, кто испытает новую функцию сообщества [Запускать блоки кода онлайн] и выиграйте множество изысканных подарков!
boy illustration
[Техническая посадка травы] Кровавая рвота и отделка позволяют вам необычным образом ощипывать гусиные перья! Не распространяйте информацию! ! !
boy illustration
[Официальное ограниченное по времени мероприятие] Сейчас ноябрь, напишите и получите приз
boy illustration
Прочтите это в одной статье: Учебник для няни по созданию сервера Huanshou Parlu на базе CVM-сервера.
boy illustration
Cloud Native | Что такое CRD (настраиваемые определения ресурсов) в K8s?
boy illustration
Как использовать Cloudflare CDN для настройки узла (CF самостоятельно выбирает IP) Гонконг, Китай/Азия узел/сводка и рекомендации внутреннего высокоскоростного IP-сегмента
boy illustration
Дополнительные правила вознаграждения амбассадоров акции в марте 2023 г.
boy illustration
Можно ли открыть частный сервер Phantom Beast Palu одним щелчком мыши? Супер простой урок для начинающих! (Прилагается метод обновления сервера)
boy illustration
[Играйте с Phantom Beast Palu] Обновите игровой сервер Phantom Beast Pallu одним щелчком мыши
boy illustration
Maotouhu делится: последний доступный внутри страны адрес склада исходного образа Docker 2024 года (обновлено 1 декабря)
boy illustration
Кодирование Base64 в MultipartFile
boy illustration
5 точек расширения SpringBoot, супер практично!
boy illustration
Глубокое понимание сопоставления индексов Elasticsearch.
boy illustration
15 рекомендуемых платформ разработки с нулевым кодом корпоративного уровня. Всегда найдется та, которая вам понравится.
boy illustration
Аннотация EasyExcel позволяет экспортировать с сохранением двух десятичных знаков.