Доклад

Ревью и деплой потоков NiFi через Git

  • DE/ ETL

Технологии: NiFi, NiFi Registry, GitLab.

Проблема: над потоками NiFi неудобно проводить ревью в UI. NiFi Registry тоже не предоставляет удобного интерфейса. Потоки можно напрямую версионировать в Git'е, но это решение не подходит для проведения ревью. Нет возможности создать конкретную ветку под поток, и приходится ревьюить длинные JSON'ы.

ЦА: инженеры, которым нужно проводить ревью потоков NiFi.

Расскажу про Git-репозиторий, где удобно проводить ревью потоков NiFi.

1. Разделение JSON-потока на файлы и их организация.

2. Сохранение последовательности процессоров.

3. Удаление усложняющей проверку информации.

4. Автоматические проверки параметров.

5. Несколько коммитов в Registry в рамках потока объединяются в один merge request.

6. Diff в merge request отображается относительно состояния в main-ветке, а не относительно прошлой версии в Registry.

7. Разработчику достаточно закоммитить версию на полотне в Registry для создания коммита.

8. Деплой происходит после merge автоматически.

Ограничения:

1. Не поддерживает обработку версионируемых групп внутри версионируемых процессорных групп.

2. Автоматический деплой имеет ограничения. Если поток активно работает, то обновление может быть заблокировано.

3. В целевой NiFi не должны вноситься ручные изменения.

Спикеры

Доклады