2017-01-12 2 views
0

Мне просто нужно знать, что это возможно для запуска серьезных процессоров до его завершения.Является ли Nifi пакетной обработкой?

«Выполнение серии процессоров в группе процессов, ожидающих завершения выполнения результатов антропологической группы процессов».

Например:

я с 3 процессоры в Nifi UI.

P1-->P2-->P3 
P-->Processor 



Now i need to run p1 if it run completely then run P2 And finally it will run like sequence but one wait for another to be complete. 

EDIT-1:

только для примера я данных в сети url.i можно загрузить эти данные с помощью GetHTTP процессора теперь я хранится в файле, что putFile content.If сохранен в директории putFile затем запустите FetchFile, чтобы обработать этот файл в моей базе данных, как показано ниже.

GetHTTP-->PutFile-->FetchFile-->DB 

Возможно ли это это как пакетная обработка scanerio?

Если я не ошибаюсь, остановите меня.

ответ

7

NiFi сам по себе не является пакетной системой обработки данных, это система потока данных, более ориентированная на непрерывную обработку. Сказав это, есть некоторые методы, которые вы можете использовать для выполнения пакетных операций, в зависимости от того, какие процессоры вы используете.

Сплит-процессоры (SplitText, SplitJSON и т. Д.) Записывают атрибуты в файлы потока, которые содержат «фрагмент.идентификатор», который уникален для всех разделов, созданных из файла входящего потока, и «фрагмент.count», который является общее число этих разделов. Такие процессоры, как MergeContent, используют эти атрибуты для обработки целой партии (так называемый фрагмент), поэтому вывод этих процессоров будет происходить после обработки всего пакета/фрагмента.

Другая методика заключается в том, чтобы написать пустой файл в каталоге temp, когда задание завершено, тогда процессор ListFile (указывая на этот временный каталог) выдаст файл потока при обнаружении файла.

Можете ли вы описать больше о процессорах в вашем потоке и как вы узнаете, когда пакет был завершен?

+0

Я отредактировал мой запрос mattyb с моим документооборотом –