2016-11-29 13 views
0

Я выполняю xcom_pull по HTTP-отклику (как словарь) Я ранее xcom_push'ed и получил pickle exhausted before end of frame.Распылитель воздуха xcom_pull исчерпан до конца кадра

Для ответов http, которые приводят к сокращению словаря, я не получаю эту ошибку.

Это ограничение на то, что может быть xcom_pull/push'ed?

ответ

0

У меня была эта проблема или очень похожая. Мы используем MySQL DB для Airflow. Это происходит после xcom_pull(), и трассировка проходит через sqlalchemy. Более глубокое погружение в БД предполагает, что рассол хранится в столбце dag_pickle.pickle как blob, который имеет максимальный размер 65 535 байт.

Для нас Корректировки пара столов исправлена ​​проблема:

alter table dag_pickle modify pickle MEDIUMBLOB; 
alter table xcom modify value MEDIUMBLOB; 

оба не могут быть необходимы. Более постоянное исправление может включать использование параметров length =, когда таблицы создаются с помощью airflow/models.py.