Как я могу сделать штамп сельдерея после того, как больше нет задач для запуска?

Question

У меня есть задача с сельдерием, которая является интенсивной в памяти, и я хочу, чтобы она работала на дорогостоящем сервере AWS, который почти не работает.

Успех сельдерея запланировал задачу один раз в день, но ее также можно планировать вручную через веб-приложение (== django).

Планирование задачи - вопрос отправки сообщения в очередь кроликов.

Затем я хотел бы передать команду с помощью AWS api, чтобы включить мой дорогой сервер, и начать работу с ними, чтобы они умерли после того, как больше нет задач, и выключение (и сэкономить деньги, потому что сервер выключен).

Я знаю, как настроить AWS, чтобы включить мой сервер. Проблема в том, что: как я могу сказать сельдерейу о выполнении задач до тех пор, пока очередь не будет пуста , а затем умрет?

Есть ли параметр команды, который я могу ему дать, или мне нужно придумать какой-то взлом для этого?

Answer 1

Спасибо @iurisilvio и @ douglas-camata за ответы. Я думаю, что я нашел идеальное решение, используя некоторые идеи от вас, ребят :-)

Я создал простой монитору себя с этой командой Джанго (мое приложение Джанго в конце концов) == wait_celery_idle.py

import time 
from django.core.management.base import NoArgsCommand 
from core.celery_utils import celery_count_status as ccount 
import celery 


class Command(NoArgsCommand): 

    help = "Waits until celery is idle" 

    def handle(self, *args, **options): 
     while _count() > 0: 
      time.sleep(5) 


def _count(): 
    cinspect = celery.current_app.control.inspect() 
    return ccount(cinspect.active()) + ccount(cinspect.scheduled()) + ccount(cinspect.reserved()) 

def ccount(d): 
    k = d.keys()[0] 
    return len(d[k]) 

Я тогда начать процесс сельдерея, как правило: ./manage.py celery worker -c 1 --pidfile /tmp/celery.pid

Затем я начинаю второй процесс (wait_and_die.sh), чтобы следить за сельдереем и умереть, если он слишком долго простаивает.

#!/bin/bash 
# wait_and_die.sh 

./manage.py wait_celery_idle 
kill $(cat /tmp/celery.pid) 
sleep 10 
sudo shutdown -h now 

PS: это работает только, если я использую кролик в качестве infrasctructure очереди - в cinspect.* методы возвращение Нет, если я использую Джанго БД в качестве очереди (с помощью CELERY_BROKER_URL='django://' в settings.py)

Answer 2

Мой совет: создать обратный вызов для запуска после завершения вашей задачи. Этот обратный вызов отправляет запрос в ваше веб-приложение с информацией об экземпляре AWS и использует эту информацию для ее закрытия.

EDIT: это предполагает, что вы направляете каждую задачу на новую машину. Например, при ожидании уничтожения работник сельдерей не должен принимать никаких новых заданий.

EDIT2: также хорошая идея может позволить этой самой дорогостоящей задачей отправить запрос на веб-приложение, чтобы уничтожить экземпляр Amazon, а также убить работника сельдерей (проверить http://www.pythondoc.com/celery-3.1.11/userguide/workers.html#stopping-the-worker)/

Answer 3

сельдерей работник просто тупой лошади. Что-то еще должно контролировать работник и инициировать событие, если работник ждет задач.

использования Flower для мониторинга сельдерея кластера и their API потреблять уборщица активности.

цветка имеет красивую приборную панель с рабочими/tasks, информация есть, и у них есть API.