Как мне настроить настройку приложения, чтобы он сохранял постоянный процесс в памяти и не требует повторной инициализации для запуска?

Question

Я не уверен, что здесь является подходящей терминологией, но я бы хотел, чтобы приложение выполнялось пассивно, готовое принимать команды без необходимости повторной инициализации всего этого.

Точное приложение представляет собой систему машинного обучения, написанную на Python, которая занимает много времени для обучения классификатора или загрузки кэшированного классификатора. Как только классификатор загружается в память, тестовые примеры или прогнозы, сделанные классификатором, происходят очень быстро.

Я хочу ускорить преимущество того, чтобы уже загруженный в память классификатор не переклассифицировать/перезагрузить, чтобы я мог быстро получить доступ к классификатору через другие интерфейсы (командная строка, PHP и т. Д.).

Это напоминает мне асинхронность в Javascript, и я предполагаю, что здесь используются одни и те же базовые понятия.

Каков наилучший способ сделать это?

Answer 1

В зависимости от реализации это известно как процесс сервера, daemon, Windows service т.д.

Типичная реализация будет работать и принимать входящие сетевые подключения и обслуживания этих клиентов (например, сервер HTTP). Существует несколько потоков или другой асинхронный механизм, позволяющий одновременно обслуживать несколько клиентов (это может не понадобиться, в зависимости от ваших требований).