Передача нескольких одновременных запросов с использованием epoll

Question

Я пытаюсь узнать, как использовать epoll для создания сервера, который принимает и выполняет команды от клиента (логин, файл загрузки и т. Д.). До сих пор я получил программу, чтобы просто отправить клиенту все данные, которые он получает, но я заметил, что когда я пытался реализовать перечисленные мной команды, сервер обрабатывал бы только один запрос за раз.

Я пытаюсь найти эффективный способ, которым я могу обрабатывать множество команд одновременно. Пока единственная идея, которую я придумал, - создать отдельный поток для обработки каждого запроса, но я не уверен, что это оптимальное решение. Что было бы хорошим способом справиться с этим?

Answer 1

Если ваша архитектура представляет собой epoll + single thread, тогда у нее будет какая-то проблема блокировки, если ваша команда будет большой нагрузкой. Вот почему производительность redis упадет, когда какая-то команда блокируется.

Возможны и другие архитектуры. Но прежде чем вы их попробуете, сначала выполните некоторые тесты производительности. Если redis мог делать миллионы OPS в одном потоке, вы могли бы это сделать.

epoll + команда за поток: как вы сказали. Но создание и уничтожение потоков добавит стоимость, когда нагрузка будет расти. Часто переключатель контекста также является огромной проблемой.

epoll + thread pool: Образец идеи. Но без недостатков выше.

epoll основанный слушатель + N * (работник epoll): это интересно структура. Слушатель epoll получит запрос от пользователя, но вместо того, чтобы напрямую назначить задание потоку, он регистрирует дескриптор файла на epoll одного из следующих рабочих. Таким образом, поток слушателя освобождается и может быстрее принимать соединения.