Нечетный кеш хитов

Question

У меня встроенный twemproxy в веб-слой, и у меня есть 6 Elasticache (1 мастер, 5 прочитанных реплик) У меня возникает проблема, что все реплики имеют одинаковые ключи, все одинаково, но кеш-хиты на одной реплике больше, чем другие, и я выполнил несколько нагрузочных тестов, все еще на каждом тесте, я получаю такой же результат. У меня есть отдельный движок данных, который записывает на хозяина этого кластера, и оставшиеся 5 реплик синхронизируются с ним. Поэтому я использую twemproxy только для чтения данных из Elasticache, а не для целей sharding. Таким образом, мой простой вопрос: почему я получаю 90% запросов на однократные реплики Elasticache, он должен равномерно распределять хиты среди всех прочитанных реплик? правильно?

Спасибо заранее

Answer 1

Twemproxy хешей все, как я помню. Это означает, что он попытается разделить ключи между мастерами, которых вы им даете. Если у вас есть один мастер, это означает, что он хэширует все на один сервер. Таким образом, насколько это возможно, у вас есть один сервер для приемлемых запросов. Таким образом, это не поможет вам в этом случае.

Если вы хотите иметь одну конечную точку для распространения считывания через банк с идентичными подчиненными устройствами, вам нужно будет установить балансировщик нагрузки TCP перед ведомыми устройствами и попросить приложение обратиться к порту IP: , Обычными параметрами являются Nginx и HAProxy для программных приложений, на AWS вы можете использовать свой балансировщик нагрузки, но вы можете использовать различные ограничения ресурсов вне своего контроля там, и в значительной степени любой аппаратный балансировщик нагрузки будет работать (хотя это сложно, если не исключено на AWS).

Какой балансировщик нагрузки использовать, зависит от уровня комфорта и уровня знаний (или вашего персонала) с каждым вариантом.