Стратегия управления потреблением памяти

Question

Мы разрабатываем корпоративное приложение, которое кэширует множество данных с задней стороны. Пользователям разрешено открывать произвольное количество окон приложений, и каждый загружает свои собственные данные и кэширует их. Чтобы каким-то образом управлять потреблением памяти и снижать общую производительность ОС, мы решили написать диспетчер кэша, который будет автоматически отслеживать размер памяти приложения и удалять данные из кеша, когда это необходимо.

Таким образом, проблема заключается в том, что нам трудно определить, пришло время освободить память. В настоящее время мы используем очень простой подход - мы просто начинаем отбрасывать материал из кеша, когда использование памяти приложения превышает 80% физической памяти.

Существуют ли какие-либо (альтернативные?) Установленные методы для решения такой проблемы?

Answer 1

Это в основном нормально. Нет действительно хорошей стратегии. Если есть несколько конкурирующих приложений, это может привести к соревнованиям в кешках и ложным выселениям.

Если вы выбрали слишком низкий порог, вы теряете пространство для кеш-памяти. Если он слишком высок, в память может входить не что иное, как кеш файлов, библиотеки DLL, ...

Что вы подразумеваете под «доступной физической памятью»? Вы имеете в виду установленную память или память, которая бесплатна? Как приложение может использовать 80% свободной памяти? Я не понимаю, что вы используете.

SQL Server использует память до тех пор, пока ОС не сообщит, что она мала на памяти (я считаю, что это происходит, когда используется 95% «чего-то»).

Вы, конечно же, не хотите использовать GC для освобождения памяти. Он будет обычно убивать весь ваш кеш.

Возможно, вы можете полностью перемещать содержимое кеша на диск? Или вы могли бы поделиться кешем между процессами .NET, имея скрытый процесс кеш-сервера, который может быть запросом процессами приложений.

---

Я хочу подчеркнуть, что если ваше приложение потребляет 99% установленной оперативной памяти (в качестве примера) производительность будет очень плохо, потому что кэш-файл почти пуст. Это означает, что даже DLL и .NET NGEN'ed код будут выгружаться и часто.

Возможно, лучшая стратегия состоит в том, чтобы предположить, что 1GB потребуется для надлежащего кэширования файлов ОС и приложений. Таким образом, вы можете использовать память до тех пор, пока не останется только 10% от установленной RAM минус 1 ГБ.