Если у вас (относительно) небольшой объем данных, вы можете попытаться создать таблицу с помощью механизма хранения MEMORY. У этого есть конфигурируемый size limit, но, конечно, вы ограничены объемом доступной памяти на вашем ящике.
Если для вашего размера данных требуются таблицы на основе дисков, то одним прямым способом ограничить размер таблицы будет выполнение задания, которое периодически очищает части таблицы. Вероятно, это лучший вариант, чем использование небольшого раздела - многие команды MySQL плохо себя ведут, когда диск заполнен.
Кроме того, вы можете запустить столько экземпляров MySQL на своем компьютере, сколько хотите - если вы подключаетесь через TCP/IP, вам просто нужно назначить каждому номер другого порта.
Какая платформа? Linux, Windows, * BSD ... – LiraNuna
Windows и Linux. – ripper234