Что произойдет, если импала запрос выполняется из памяти:Что произойдет, если у impala Query заканчивается память?
- ли сбой демона Impala?
- Или он записывает на диск?
Подробное объяснение поможет!
Что произойдет, если импала запрос выполняется из памяти:Что произойдет, если у impala Query заканчивается память?
Подробное объяснение поможет!
Это зависит от версии Impala и того, как она настроена.
В целом, Impala будет убивать запросы, когда у них заканчивается память. Существует ограничение по всей области памяти, в течение которого любой запрос, запрашивающий память, будет убит. Существует еще один дополнительный предел памяти для каждого запроса.
Impala 2.0 и более поздние версии поддерживают «проливные» крупные операторы объединения и агрегации, которые помогают избежать этих проблем с памятью.
Мы думаем о создании системы Queuing над Impala, которая ограничит количество одновременных запросов, отправленных в кластер (объединение или агрегация), чтобы избежать утечки. Это хорошая идея? –
У Impala есть встроенный механизм для этого. См.: Http://www.cloudera.com/content/cloudera/en/documentation/core/v5-2-x/topics/impala_admission.html – Matt
. Какое влияние могут оказать работы импалы на другие задания, например, работу по сокращению карты или улей в случае его ближайшей пиковой памяти на одном кластере? –