2015-12-30 1 views
1

Я хочу получить доступ к картам mapdb прямо из HDFS, не копируя его в локальную файловую систему. Является ли это возможным? Есть ли другой подход, по которому я могу читать эти карты без использования локальной файловой системы?Есть ли способ прочитать карту mapdb из hdfs?

+0

Поскольку HDFS хранит файлы в блоках, если только ваш файл меньше, чем размер блока, вам нужно будет восстановить файл где-нибудь, чтобы получить ваш файл данных. –

ответ

4

Вы можете прочитать данные в байт [], а затем передать его в хранилище с помощью VolumeFactory. Однако для этого пока нет публичного API. Это в моем списке TODO.

+0

Спасибо, Ян, я смог получить доступ к mapdb через hdfs всего за несколько часов кодирования. Я не читаю файлы в массиве байтов, так как это может вызвать OOM, скорее я читаю файлы из hdf. –

+1

@Akash_Mahajan Как вы на самом деле решили эту проблему? Вы также можете сохранить изменения в Hdf? – KIC