2017-02-15 18 views
-3

Будет ли у хранилища объектов bluemix когда-либо возможность папки внутри контейнера, такого как amazon s3. Я не уверен в других людях, но довольно скоро пишу из DSX, он становится таким беспорядком в контейнере. Это похоже на компьютер без возможности создания папок под C: \ drive. Это полный беспорядок.dsx запись в хранилище объектов blue-mix

С его основного хранилища DSX используется DSX для этой возможности. Bluemix object storage no folder capability

Вот s3 контейнер и как красиво вы можете организовать все S3 conatiner

ответ

1

я верю, что вы ищете что-то вроде подконтейнеров и организовывать файлы.

Я думаю, что служба хранения объектов основана на хранилище объектов Openstack и, согласно Openstack doc, невозможно создать вложенные каталоги.

https://docs.openstack.org/user-guide/cli-swift-pseudo-hierarchical-folders-directories.html

Вы можете использовать путь в имени файла для имитации подкаталоги, разделяя с/при записи/чтении файла вы можете использовать что-то вроде этого "стремительный: // ИмяКонтейнера. + name + '/ имя_файла/имя_файла.csv' Итак, все, что вы пишете с /foldername/filename.csv, будет организовано под именем папки.

Thanks, Charles.

+0

Да, это так, и вижу беспорядок, который он создает. Каждая вещь находится под одним и тем же корнем. Не знаете, как можно обрабатывать все это в одном контейнере, если у вас есть паркет для паркета 50 плюс ноутбук. Как видно из моего изображения, это огромное ограничение для dsx, и эта возможность должна быть добавлена ​​в open-stack, если отсутствует. В настоящее время я перемещаю все свои записи на s3, так как структуру папок легко управлять. –

+0

Согласовано об ограничении и проблеме. Одна из вещей, которую вы можете решить в данный момент, и ограничить количество файлов, которые она создает, путем переразметки вашего фрейма данных или rdd до 1 с помощью df.repartition (1), прежде чем записывать его в хранилище объектов, чтобы вместо этого из которого написано много файлов с проверкой. Он создаст минимум из 2-3 файлов, если вы даже пойдете глубже, вы можете записать в компрессионный кодек. Примечание. - Вы не можете читать их параллельно, так как вы пишете все в одном разделе. –

+0

Спасибо Чарльзу за предложения. Этот вопрос в отдельности, я очень хочу поблагодарить вас за все ответы, которые вы делаете как можно скорее и готовы помочь. БОЛЬШОЕ СПАСИБО! –