Я видел, что недавно в Caffe был добавлен new commit, который должен включать обучение с несколькими GPU с пользовательскими слоями Python/Python. Я не могу тренироваться в сети с использованием нескольких GPU из моего кода Python. Я клонировал обновленный репозиторий и создал Caffe с USE_NCCL. команды я пытался использовать в моем сценарии Python:Как использовать обучение с несколькими GPU с помощью Python с использованием Caffe (pycaffe)?
caffe.set_mode_gpu()
caffe.set_solver_count(2)
Я получаю ошибку:
F0223 10: 27: 41.249380 23468 python_layer.hpp: 25] PythonLayer не поддержки CLI Мульти -GPU, используйте train.py
При запуске сценария из командной строки он просто использует только 1 графический процессор.
Можете ли вы увеличить скорость обучения с помощью multi-gpu caffe? – nn0p
Да, вы можете получить ускорение – guyov
Сколько вы получили ускорение? Я тестировал на AlexNet с NCCL, добился 1,92 ускорения с 2-мя картами, но 1,72 с 4-мя картами. Без NCCL - 1,40 (2 карты) против 1,33 (4 карты). – nn0p