2016-08-31 4 views
0

, потому что я запускаю искровое приложение на своей удаленной машине, и я хочу видеть прогресс, поэтому мне нужно получить доступ к искровому веб-интерфейсу из браузера.Как получить доступ к моему браузеру на локальном компьютере с удаленной машины

Что делать, чтобы иметь возможность запускать мой браузер firefox на моем локальном компьютере с удаленного компьютера, в котором я запускаю свое искровое приложение?

Если дальний (дистанционный) один имеет IP-адрес:

192.yy.yy.yy 

зная, что я использую для доступа к удаленной машине из моего локального один

ssh [email protected] 

пса: Я могу взаимодействовать с удаленный компьютер только с использованием команд.

ответ

1

Каждый SparkContext запускает веб-интерфейс по умолчанию на порту 4040, который отображает полезную информацию о приложении. Это включает в себя:

  • список этапов планировщика задач и
  • Резюме размеров RDD и использование памяти
  • экологической информации.
  • Информация о бегущих исполнителях

Вы можете получить доступ к этому интерфейсу, просто открыв http://192.yy.yy.yy:4040 в веб-браузере. Если на одном и том же хосте работает несколько SparkContext, они будут привязываться к последовательным портам, начиная с 4040 (4041, 4042 и т. Д.).

Источник: Monitoring Spark

Теперь, когда у вас есть сервер управления между ними, вам нужно создать туннель для доступа искровой UI, чтобы создать использование туннеля ssh -L 4041:192.yy.yy.yy:4041 [email protected], а затем получить доступ к искровой UI через localhost:4041

+0

, какой адрес IP я должен использовать, потому что, когда я использую «IFCONFIG» я получаю «192.yy.yy.yy» и курицу я использовать «имя хост -II получить укомплектовать другой адрес '10. xx.xx.xx? – hammad

+0

@hammad ip вашей удаленной машины, на которой работает искра, вы подключаетесь к удаленной машине по имени ssh [email protected], поэтому попробуйте xx.xx.xx.xx: 4040 – banjara

+0

это кластер, поэтому Я обращаюсь к ssh [email protected] к узлу, используемому только для управления кластером (я не могу запускать на нем искру), тогда я использую 'ssh Node1' для запуска искры и процесса, а у Node1 есть 'ifconfigip = 192.yy.yy.yy 'и' hostname -i-ip = '10 .xx.xx.xx – hammad

1

Вам нужно только направить порт интерфейса с сервера на локальный

ssh -L 4040:localhost:4040 [email protected] 

в локальной машине просто зайдите на адрес Localhost: 4040, чтобы увидеть прогресс.

исй: https://unix.stackexchange.com/questions/115897/whats-ssh-port-forwarding-and-whats-the-difference-between-ssh-local-and-remot

+0

Хорошо, я попробую это спасибо – hammad

+0

, который дает мне сообщение о том, что соединение не выполнено: open failed: connect failed: Connection failed канал 3: open failed: connect failed: Connection failed канал 3: open failed: connect failed: Connection failed – hammad

+0

какой порт вы используете в вашем пульте? – giaosudau