Недавно я написал собственный веб-искатель/паук с использованием Java и JSoup (http://jsoup.org/) HTML-парсера. Веб-искатель очень рудиментарный - он использует методы Jsoup connect и get, чтобы получить источник страниц, а затем другие методы JSoup для анализа содержимого. Он случайным образом следует почти всем ссылкам, которые он находит, но не имеет смысла пытаться загружать файлы или выполнять скрипты.Опасность для вирусов и вредоносных программ при веб-обходе
Искатель выбирает семенные страницы из длинного списка по существу случайных веб-страниц, некоторые из которых, вероятно, содержат контент для взрослых и/или вредоносный код. Недавно, когда я запускал искатель, мой антивирус (Avast) помешал одному из запросов в качестве «обнаруженной угрозы». Оскорбительный URL-адрес выглядел злонамеренным.
Мой вопрос: может ли мой компьютер получить вирус или какие-либо вредоносные программы через мой веб-искатель? Есть ли какие-либо меры предосторожности или проверки, которые я должен ввести в действие?