2016-07-20 6 views
1

Каков правильный способ Google что-то в Python 3? Я пробовал requests и urllib для страницы Google. Когда я просто res = requests.get("https://www.google.com/#q=" + query), который не возвращается с тем же HTML, как при проверке страницы Google в Safari. То же самое происходит с urllib. Подобное происходит, когда я использую Bing. Я знаком с AJAX. Однако, похоже, это сейчас обесценивается.Как Google на Python Использование urllib или запросов

+0

Вам лучше использовать Selenium (для имитации реального браузера без гарнитуры или нет) вместо запросов (просто загрузка простого HTML, если ответ mimetype так). –

ответ

0

В python, если вы не укажете заголовок пользовательского агента в HTTP-запросах вручную, python по умолчанию добавит вам, который может быть обнаружен Google и может быть запрещен им.

Попробуйте следующее, если это может вам помочь.

import urllib 
yourUrl = "post it here" 
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:23.0) Gecko/20100101 Firefox/23.0'} 
req = urllib.request.Request(yourUrl, headers = headers) 
page = urllib.request.urlopen(req) 
+0

Вначале он сказал, что 'urllib не имеет атрибута urlopen', но это просто исправить его просто' urllib.requests.urlopen' –

+0

@ DylanSiegler. Это в основном потому, что вы используете python3, но мой код - python2.So я изменю его на python3.Retry. –

+0

Что такое запрос в 'urllib.request.Request (query, headers = headers)'? Это то, что я хочу в Google? –