2014-01-30 5 views
-1

Из-за предельной скорости API-интерфейса twitter я хотел бы знать, как я мог scrape Количество подписчиков из учетной записи Twitter с Node.js в очень очень быстрый способ? Как вы думаете, Node.js - лучшее решение для этого?Самый быстрый способ очистить подписчиков от учетной записи Twitter с помощью Node.js

Я понятия не имею, как это работает, но я подумал, что, возможно, соскабливание к мобильной версии Twitter (пример https://mobile.twitter.com/android) будет быстрее, чем версия компьютера.

Как вы думаете? Как я могу это сделать?

Спасибо!

ответ

1

Теперь, когда API-интерфейс Twitter v1.0 устарел, вы должны использовать подписанные запросы oauth. Что означает, что Twitter знает, когда вы злоупотребляете системой.

Документы на клятвенные подписал запросов: https://dev.twitter.com/docs/auth/oauth

Docs на ограничение скорости: https://dev.twitter.com/docs/rate-limiting/1.1

ограничение скорости относится к API, не прошедшие проверку подлинности запросов HTTP, которые просто скрести содержание.

Если вы просто хотите, чтобы число следящих, а не отдельные идентификаторы/детали, вы можете просто очистить страницу с помощью request и использовать jQuery для фильтрации результатов с помощью селекторов.

например. https://twitter.com/foofighters

Вы можете запустить клиентскую сторону, чтобы просмотреть результаты:

$('.js-mini-profile-stats a.js-nav[data-nav=followers] strong').attr('title') 
+0

"Самый быстрый путь"? Если у вас нет тонны серверов с высокой пропускной способностью, вам будет выгодно использовать внешнюю службу очистки, например http://80legs.com/ –

+0

, вот сценарий, который использует casperjs и phantomjs и его скорость. https://gist.github.com/maxpaynestory/02563716bef271316c3d –