2016-10-17 2 views
2

Я пробовал запросы, pydap, URLLIB и netcdf4 и держать либо получать ошибки или ошибки разрешения перенаправления при попытке загрузить следующие данные NASA:Как скачать Nasa спутниковых данных OpenDAP с помощью Python

GLDAS_NOAH025SUBP_3H: GLDAS Noah земли Поверхностная модель L4 3 Часовая 0,25 x 0,25 градуса Подседельный V001 (http://disc.sci.gsfc.nasa.gov/uui/datasets/GLDAS_NOAH025SUBP_3H_V001/summary?keywords=Hydrology)

Я пытаюсь загрузить около 50 тыс. Файлов, вот пример одного из них, который работает при вставке в браузер Chrome Chrome (если у вас есть правильное имя пользователя и пароль):

http://hydro1.gesdisc.eosdis.nasa.gov/daac-bin/OTF/HTTP_services.cgi?FILENAME=%2Fdata%2FGLDAS_V1%2FGLDAS_NOAH025SUBP_3H%2F2016%2F244%2FGLDAS_NOAH025SUBP_3H.A2016244.2100.001.2016256190725.grb&FORMAT=TmV0Q0RGLw&BBOX=-11.95%2C28.86%2C-0.62%2C40.81&LABEL=GLDAS_NOAH025SUBP_3H.A2016244.2100.001.2016286201048.pss.nc&SHORTNAME=GLDAS_NOAH025SUBP_3H&SERVICE=SUBSET_GRIB&VERSION=1.02&LAYERS=AAAB&DATASET_VERSION=001

У кого-нибудь есть опыт получения данных NASA OPeNDAP из Интернета с использованием python? Я рад предоставить дополнительную информацию по желанию.

Вот запросы попытка, которая дает 401 ошибку:

import requests 

def httpdownload(): 
    '''loop through each line in the text file and open url''' 
    httpfile = open(pathlist[0]+"NASAdownloadSample.txt", "r") 
    for line in httpfile: 
     print line 
     outname = line[-134:-122]+".hdf" 
     print outname 
     username = "" 
     password = "*" 
     r = requests.get(line, auth=("username", "password"), stream=True) 
     print r.text 
     print r.status_code 
     with open(pathlist[0]+outname, 'wb') as out: 
      out.write(r.content) 
     print outname, "finished" # keep track of progress 

А вот pydap пример, который дает перенаправлять ошибки:

import install_cas_client 
from pydap.client import open_url 

def httpdownload(): 
    '''loop through each line in the text file and open url''' 
    username = "" 
    password = "" 
    httpfile = open(pathlist[0]+"NASAdownloadSample.txt", "r") 
    fileone = httpfile.readline() 
    filetot = fileone[:7]+username+":"+password+"@"+fileone[7:] 
    print filetot 
    dataset = open_url(filetot) 

ответ

4

я не нашел решение с помощью питона, но учитывая информация, которую я имею сейчас, должна быть возможной. Я использовал Wget с файлом .netrc файла и печенья, показанным следующим образом (https://disc.gsfc.nasa.gov/information/howto?title=How%20to%20Download%20Data%20Files%20from%20HTTP%20Service%20with%20wget):

#!/bin/bash 

cd # path to output files 
touch .netrc 
echo "machine urs.earthdata.nasa.gov login <username> password <password>" >> .netrc 
chmod 0600 .netrc 
touch .urs_cookies 
wget --content-disposition --trust-server-names --load-cookies ~/.urs_cookies --save-cookies ~/.urs_cookies --auth-no-challenge=on --keep-session-cookies 
-i <path to text file of url list> 

Надеется, что это помогает кому-либо еще работает с данными НАСА с этим сервера.

 Смежные вопросы

  • Нет связанных вопросов^_^