2016-11-09 4 views
0

Im разбор одного сайта и вы хотите вставить в MySQL. Существует 6 полей, которые должны анализировать каждый URL-адрес в определенном поле. Кто-нибудь знает, как я могу использовать pymysql для преобразования таблицы MySQL в объекты словаря в Python?использовать pymysql для вставки таблицы

from bs4 import BeautifulSoup 
import requests 
import urllib.request 
import pymysql 

con = pymysql.connect(host = 'localhost',user = 'root',passwd = 'root',db = 'm_db') 
cursor = con.cursor(pymysql.cursors.DictCursor) 

with open(r"C:\New folder\urllist.txt") as f: 
    urls = [u.strip('\n') for u in f.readlines()] 
    page = 0 
    while page < 5: 
     try: 
      soup = BeautifulSoup(requests.get(urls[page]).content, "html.parser") 
      text = soup.select("head script[type=text/javascript]")[-1].text 
      start = text.find('dataLayer = [') + len('dataLayer = [') 
      end = text.rfind('];') 
      rows = text[start:end].strip().split('\n') 
     except: 
      pass 
     for d in rows: 
      cursor.execute("INSERT INTO micro (d['brand'], d['productPrice'], d['SKU'], d['productID'], d['mpn'], d['ean'],) VALUES (%s,%s,%s,%s,%s,%s)",(d['brand'], d['productPrice'], d['SKU'], d['productID'], d['mpn'], d['ean'])) 
      d = cursor.fetchall() 
     con.commit() 
     page = page + 1 

Как я могу заполнить инструкцию вставки SQL с данными, которые у меня есть. Вот данные у меня есть

{ 
    'brand':'Fluke', 
    'productPrice':'2199.99', 
    'SKU':'34353362', 
    'productID':'443329', 
    'mpn':'RT-AC3200', 
    'ean':'886290480914', 
} 

Он производит эту ошибку

Traceback (most recent call last): File "C:/PycharmProjects/untitled4/m_new.py", line 22, 
in <module> cursor.execute("INSERT INTO micro (d['brand'], d['productPrice'], d['SKU'], d['productID'], d['mpn'], d['ean'],) VALUES (%s,%s,%s,%s,%s,%s)",(d['brand'], d['productPrice'], d['SKU'], d['productID'], d['mpn'], d['ean'])) 
TypeError: string indices must be integers 
+0

Когда вы запускаете этот код, что происходит? Вывод? Что именно вы ищете? – r0xette

+0

@ r0xette здесь является то, что получить Traceback (самый последний вызов последнего): Файл "C: /PycharmProjects/untitled4/m_new.py", линия 22, в cursor.execute ("INSERT INTO микро (d [ 'бренд '], d [' productPrice '], d [' SKU '], d [' productID '], d [' mpn '], d [' ean '],) VALUES (% s,% s,% s, % s,% s,% s) ", (d ['brand'], d ['productPrice'], d ['SKU'], d ['productID'], d ['mpn'], d [ ean '])) TypeError: строковые индексы должны быть целыми числами – Burak

+0

Вы не читаете данные из mysql, поэтому ваш вопрос «как я могу использовать pymysql для превращения таблицы MySQL в объекты словаря» не имеет никакого смысла? – e4c5

ответ

0

Ваш SQL-запрос неверен. Это должно быть

cursor.execute("INSERT INTO micro (brand, productPrice, SKU, productID, mpn, ean) VALUES (%s,%s,%s,%s,%s,%s)",(d['brand'], d['productPrice'], d['SKU'], d['productID'],d['mpn'], d['ean'])) 
+0

Все еще получаю такая же ошибка, TypeError: строковые индексы должны быть целыми числами. – Burak