我正在使用Python和MySQL中的大数据。
我有一个巨大的表,我需要插入新的行,而我获取查询的结果。
我得到了这个错误:
Traceback (most recent call last):
File "recsys.py", line 53, in <module>
write_cursor.executemany(add_sim, data_sims)
File "/Library/Python/2.7/site-packages/mysql/connector/cursor.py", line 603, in executemany
self._connection.handle_unread_result()
File "/Library/Python/2.7/site-packages/mysql/connector/connection.py", line 1057, in handle_unread_result
raise errors.InternalError("Unread result found")
mysql.connector.errors.InternalError: Unread result found
代码如下:
#!/usr/bin/env python
# -*- coding: utf-8 -*-
import logging
import mysql.connector
import numpy
import scipy
from scipy.spatial import distance
logging.basicConfig(filename='recsys.log', level=logging.INFO)
cnx = mysql.connector.connect(user='...', password='...', database='...')
cursor = cnx.cursor(dictionary=True)
write_cursor = cnx.cursor()
query = ("...")
cursor.execute(query)
while True:
rows = cursor.fetchmany(100)
if not rows:
break
add_sim = ("...")
data_sims = []
for row in rows:
f1 = row['f1']
f2 = row['f2']
v1 = [[row['a1'], row['b1'], row['c1']]]
v2 = [[row['a2'], row['b2'], row['c2']]]
c = 1 - scipy.spatial.distance.cdist(v1, v2, 'cosine')
if c > 0.8:
data_sim = (f1, f2, c)
data_sims.append(data_sim)
write_cursor.executemany(add_sim, data_sims)
cnx.commit()
cursor.close()
cnx.close()
我知道我可以使用mysql的缓冲连接,但在我的情况下这不是一个好的选择,因为我的表真的很大!
4条答案
按热度按时间xesrikrc1#
以下是
cursor.fetchmany()
的记录行为:在使用同一连接执行新语句之前,必须提取当前查询的所有行。
要解决此问题,您可以建立一个
write_cursor
使用的新连接:bogh5gae2#
我在线程化的时候也遇到过类似的问题,只需要在每个线程中分别关闭和打开一个新的连接...而不是让连接保持打开状态。
tzdcorbm3#
在您的查询中限制100。
然后使用fetchall()代替fetchmany(100)
bqjvbblv4#
在我的例子中,我不小心在查询之前关闭了mysql连接。