下面是我的代码,我想得到一些帮助。我必须在1300000行上运行它,这意味着插入300000行最多需要40分钟。
我想批量插入是加快速度的途径吗?还是因为我通过 for data in reader:
一份?
# Opens the prepped csv file
with open (os.path.join(newpath,outfile), 'r') as f:
#hooks csv reader to file
reader = csv.reader(f)
#pulls out the columns (which match the SQL table)
columns = next(reader)
#trims any extra spaces
columns = [x.strip(' ') for x in columns]
#starts SQL statement
query = 'bulk insert into SpikeData123({0}) values ({1})'
#puts column names in SQL query 'query'
query = query.format(','.join(columns), ','.join('?' * len(columns)))
print 'Query is: %s' % query
#starts curser from cnxn (which works)
cursor = cnxn.cursor()
#uploads everything by row
for data in reader:
cursor.execute(query, data)
cursor.commit()
我故意动态地选择我的列标题(因为我想创建尽可能多的pythonic代码)。
spikedata123是表名。
5条答案
按热度按时间zpf6vheq1#
更新-2021年7月:bcpyaz是微软的
bcp
效用。2019年4月更新:如@simonlang的评论所述,
BULK INSERT
在sql server 2017及更高版本中,显然支持csv文件中的文本限定符(参考:此处)。大容量插入几乎肯定比逐行读取源文件并对每行执行常规插入快得多。但是,批量插入和bcp对于csv文件都有一个很大的限制,因为它们不能处理文本限定符(参考:此处)。也就是说,如果您的csv文件中没有限定的文本字符串。。。
... 然后您可以批量插入它,但如果它包含文本限定符(因为某些文本值包含逗号)。。。
... 那么大容量插入无法处理它。不过,将这样的csv文件预处理为管道分隔的文件总体上可能会更快。。。
... 或制表符分隔的文件(其中
→
表示制表符)。。。... 然后批量插入该文件。对于后一个(制表符分隔的)文件,大容量插入代码如下所示:
注:如注解中所述,执行
BULK INSERT
语句仅在sql server示例可以直接读取源文件时适用。有关源文件位于远程客户端上的情况,请参阅此答案。ijnw1ujt2#
正如在对另一个答案的评论中所指出的,t-sql
BULK INSERT
仅当要导入的文件与sql server示例位于同一台计算机上,或者位于sql server示例可以读取的smb/cifs网络位置时,该命令才起作用。因此,它可能不适用于源文件位于远程客户端的情况。pyodbc 4.0.19添加了一个游标快速执行功能,在这种情况下可能会有所帮助。
fast_executemany
默认情况下为“关闭”,并且以下测试代码。。。... 在我的测试机器上执行大约需要22秒。简单地添加
crsr.fast_executemany = True
...... 将执行时间缩短到略多于1秒。
kdfy810k3#
是的,大容量插入是将大型文件加载到数据库的正确路径。乍一看,我想说,之所以需要如此长的时间,是因为您提到,您正在循环文件中的每一行数据,这实际上意味着删除了使用批量插入的好处,并使其与普通插入一样。请记住,因为它的名称意味着它用于插入数据卡盘。我将删除循环并重试。
另外,我会仔细检查批量插入的语法,因为我觉得它不正确。检查pyodbc生成的sql,因为我感觉它可能只是在执行一个普通的插入
或者,如果仍然很慢,我会尝试直接从sql使用大容量插入,或者使用大容量插入将整个文件加载到临时表中,然后将相关列插入到正确的表中。或者混合使用批量插入和bcp来获得插入的特定列或openrowset。
x6492ojm4#
这个问题让我很沮丧,我没有看到使用它有多大的改进
fast_executemany
直到我在网上找到这篇文章。具体来说,布莱恩·巴利亚奇(bryan bailliache)对马克斯·瓦尔查尔(max varchar)的评论。我一直在使用sqlalchemy,即使确保更好的数据类型参数也不能解决这个问题;然而,切换到pyodbc确实如此。我还采纳了迈克尔·莫拉的建议,使用临时桌,发现它节省了更多的时间。我写了一个函数,以防有人发现它有用。我写这篇文章是为了获取一个列表或一系列列表作为插入。我使用sqlalchemy和pandas插入了相同的数据to_sql
从有时需要40分钟到4秒。不过,我可能误用了我以前的方法。连接
插入函数
我的控制台结果首先使用临时表,然后不使用临时表(在这两种情况下,表在执行时包含数据,truncate=true):
0yg35tkg5#
fwiw,我给出了一些方法来插入到SQLServer中,这是我自己的一些测试。通过使用sql server批处理和pyodbccursor.execute语句,我实际上能够获得最快的结果。我没有测试save-to-csv和bulk-insert,我想知道它们之间的比较。
以下是我关于我所做测试的博客:http://jonmorisissqlblog.blogspot.com/2021/05/python-pyodbc-and-batch-inserts-to-sql.html