开发者社区> 问答> 正文

如何用 Python 快速插入数据到数据库中?

有大概600w条数据,希望可以快速插入数据库中(MySQL,Sqlite 都行),请问大家有什么好的方法,我每1000条插入一次,但是45分钟才插入24w条。

展开
收起
蛮大人123 2016-02-11 13:43:11 5348 0
1 条回答
写回答
取消 提交回答
  • 我说我不帅他们就打我,还说我虚伪

    1) mysql用集群而不要用单机版
    2)试着修改mysql的存储引擎,当然这影响数据恢复的策略
    3)表是否设置了主键或索引影响插入速度
    4)采用数据二次提交的方式,也就是关闭默认的autocommit,设置为0,然后每插入10000条再commit一下,采用这种方式起码每秒处理1w条的性能还是有的
    5) 换硬盘,上raid或SSD,这个严重影响数据写入速度
    6) 还可以试试用load data的方式,适合将现有的文本数据导入

    2019-07-17 18:40:38
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
2022 DTCC-阿里云一站式数据库上云最佳实践 立即下载
云时代的数据库技术趋势 立即下载
超大型金融机构国产数据库全面迁移成功实践 立即下载