快速插入300万行数据
# coding: utf-8 ## #from gevent import monkey #monkey.patch_all() import gevent import time import pymysql class MyPyMysql: def __init__(self, host, port, username, password, db, charset='utf8'): self.host = host # mysql主机地址 self.port = port # mysql端口 self.username = username # mysql远程连接用户名 self.password = password # mysql远程连接密码 self.db = db # mysql使用的数据库名 self.charset = charset # mysql使用的字符编码,默认为utf8 self.pymysql_connect() # __init__初始化之后，执行的函数 def pymysql_connect(self): # pymysql连接mysql数据库 # 需要的参数host,port,user,password,db,charset self.conn = pymysql.connect(host=self.host, port=self.port, user=self.username, password=self.password, db=self.db, charset=self.charset ) # 连接mysql后执行的函数 self.asynchronous() def run(self, nmin, nmax): # 创建游标 self.cur = self.conn.cursor() ##指定表 # 定义sql语句,插入数据id,name,gender,email sql = "insert into web_tags (id,name,tag_type) values (%s,%s,%s)" # 定义总插入行数为一个空列表 data_list = [] for i in range(nmin, nmax): # 添加所有任务到总的任务列表---list中添加元组 #result = (i, 'zhangsan' + str(i), 'male', 'zhangsan' + str(i) + '@qq.com') result = (i, f"dd-{i}",1) data_list.append(result) # 执行多行插入，executemany(sql语句,数据(需一个元组类型)) content = self.cur.executemany(sql, data_list) if content: print('成功插入第{}条数据'.format(nmax-1)) # 提交数据,必须提交，不然数据不会保存 self.conn.commit() def asynchronous(self): # g_l 任务列表 # 定义了异步的函数: 这里用到了一个gevent.spawn方法 max_line = 10000 # 定义每次最大插入行数(max_line=10000,即一次插入10000行) #300W/1W=300个协程函数提交完毕对象 g_l = [gevent.spawn(self.run, i, i+max_line) for i in range(150, 3000000, max_line)] #阻塞list中300个协程对象 # gevent.joinall 等待所以操作都执行完毕 gevent.joinall(g_l) self.cur.close() # 关闭游标 self.conn.close() # 关闭pymysql连接 if __name__ == '__main__': start_time = time.time() # 计算程序开始时间 st = MyPyMysql('localhost', 3306, 'root', 'bojie1234', 'wind') # 实例化类，传入必要参数 print('程序耗时{:.2f}'.format(time.time() - start_time)) # 计算程序总耗时60s
# coding: utf-8 ## #from gevent import monkey #monkey.patch_all() import gevent import time import pymysql class MyPyMysql: def __init__(self, host, port, username, password, db, charset='utf8'): self.host = host # mysql主机地址 self.port = port # mysql端口 self.username = username # mysql远程连接用户名 self.password = password # mysql远程连接密码 self.db = db # mysql使用的数据库名 self.charset = charset # mysql使用的字符编码,默认为utf8 self.pymysql_connect() # __init__初始化之后，执行的函数 def pymysql_connect(self): # pymysql连接mysql数据库 # 需要的参数host,port,user,password,db,charset self.conn = pymysql.connect(host=self.host, port=self.port, user=self.username, password=self.password, db=self.db, charset=self.charset ) # 连接mysql后执行的函数 self.asynchronous() def run(self, nmin, nmax): # 创建游标 self.cur = self.conn.cursor() ##指定表 # 定义sql语句,插入数据id,name,gender,email sql = "insert into web_tags (id,name,tag_type) values (%s,%s,%s)" # 定义总插入行数为一个空列表 data_list = [] for i in range(nmin, nmax): # 添加所有任务到总的任务列表---list中添加元组 #result = (i, 'zhangsan' + str(i), 'male', 'zhangsan' + str(i) + '@qq.com') result = (i, f"dd-{i}",1) data_list.append(result) # 执行多行插入，executemany(sql语句,数据(需一个元组类型)) content = self.cur.executemany(sql, data_list) if content: print('成功插入第{}条数据'.format(nmax-1)) # 提交数据,必须提交，不然数据不会保存 self.conn.commit() def asynchronous(self): # g_l 任务列表 # 定义了异步的函数: 这里用到了一个gevent.spawn方法 max_line = 10000 # 定义每次最大插入行数(max_line=10000,即一次插入10000行) #300W/1W=300个协程函数提交完毕对象 g_l = [gevent.spawn(self.run, i, i+max_line) for i in range(150, 3000000, max_line)] #阻塞list中300个协程对象 # gevent.joinall 等待所以操作都执行完毕 gevent.joinall(g_l) self.cur.close() # 关闭游标 self.conn.close() # 关闭pymysql连接 if __name__ == '__main__': start_time = time.time() # 计算程序开始时间 st = MyPyMysql('localhost', 3306, 'root', 'bojie1234', 'wind') # 实例化类，传入必要参数 print('程序耗时{:.2f}'.format(time.time() - start_time)) # 计算程序总耗时60s