mysqlpython连接池

❶ 鐢≒ython杩炴帴Mysql镄勫嚑绉嶆柟寮忚﹁В_python

杩欑瘒鏂囩珷涓昏佷粙缁崭简鐢 Python 杩炴帴 MySQL 镄勫嚑绉嶆柟寮忥纴澶у跺彲浠ユ牴鎹瀹为檯𨱍呭喌阃夋嫨钖堢悊镄勮繛鎺ユ柟寮,闇瑕佺殑链嫔弸鍙浠ュ弬钥冧笅
灏界″緢澶 NoSQL 鏁版嵁搴撹繎鍑犲勾澶ф斁寮傚僵锛屼絾鏄镀 MySQL 杩欐牱镄勫叧绯诲瀷鏁版嵁搴扑緷铹舵槸浜掕仈缃戠殑涓绘祦鏁版嵁搴扑箣涓锛屾疮涓瀛 Python 镄勯兘链夊繀瑕佸﹀ソ涓闂ㄦ暟鎹搴掳纴涓岖′綘鏄锅氭暟鎹鍒嗘瀽锛岃缮鏄缃戠粶鐖铏锛学eb 寮鍙戙佷害鎴栨槸链哄櫒瀛︿範锛屼綘閮界讳笉寮瑕佸拰鏁版嵁搴撴墦浜ら亾锛岃 MySQL 鍙堟槸链娴佽岀殑涓绉嶆暟鎹搴掳纴杩欑瘒鏂囩珷浠嬬粛 Python 镎崭綔 MySQL 镄勫嚑绉嶆柟寮忥纴浣犲彲浠ュ湪瀹为檯寮鍙戣繃绋嬩腑镙规嵁瀹为檯𨱍呭喌钖堢悊阃夋嫨銆
1銆丮ySQL-python
MySQL-python 鍙埚彨 MySQLdb锛屾槸 Python 杩炴帴 MySQL 链娴佽岀殑涓涓椹卞姩锛屽緢澶氭嗘灦閮戒篃鏄锘轰簬姝ゅ簱杩涜屽紑鍙戯纴阆楁唤镄勬槸瀹冨彧鏀鎸 Python2.x锛岃屼笖瀹夎呯殑镞跺欐湁寰埚氩墠缃𨱒′欢锛屽洜涓哄畠鏄锘轰簬C寮鍙戠殑搴掳纴鍦 Windows 骞冲彴瀹夎呴潪甯镐笉鍙嫔ソ锛岀粡甯稿嚭鐜板け璐ョ殑𨱍呭喌锛岀幇鍦ㄥ熀链涓嶆帹钻愪娇鐢锛屽彇浠ｇ殑鏄瀹幂殑琛岖敓鐗堟湰銆
# 鍓岖疆𨱒′欢
sudo apt-get install python-dev libmysqlclient-dev # Ubuntu
sudo yum install python-devel mysql-devel # Red Hat / CentOS
# 瀹夎
pip install MySQL-pythonWindows 鐩存帴阃氲繃涓嬭浇 exe 鏂囦欢瀹夎咃纴鍏浼楀彿锲炲嶃寃in銆嶈幏鍙栦笅杞介摼鎺
#!/usr/bin/python
import MySQLdb
db = MySQLdb.connect(
host="localhost", # 涓绘満钖
user="john", # 鐢ㄦ埛钖
passwd="megajonhy", # 瀵嗙爜
db="jonhydb") # 鏁版嵁搴揿悕绉
# 镆ヨ㈠墠锛屽繀椤诲厛銮峰彇娓告爣
cur = db.cursor()
# 镓ц岀殑閮芥槸铡熺敓SQL璇鍙
cur.execute("SELECT * FROM YOUR_TABLE_NAME")
for row in cur.fetchall():
print(row[0])
db.close()2銆乵ysqlclient
鐢变簬 MySQL-python 骞翠箙澶变慨锛屽悗𨱒ュ嚭鐜颁简瀹幂殑 Fork 鐗堟湰 mysqlclient锛屽畬鍏ㄥ吋瀹 MySQLdb锛屽悓镞舵敮鎸 Python3.x锛屾槸 Django ORM镄勪緷璧栧伐鍏凤纴濡傛灉浣犳兂浣跨敤铡熺敓 SQL 𨱒ユ搷浣沧暟鎹搴掳纴闾ｄ箞鎺ㄨ崘姝ら┍锷ㄣ傚畨瑁呮柟寮忓拰 MySQLdb 鏄涓镙风殑锛学indows 鍙浠ュ湪 https://www.lfd.uci.e/~gohlke/pythonlibs/#mysqlclient 缃戠珯镓惧埌 瀵瑰簲鐗堟湰镄 whl 鍖呬笅杞藉畨瑁呫
# Windows瀹夎
pip install some-package.whl
# linux 鍓岖疆𨱒′欢
sudo apt-get install python3-dev # debian / Ubuntu
sudo yum install python3-devel # Red Hat / CentOS
brew install mysql-connector-c # macOS (Homebrew)
pip install mysqlclient3銆丳yMySQL
PyMySQL 鏄绾 Python 瀹炵幇镄勯┍锷锛岄熷害涓婃瘆涓崭笂 MySQLdb锛屾渶澶х殑鐗圭偣鍙鑳藉氨鏄瀹幂殑瀹夎呮柟寮忔病闾ｄ箞绻佺悙锛屽悓镞朵篃鍏煎 MySQL-python
pip install PyMySQL
# 涓轰简鍏煎筸ysqldb锛屽彧闇瑕佸姞鍏
pymysql.install_as_MySQLdb()涓涓渚嫔瓙
import pymysql
conn = pymysql.connect(host='127.0.0.1', user='root', passwd="xxx", db='mysql')
cur = conn.cursor()
cur.execute("SELECT Host,User FROM user")
for r in cur:
print(r)
cur.close()
conn.close()4銆乸eewee
鍐椤师鐢 SQL 镄勮繃绋嬮潪甯哥箒鐞愶纴浠ｇ爜閲嶅嶏纴娌℃湁闱㈠悜瀵硅薄镐濈淮锛岀户钥岃癁鐢熶简寰埚氩皝瑁 wrapper 鍖呭拰 ORM 妗嗘灦锛孙RM 鏄 Python 瀵硅薄涓庢暟鎹搴揿叧绯昏〃镄勪竴绉嶆椠灏勫叧绯伙纴链変简 ORM 浣犱笉鍐嶉渶瑕佸啓 SQL 璇鍙ャ傛彁楂树简鍐欎唬镰佺殑阃熷害锛屽悓镞跺吋瀹瑰氱嶆暟鎹搴撶郴缁燂纴濡俿qlite, mysql銆乸ostgresql锛屼粯鍑虹殑浠ｄ环鍙鑳藉氨鏄镐ц兘涓婄殑涓浜涙崯澶便傚傛灉浣犲 Django 镊甯︾殑 ORM 镡熸倝镄勮瘽锛岄偅涔 peewee镄勫︿範鎴愭湰鍑犱箮涓洪浂銆傚畠鏄 Python 涓鏄链娴佽岀殑 ORM 妗嗘灦銆
pip install peewee
涓涓渚嫔瓙
import peewee
from peewee import *
db = MySQLDatabase('jonhydb', user='john', passwd='megajonhy')
class Book(peewee.Model):
author = peewee.CharField()
title = peewee.TextField()
class Meta:
database = db
Book.create_table()
book = Book(author="me", title='Peewee is cool')
book.save()
for book in Book.filter(author="me"):
print(book.title)瀹樻柟鏂囨。锛歨ttp://docs.peewee-orm.com/en/latest/peewee/installation.html
5銆丼QLAlchemy
濡傛灉𨱍虫垒涓绉嶆棦鏀鎸佸师鐢 SQL锛屽张鏀鎸 ORM 镄勫伐鍏凤纴闾ｄ箞 SQLAlchemy 鏄链濂界殑阃夋嫨锛屽畠闱炲父鎺ヨ繎 Java 涓镄 Hibernate 妗嗘灦銆
from sqlalchemy import create_engine
from sqlalchemy.orm import sessionmaker
from sqlalchemy_declarative import Address, Base, Person
class Address(Base):
__tablename__ = 'address'
id = Column(Integer, primary_key=True)
street_name = Column(String(250))
engine = create_engine('sqlite:///sqlalchemy_example.db')
Base.metadata.bind = engine
DBSession = sessionmaker(bind=engine)
session = DBSession()
# Insert a Person in the person table
new_person = Person(name='new person')
session.add(new_person)
session.commit()鐜板湪宸涓嶅氭闷鏄庣槠浜呜繖鍑犵嶆暟鎹搴挞┍锷ㄧ殑浼桦姡锛屾帴涓嬫潵浣犲氨鍙浠ラ夋嫨鍏朵腑镄勪竴涓杩涜岀郴缁熺殑瀛︿範鍐嶆妸瀹冨簲鐢ㄥ埌椤圭洰涓铡讳简锛岀濅綘瀛︿範寮蹇冿纴涓嶆哕镄勫彲浠ュ捝璇㈡垜鍝堛

❷ 基于Pandas的数据分析平台，数据连接该不该用SqlAlchemy的ORM

一、开始使用：
from sqlalchemy import create_engine
from sqlalchemy.orm import sessionmaker
DB_CONNECT_STRING = 'mysql+mysqldb://root:123@localhost/ooxx?charset=utf8'
engine = create_engine(DB_CONNECT_STRING, echo=True)
DB_Session = sessionmaker(bind=engine)
session = DB_Session()
这里的 DB_CONNECT_STRING 就是连接数据库的路径。“mysql+mysqldb”指定了使用 MySQL-Python 来连接，“root”和“123”分别是用户名和密码，“localhost”是数据库的域名，“ooxx”是使用的数据库名（可省略），“charset”指定了连接时使用的字符集（可省略）。
create_engine() 会返回一个数据库引擎，echo 参数为 True 时，会显示每条执行的 SQL 语句，生产环境下可关闭。
sessionmaker() 会生成一个数据库会话类。这个类的实例可以当成一个数据库连接，它同时还记录了一些查询的数据，并决定什么时候执行 SQL 语句。由于 SQLAlchemy 自己维护了一个数据库连接池（默认 5 个连接），因此初始化一个会话的开销并不大。对 Tornado 而言，可以在 BaseHandler 的 initialize() 里初始化：
class BaseHandler(tornado.web.RequestHandler):
def initialize(self):
self.session = models.DB_Session()

def on_finish(self):
self.session.close()
对其他 Web 服务器来说，可以使用 sqlalchemy.orm.scoped_session，它能保证每个线程获得的 session 对象都是唯一的。不过 Tornado 本身就是单线程的，如果使用了异步方式，就可能会出现问题，因此并没使用它。

拿到 session 后，就可以执行 SQL 了：
session.execute('create database abc')
print session.execute('show databases').fetchall()
session.execute('use abc')
# 建 user 表的过程略
print session.execute('select * from user where id = 1').first()
print session.execute('select * from user where id = :id', {'id': 1}).first()
不过这和直接使用 MySQL-Python 没啥区别；ORM 的方式，这也是采用 SQLAlchemy 的唯一原因。

于是来定义一个表：
from sqlalchemy import Column
from sqlalchemy.types import CHAR, Integer, String
from sqlalchemy.ext.declarative import declarative_base

BaseModel = declarative_base()

def init_db():
BaseModel.metadata.create_all(engine)

def drop_db():
BaseModel.metadata.drop_all(engine)

class User(BaseModel):
__tablename__ = 'user'

id = Column(Integer, primary_key=True)
name = Column(CHAR(30)) # or Column(String(30))

init_db()
declarative_base() 创建了一个 BaseModel 类，这个类的子类可以自动与一个表关联。
以 User 类为例，它的 __tablename__ 属性就是数据库中该表的名称，它有 id 和 name 这两个字段，分别为整型和 30 个定长字符。Column 还有一些其他的参数，我就不解释了。
最后，BaseModel.metadata.create_all(engine) 会找到 BaseModel 的所有子类，并在数据库中建立这些表；drop_all() 则是删除这些表。

接着就开始使用这个表吧：
from sqlalchemy import func, or_, not_

user = User(name='a')
session.add(user)
user = User(name='b')
session.add(user)
user = User(name='a')
session.add(user)
user = User()
session.add(user)
session.commit()

query = session.query(User)
print query # 显示SQL 语句
print query.statement # 同上
for user in query: # 遍历时查询
print user.name
print query.all() # 返回的是一个类似列表的对象
print query.first().name # 记录不存在时，first() 会返回 None
# print query.one().name # 不存在，或有多行记录时会抛出异常
print query.filter(User.id == 2).first().name
print query.get(2).name # 以主键获取，等效于上句
print query.filter('id = 2').first().name # 支持字符串

query2 = session.query(User.name)
print query2.all() # 每行是个元组
print query2.limit(1).all() # 最多返回 1 条记录
print query2.offset(1).all() # 从第 2 条记录开始返回
print query2.order_by(User.name).all()
print query2.order_by('name').all()
print query2.order_by(User.name.desc()).all()
print query2.order_by('name desc').all()
print session.query(User.id).order_by(User.name.desc(), User.id).all()

print query2.filter(User.id == 1).scalar() # 如果有记录，返回第一条记录的第一个元素
print session.query('id').select_from(User).filter('id = 1').scalar()
print query2.filter(User.id > 1, User.name != 'a').scalar() # and
query3 = query2.filter(User.id > 1) # 多次拼接的 filter 也是 and
query3 = query3.filter(User.name != 'a')
print query3.scalar()
print query2.filter(or_(User.id == 1, User.id == 2)).all() # or
print query2.filter(User.id.in_((1, 2))).all() # in

query4 = session.query(User.id)
print query4.filter(User.name == None).scalar()
print query4.filter('name is null').scalar()
print query4.filter(not_(User.name == None)).all() # not
print query4.filter(User.name != None).all()

print query4.count()
print session.query(func.count('*')).select_from(User).scalar()
print session.query(func.count('1')).select_from(User).scalar()
print session.query(func.count(User.id)).scalar()
print session.query(func.count('*')).filter(User.id > 0).scalar() # filter() 中包含 User，因此不需要指定表
print session.query(func.count('*')).filter(User.name == 'a').limit(1).scalar() == 1 # 可以用 limit() 限制 count() 的返回数
print session.query(func.sum(User.id)).scalar()
print session.query(func.now()).scalar() # func 后可以跟任意函数名，只要该数据库支持
print session.query(func.current_timestamp()).scalar()
print session.query(func.md5(User.name)).filter(User.id == 1).scalar()

query.filter(User.id == 1).update({User.name: 'c'})
user = query.get(1)
print user.name

user.name = 'd'
session.flush() # 写数据库，但并不提交
print query.get(1).name

session.delete(user)
session.flush()
print query.get(1)

session.rollback()
print query.get(1).name
query.filter(User.id == 1).delete()
session.commit()
print query.get(1)

二、进阶的知识。
1）如何批量插入大批数据？
可以使用非 ORM 的方式：
session.execute(
User.__table__.insert(),
[{'name': `randint(1, 100)`,'age': randint(1, 100)} for i in xrange(10000)]
)
session.commit()

如何批量插入大批数据？
可以使用非 ORM 的方式：
session.execute(
User.__table__.insert(),
[{'name': `randint(1, 100)`,'age': randint(1, 100)} for i in xrange(10000)]
)
session.commit()
上面批量插入了 10000 条记录，半秒内就执行完了；而 ORM 方式会花掉很长时间。

2）如何让执行的 SQL 语句增加前缀？
使用 query 对象的 prefix_with() 方法：
session.query(User.name).prefix_with('HIGH_PRIORITY').all()
session.execute(User.__table__.insert().prefix_with('IGNORE'), {'id': 1, 'name': '1'})

3）如何替换一个已有主键的记录？
使用 session.merge() 方法替代 session.add()，其实就是 SELECT + UPDATE：
user = User(id=1, name='ooxx')
session.merge(user)
session.commit()
或者使用 MySQL 的 INSERT … ON DUPLICATE KEY UPDATE，需要用到 @compiles 装饰器，有点难懂，自己看吧：《SQLAlchemy ON DUPLICATE KEY UPDATE》 和 sqlalchemy_mysql_ext。

4）如何使用无符号整数？
可以使用 MySQL 的方言：
from sqlalchemy.dialects.mysql import INTEGER

id = Column(INTEGER(unsigned=True), primary_key=True)

5）模型的属性名需要和表的字段名不一样怎么办？
开发时遇到过一个奇怪的需求，有个其他系统的表里包含了一个“from”字段，这在 Python 里是关键字，于是只能这样处理了：
from_ = Column('from', CHAR(10))

6）如何获取字段的长度？
Column 会生成一个很复杂的对象，想获取长度比较麻烦，这里以 User.name 为例：
User.name.property.columns[0].type.length

7）如何指定使用 InnoDB，以及使用 UTF-8 编码？
最简单的方式就是修改数据库的默认配置。如果非要在代码里指定的话，可以这样：
class User(BaseModel):
__table_args__ = {
'mysql_engine': 'InnoDB',
'mysql_charset': 'utf8'
}
MySQL 5.5 开始支持存储 4 字节的 UTF-8 编码的字符了，iOS 里自带的 emoji（如 ?? 字符）就属于这种。
如果是对表来设置的话，可以把上面代码中的 utf8 改成 utf8mb4，DB_CONNECT_STRING 里的 charset 也这样更改。
如果对库或字段来设置，则还是自己写 SQL 语句比较方便，具体细节可参考《How to support full Unicode in MySQL databases》。
不建议全用 utf8mb4 代替 utf8，因为前者更慢，索引会占用更多空间。

8）如何设置外键约束？
from random import randint
from sqlalchemy import ForeignKey

class User(BaseModel):
__tablename__ = 'user'

id = Column(Integer, primary_key=True)
age = Column(Integer)

class Friendship(BaseModel):
__tablename__ = 'friendship'

id = Column(Integer, primary_key=True)
user_id1 = Column(Integer, ForeignKey('user.id'))
user_id2 = Column(Integer, ForeignKey('user.id'))

for i in xrange(100):
session.add(User(age=randint(1, 100)))
session.flush() # 或 session.commit()，执行完后，user 对象的 id 属性才可以访问（因为 id 是自增的）

for i in xrange(100):
session.add(Friendship(user_id1=randint(1, 100), user_id2=randint(1, 100)))
session.commit()

session.query(User).filter(User.age < 50).delete()
执行这段代码时，应该会遇到一个错误：
sqlalchemy.exc.IntegrityError: (IntegrityError) (1451, 'Cannot delete or update a parent row: a foreign key constraint fails (`ooxx`.`friendship`, CONSTRAINT `friendship_ibfk_1` FOREIGN KEY (`user_id1`) REFERENCES `user` (`id`))') 'DELETE FROM user WHERE user.age < %s' (50,)原因是删除 user 表的数据，可能会导致 friendship 的外键不指向一个真实存在的记录。在默认情况下，MySQL 会拒绝这种操作，也就是 RESTRICT。InnoDB 还允许指定 ON DELETE 为 CASCADE 和 SET NULL，前者会删除 friendship 中无效的记录，后者会将这些记录的外键设为 NULL。
除了删除，还有可能更改主键，这也会导致 friendship 的外键失效。于是相应的就有 ON UPDATE 了。其中 CASCADE 变成了更新相应的外键，而不是删除。
而在 SQLAlchemy 中是这样处理的：
class Friendship(BaseModel):
__tablename__ = 'friendship'

id = Column(Integer, primary_key=True)
user_id1 = Column(Integer, ForeignKey('user.id', ondelete='CASCADE', onupdate='CASCADE'))
user_id2 = Column(Integer, ForeignKey('user.id', ondelete='CASCADE', onupdate='CASCADE'))

9）如何连接表？
from sqlalchemy import distinct
from sqlalchemy.orm import aliased

Friend = aliased(User, name='Friend')

print session.query(User.id).join(Friendship, User.id == Friendship.user_id1).all() # 所有有朋友的用户
print session.query(distinct(User.id)).join(Friendship, User.id == Friendship.user_id1).all() # 所有有朋友的用户（去掉重复的）
print session.query(User.id).join(Friendship, User.id == Friendship.user_id1).distinct().all() # 同上
print session.query(Friendship.user_id2).join(User, User.id == Friendship.user_id1).order_by(Friendship.user_id2).distinct().all() # 所有被别人当成朋友的用户
print session.query(Friendship.user_id2).select_from(User).join(Friendship, User.id == Friendship.user_id1).order_by(Friendship.user_id2).distinct().all() # 同上，join 的方向相反，但因为不是 STRAIGHT_JOIN，所以 MySQL 可以自己选择顺序
print session.query(User.id, Friendship.user_id2).join(Friendship, User.id == Friendship.user_id1).all() # 用户及其朋友
print session.query(User.id, Friendship.user_id2).join(Friendship, User.id == Friendship.user_id1).filter(User.id < 10).all() # id 小于 10 的用户及其朋友
print session.query(User.id, Friend.id).join(Friendship, User.id == Friendship.user_id1).join(Friend, Friend.id == Friendship.user_id2).all() # 两次 join，由于使用到相同的表，因此需要别名
print session.query(User.id, Friendship.user_id2).outerjoin(Friendship, User.id == Friendship.user_id1).all() # 用户及其朋友（无朋友则为 None，使用左连接）
-

❸ 如何实现python的mysql连接池并加入缓存过期

如何实现python的mysql连接池并加入缓存过期
conn本来 就已经被你定义成了 函数， conn.ping()当然不存在了。而且你要的数据库连接c,还被手动关闭了。我觉得有两点 1. 按照你这个脚本的情况，你用一次，就新建一个数据库连接问题应该不大。 2. 要保持使用一个连接的话。把c作全局变量 c=MyS.

❹ python爬虫简历怎么写

python爬虫简历怎么写？
python爬虫简历如下：
1. 基本信息
求职岗位：Python爬虫工程师（全职）
期望薪资：15000以上
姓名：xx
手机号码：xxxx
邮箱：[email protected]
毕业院校：厦门大学软件学院
2.掌握技能
1.Python中8种数据类型的精通使用
2.Python匿名函数、列表推导式、装饰器的熟练使用
3.Python中re、requests、beautifulSoup等库的熟练使用
4.Python爬虫框架Scrapy的熟练使用
5.Python爬虫伪装中代理IP、UserAgent的熟练使用
6.Python与scrapyt-redis分布式爬虫的基本使用
7.Python操作Mysql数据库增删改查
8.Python操作MongoDB数据库增删改查
9.Python建立数据库连接池提高效率
10.团队协作开发工具git的熟练使用
11.熟悉Linux日常工作环境，熟练掌握常用命令和调优监控手段
12.python机器学习库scikit-learn库的熟练使用
13.python科学计算库numpy、scipy和数据分析库pandas的熟练使用
3.项目经验
1.基于Selenium的12306自动刷票软件
2.基于Scrapy爬取伯乐在线网站存入mysql数据库
3.基于GradientBoosting模型的厦门市房价预测系统
4.个人特质
1.思维清晰，优化代码，解决Bug，能够独立完成项目
2.逻辑推理能力较强，理解能力较强
3.代码可读性强，代码可复用性高，变量命名规范。
4.喜欢写博客分享心得，个人博客：xxxx
5.接受996工作制
5.其他
可能对贵司有用的个人相关信息:
1.有硬件维护实施经验，能够部署服务器和局域网。
2.个人期望在大城市发展，以后往数据科学家方向发展。
3.有队伍管理经验，大学期间任龙舟队队长，培训班级任班长协助老师给同学解决问题。
相关推荐：《Python教程》以上就是小编分享的关于python爬虫简历怎么写的详细内容希望对大家有所帮助，更多有关python教程请关注环球青藤其它相关文章！