数据库 – MR LYU

MySQL数据库连接重试功能和连接超时功能的DB连接Python实现

def reConndb(self):
    # 数据库连接重试功能和连接超时功能的DB连接
     _conn_status = True
     _max_retries_count = 10  # 设置最大重试次数
     _conn_retries_count = 0  # 初始重试次数
     _conn_timeout = 3  # 连接超时时间为3秒
     while _conn_status and _conn_retries_count <= _max_retries_count:
        try:
            print '连接数据库中..'
            conn = pymysql.connect(host=DB_HOST,  port=3306, user=DB_USER, passwd=DB_PASSWORD, db=DB_DATABASE, charset=DB_CHARSET, connect_timeout=_conn_timeout)
            _conn_status = False  # 如果conn成功则_status为设置为False则退出循环，返回db连接对象
 	    return conn
        except:
            _conn_retries_count += 1
 	    print _conn_retries_count
        print 'connect db is error!!'
        time.sleep(3)  # 此为测试看效果
 	continue

def reConndb(self):

# 数据库连接重试功能和连接超时功能的DB连接

_conn_status = True

_max_retries_count = 10 # 设置最大重试次数

_conn_retries_count = 0 # 初始重试次数

_conn_timeout = 3 # 连接超时时间为3秒

while _conn_status and _conn_retries_count <= _max_retries_count:

try:

print '连接数据库中..'

conn = pymysql.connect(host=DB_HOST, port=3306, user=DB_USER, passwd=DB_PASSWORD, db=DB_DATABASE, charset=DB_CHARSET, connect_timeout=_conn_timeout)

_conn_status = False # 如果conn成功则_status为设置为False则退出循环，返回db连接对象

return conn

except:

_conn_retries_count += 1

print _conn_retries_count

print 'connect db is error!!'

time.sleep(3) # 此为测试看效果

continue

centos 7 安装redis5.0.4

第一步：wget redis

wget http://download.redis.io/releases/redis-5.0.4.tar.gz

1	wget http://download.redis.io/releases/redis-5.0.4.tar.gz

第二步：解压，并mv到usr/local/redis目录

tar -zxvf redisxxxx.tar.gz
mv redisxxxx usr/local/redis

1 2	tar -zxvf redisxxxx.tar.gz mv redisxxxx usr/local/redis

mv命令，如果目标位置有redis文件夹，则移动到该文件夹下，如果没有，则将原来的文件夹改名为redis

第三步：编译 make

第四步：创建软链接

ln -s /usr/local/redis/src/redis-server /usr/bin/redis-server
ln -s /usr/local/redis/src/redis-cli /usr/bin/redis-cli

1 2	ln -s /usr/local/redis/src/redis-server /usr/bin/redis-server ln -s /usr/local/redis/src/redis-cli /usr/bin/redis-cli

第五步：修改配置

将配置文件移动到/etc/redis

mkdir /etc/redis
mv xx/xx/redis.conf /etc/redis/

1 2	mkdir /etc/redis mv xx/xx/redis.conf /etc/redis/

修改配置

vi redis.conf

# bind 127.0.0.1
 
protected-mode no
databases 255
 
daemonize yes
 
# 重命名
RENAME-COMMAND KEYS REDIS_KEYS    # 或者RENAME-COMMAND KEYS ""
RENAME-COMMAND FLUSHDB REDIS_FLUSHDB
RENAME-COMMAND FLUSHALL REDIS_FLUSHALL

vi redis.conf

# bind 127.0.0.1

protected-mode no

databases 255

daemonize yes

# 重命名

RENAME-COMMAND KEYS REDIS_KEYS # 或者RENAME-COMMAND KEYS ""

RENAME-COMMAND FLUSHDB REDIS_FLUSHDB

RENAME-COMMAND FLUSHALL REDIS_FLUSHALL

第六步：添加服务，开机启动

cp /usr/local/redis/utils/redis_init_script /etc/init.d/redis

1	cp /usr/local/redis/utils/redis_init_script /etc/init.d/redis

编辑/etc/init.d/redis

vim /etc/init.d/redis
 
第二行添加
# chkconfig: 2345 90 10 
 
# 修改下面两项
EXEC=/usr/local/redis/src/redis-server
CLIEXEC=/usr/local/redis/src/redis-cli

vim /etc/init.d/redis

第二行添加

# chkconfig: 2345 90 10

# 修改下面两项

EXEC=/usr/local/redis/src/redis-server

CLIEXEC=/usr/local/redis/src/redis-cli

启动服务

service redis start
service redis stop

1 2	service redis start service redis stop

开机启动

chkconfig --add redis

1	chkconfig --add redis

mysql 配置主从同步的基本步骤

读写分离

数据备份

. 配置主从同步的基本步骤

有很多种配置主从同步的方法，可以总结为如下的步骤：

在主服务器上，必须开启二进制日志机制和配置一个独立的ID
在每一个从服务器上，配置一个唯一的ID，创建一个用来专门复制主服务器数据的账号
在开始复制进程前，在主服务器上记录二进制文件的位置信息
如果在开始复制之前，数据库中已经有数据，就必须先创建一个数据快照（可以使用mysqldump导出数据库，或者直接复制数据文件）
配置从服务器要连接的主服务器的IP地址和登陆授权，二进制日志文件名和位置

mysql 用户管理

创建用户并授权

grant 权限列表 on 数据库 to '用户名'@'访问主机' identified by '密码';

1	grant 权限列表 on 数据库 to '用户名'@'访问主机' identified by '密码';

示例：

grant select on jing_dong.* to 'laowang'@'localhost' identified by '123456';

1	grant select on jing_dong.* to 'laowang'@'localhost' identified by '123456';

grant all privileges on jing_dong.* to "laoli"@"%" identified by "12345678"

1	grant all privileges on jing_dong.* to "laoli"@"%" identified by "12345678"

查看用户有哪些权限

show grants for laowang@localhost;

1	show grants for laowang@localhost;

修改用户权限

grant 权限名称 on 数据库 to 账户@主机 with grant option;

1	grant 权限名称 on 数据库 to 账户@主机 with grant option;

修改密码

update user set authentication_string=password('新密码') where user='用户名';
例：
update user set authentication_string=password('123') where user='laowang';

update user set authentication_string=password('新密码') where user='用户名';

例：

update user set authentication_string=password('123') where user='laowang';

结束以后要刷新权限：flush privileges

1	结束以后要刷新权限：flush privileges

删除用户

方法1：

drop user '用户名'@'主机';
例：
drop user 'laowang'@'%';

drop user '用户名'@'主机';

例：

drop user 'laowang'@'%';

方法2：

delete from user where user='用户名';
例：
delete from user where user='laowang';

-- 操作结束之后需要刷新权限
flush privileges

delete from user where user='用户名';

例：

delete from user where user='laowang';

-- 操作结束之后需要刷新权限

flush privileges

忘记密码的方式：

https://blog.csdn.net/lxpbs8851/article/details/10895085

58到家数据库30条军规解读

军规适用场景：并发量大、数据量大的互联网业务

军规：介绍内容

解读：讲解原因，解读比军规更重要

一、基础规范

（1）必须使用InnoDB存储引擎

解读：支持事务、行级锁、并发性能更好、CPU及内存缓存页优化使得资源利用率更高

（2）必须使用UTF8字符集

解读：万国码，无需转码，无乱码风险，节省空间

（3）数据表、数据字段必须加入中文注释

解读：N年后谁tm知道这个r1,r2,r3字段是干嘛的

（4）禁止使用存储过程、视图、触发器、Event

解读：高并发大数据的互联网业务，架构设计思路是“解放数据库CPU，将计算转移到服务层”，并发量大的情况下，这些功能很可能将数据库拖死，业务逻辑放到服务层具备更好的扩展性，能够轻易实现“增机器就加性能”。数据库擅长存储与索引，CPU计算还是上移吧

（5）禁止存储大文件或者大照片

解读：为何要让数据库做它不擅长的事情？大文件和照片存储在文件系统，数据库里存URI多好

二、命名规范

（6）只允许使用内网域名，而不是ip连接数据库

（7）线上环境、开发环境、测试环境数据库内网域名遵循命名规范

业务名称：xxx

线上环境：dj.xxx.db

开发环境：dj.xxx.rdb

测试环境：dj.xxx.tdb

从库在名称后加-s标识，备库在名称后加-ss标识

线上从库：dj.xxx-s.db

线上备库：dj.xxx-sss.db

（8）库名、表名、字段名：小写，下划线风格，不超过32个字符，必须见名知意，禁止拼音英文混用

（9）表名t_xxx，非唯一索引名idx_xxx，唯一索引名uniq_xxx

三、表设计规范

（10）单实例表数目必须小于500

（11）单表列数目必须小于30

（12）表必须有主键，例如自增主键

解读：

a）主键递增，数据行写入可以提高插入性能，可以避免page分裂，减少表碎片提升空间和内存的使用

b）主键要选择较短的数据类型， Innodb引擎普通索引都会保存主键的值，较短的数据类型可以有效的减少索引的磁盘空间，提高索引的缓存效率

c）无主键的表删除，在row模式的主从架构，会导致备库夯住

（13）禁止使用外键，如果有外键完整性约束，需要应用程序控制

解读：外键会导致表与表之间耦合，update与delete操作都会涉及相关联的表，十分影响sql 的性能，甚至会造成死锁。高并发情况下容易造成数据库性能，大数据高并发业务场景数据库使用以性能优先

四、字段设计规范

（14）必须把字段定义为NOT NULL并且提供默认值

解读：

a）null的列使索引/索引统计/值比较都更加复杂，对MySQL来说更难优化

b）null 这种类型MySQL内部需要进行特殊处理，增加数据库处理记录的复杂性；同等条件下，表中有较多空字段的时候，数据库的处理性能会降低很多

c）null值需要更多的存储空，无论是表还是索引中每行中的null的列都需要额外的空间来标识

d）对null 的处理时候，只能采用is null或is not null，而不能采用=、in、<、<>、!=、not in这些操作符号。如：where name!=’shenjian’，如果存在name为null值的记录，查询结果就不会包含name为null值的记录

（15）禁止使用TEXT、BLOB类型

解读：会浪费更多的磁盘和内存空间，非必要的大量的大字段查询会淘汰掉热数据，导致内存命中率急剧降低，影响数据库性能

（16）禁止使用小数存储货币

解读：使用整数吧，小数容易导致钱对不上

（17）必须使用varchar(20)存储手机号

解读：

a）涉及到区号或者国家代号，可能出现+-()

b）手机号会去做数学运算么？

c）varchar可以支持模糊查询，例如：like“138%”

（18）禁止使用ENUM，可使用TINYINT代替

解读：

a）增加新的ENUM值要做DDL操作

b）ENUM的内部实际存储就是整数，你以为自己定义的是字符串？

五、索引设计规范

（19）单表索引建议控制在5个以内

（20）单索引字段数不允许超过5个

解读：字段超过5个时，实际已经起不到有效过滤数据的作用了

（21）禁止在更新十分频繁、区分度不高的属性上建立索引

解读：

a）更新会变更B+树，更新频繁的字段建立索引会大大降低数据库性能

b）“性别”这种区分度不大的属性，建立索引是没有什么意义的，不能有效过滤数据，性能与全表扫描类似

（22）建立组合索引，必须把区分度高的字段放在前面

解读：能够更加有效的过滤数据

六、SQL使用规范

（23）禁止使用SELECT *，只获取必要的字段，需要显示说明列属性

解读：

a）读取不需要的列会增加CPU、IO、NET消耗

b）不能有效的利用覆盖索引

c）使用SELECT *容易在增加或者删除字段后出现程序BUG

（24）禁止使用INSERT INTO t_xxx VALUES(xxx)，必须显示指定插入的列属性

解读：容易在增加或者删除字段后出现程序BUG

（25）禁止使用属性隐式转换

解读：SELECT uid FROM t_user WHERE phone=13812345678 会导致全表扫描，而不能命中phone索引，猜猜为什么？（这个线上问题不止出现过一次）

（26）禁止在WHERE条件的属性上使用函数或者表达式

解读：SELECT uid FROM t_user WHERE from_unixtime(day)>=’2017-02-15′ 会导致全表扫描

正确的写法是：SELECT uid FROM t_user WHERE day>= unix_timestamp(‘2017-02-15 00:00:00’)

（27）禁止负向查询，以及%开头的模糊查询

解读：

a）负向查询条件：NOT、!=、<>、!<、!>、NOT IN、NOT LIKE等，会导致全表扫描

b）%开头的模糊查询，会导致全表扫描

（28）禁止大表使用JOIN查询，禁止大表使用子查询

解读：会产生临时表，消耗较多内存与CPU，极大影响数据库性能

（29）禁止使用OR条件，必须改为IN查询

解读：旧版本Mysql的OR查询是不能命中索引的，即使能命中索引，为何要让数据库耗费更多的CPU帮助实施查询优化呢？

（30）应用程序必须捕获SQL异常，并有相应处理

总结：大数据量高并发的互联网业务，极大影响数据库性能的都不让用，不让用哟。

python 防sql注入

# 安全的方式
    # 构造参数列表
    params = [find_name]
    # 执行select语句，并返回受影响的行数：查询所有数据
    count = cs1.execute('select * from goods where name=%s', params)
    # 注意：
    # 如果要是有多个参数，需要进行参数化
    # 那么params = [数值1, 数值2....]，此时sql语句中有多个%s即可

# 安全的方式

# 构造参数列表

params = [find_name]

# 执行select语句，并返回受影响的行数：查询所有数据

count = cs1.execute('select * from goods where name=%s', params)

# 注意：

# 如果要是有多个参数，需要进行参数化

# 那么params = [数值1, 数值2....]，此时sql语句中有多个%s即可

create table goods_brands (
    id int unsigned primary key auto_increment,
    name varchar(40) not null) select brand_name as name from goods group by brand_name;

create table goods_brands (

id int unsigned primary key auto_increment,

name varchar(40) not null) select brand_name as name from goods group by brand_name;

神奇

mysql 拆表基本操作

1，建新表

-- 创建商品分类表
create table if not exists goods_cates(
    id int unsigned primary key auto_increment,
    name varchar(40) not null
);

-- 创建商品分类表

create table if not exists goods_cates(

id int unsigned primary key auto_increment,

name varchar(40) not null

);

2，拆表

查询goods表中商品的种类

select cate_name from goods group by cate_name;

1	select cate_name from goods group by cate_name;

将分组结果写入到goods_cates数据表

insert into goods_cates (name) select cate_name from goods group by cate_name;

1	insert into goods_cates (name) select cate_name from goods group by cate_name;

3，同步数据

通过goods_cates数据表来更新goods表

update goods as g inner join goods_cates as c on g.cate_name=c.name set g.cate_name=c.id;

1	update goods as g inner join goods_cates as c on g.cate_name=c.name set g.cate_name=c.id;

分类：数据库