python数据类型和变量

[TOC] 在Python中,能够直接处理的数据类型有以下几种: 整数 Python可以处理任意大小的整数,当然包括负整数,在程序中的表示方法和数学上的写法一模一样,例如:1,100,-8080,0,等等。 计算机由于使用二进制,所以,有时候用十六进制表示整数比较方便,十六进制用0x前缀和0-9,a-f表示,例如:0xff00,0xa5b4c3d2,等等。 浮点数 浮点数也就是小数,之所以称为浮点数,是因为按照科学记数法表示时,一个浮点数的小数点位置是可变的,比如,1.23x109和12.3x108是完全相等的。浮点数可以用数学写法,如1.23,3.14,-9.01,等等。但是对于很大或很小的浮点数,就必须用科学计数法表示,把10用e替代,1.23x109就是1.23e9,或者12.3e8,0.000012可以写成1.2e-5,等等。 整数和浮点数在计算机内部存储的方式是不同的,整数运算永远是精确的(除法难道也是精确的?是的!),而浮点数运算则可能会有四舍五入的误差。 字符串 字符串是以单引号'或双引号"括起来的任意文本,比如'abc',"xyz"等等。请注意,''或""本身只是一种表示方式,不是字符串的一部分,因此,字符串'abc'只有a,b,c这3个字符。如果'本身也是一个字符,那就可以用""括起来,比如"I'm OK"包含的字符是I,',m,空格,O,K这6个字符。 如果字符串内部既包含'又包含"怎么办?可以用转义字符\来标识,比如: 'I\'m \"OK\"!' 表示的字符串内容是: I'm "OK"! 转义字符\可以转义很多字符,比如\n表示换行,\t表示制表符,字符\本身也要转义,所以\\表示的字符就是\,可以在Python的交互式命令行用print()打印字符串看看: >>> print('I\'m ok.') I'm ok. >>> print('I\'m learning\nPython.') I'm learning Python. >>> print('\\\n\\') \ \ 如果字符串里面有很多字符都需要转义,就需要加很多\,为了简化,Python还允许用r''表示''内部的字符串默认不转义,可以自己试试: >>> print('\\\t\\') \ \ >>> print(r'\\\t\\') \\\t\\ 如果字符串内部有很多换行,用\n写在一行里不好阅读,为了简化,Python允许用'''...'''的格式表示多行内容,可以自己试试: >>> print('''line1 ... line2 ... line3''') line1 line2 line3 上面是在交互式命令行内输入,注意在输入多行内容时,提示符由>>>变为...,提示你可以接着上一行输入,注意...是提示符,不是代码的一部分: ┌────────────────────────────────────────────────────────┐ │Command Prompt - python _ □ x │ ├────────────────────────────────────────────────────────┤ │>>> print('''line1 │ │... line2 │ │... line3''') │ │line1 │ │line2 │ │line3 │ │ │ │>>> _ 当输入完结束符```` 和括号)`后,执行该语句并打印结果。 ...

February 25, 2016

Python基础

[TOC] Python简介 Python由荷兰数学和计算机科学研究学会的Guido van Rossum 于1990 年代初设计,作为一门叫做ABC语言的替代品。Python提供了高效的高级数据结构,还能简单有效地面向对象编程。Python语法和动态类型,以及解释型语言的本质,使它成为多数平台上写脚本和快速开发应用的编程语言,随着版本的不断更新和语言新功能的添加,逐渐被用于独立的、大型项目的开发。 Python解释器易于扩展,可以使用C或C++(或者其他可以通过C调用的语言)扩展新的功能和数据类型。Python 也可用于可定制化软件中的扩展程序语言。Python丰富的标准库,提供了适用于各个主要系统平台的源码或机器码。 Python的语法比较简单,采用缩进方式,写出来的代码就像下面的样子: # print absolute value of an integer: a = 100 if a >= 0: print(a) else: print(-a) 以#开头的语句是注释,注释是给人看的,可以是任意内容,解释器会忽略掉注释。其他每一行都是一个语句,当语句以冒号:结尾时,缩进的语句视为代码块。 缩进有利有弊。好处是强迫你写出格式化的代码,但没有规定缩进是几个空格还是Tab。按照约定俗成的管理,应该始终坚持使用4个空格的缩进。 缩进的另一个好处是强迫你写出缩进较少的代码,你会倾向于把一段很长的代码拆分成若干函数,从而得到缩进较少的代码。 缩进的坏处就是“复制-粘贴”功能失效了,这是最坑爹的地方。当你重构代码时,粘贴过去的代码必须重新检查缩进是否正确。此外,IDE很难像格式化Java代码那样格式化Python代码。 最后,请务必注意,Python程序是大小写敏感的,如果写错了大小写,程序会报错。

February 24, 2016

Git 使用指南

[TOC] Git 使用指南 git命令 版本控制 Git 简介 Git是目前世界上最先进的分布式版本控制系统。 如果你是小白,可以先看廖雪峰的官方教程 专用名词 Workspace: 工作区 Index / Stage: 暂存区 Repository: 仓库区 ( 本地版本库 ) Remote: 远程仓库 ( 远程仓库 / 远程版本库 ) 代码库 在当前目录新建一个Git代码库 git init 新建一个目录,将其初始化为Git代码库 git init [project-name] 克隆代码库 git clone [url] Git 配置 Git的配置文件为 .git/config ,它可以在用户主目录下(全局配置),也可以在项目目录下(项目配置)。 显示当前Git配置 git config --list 编辑Git配置文件 git config -e [--global] 设置代码时的用户信息 建议设置此项,后面的操作会很方便 git config [--global] user.name "[name]" git config [--global] user.email "[email address]" 增加/删除文件 操作之前先执行 git status 查看一下状态 ...

February 13, 2016

openLDAP安装说明

[TOC] 安装 openLDAP 准备 完成各个相互通信的节点的域名解析(DNS) 完成 NFS 将master节点 home目录挂载到其他节点同一路径下 服务器IP、域名、主机名:172.16.10.10 maste.example.com master 关闭防火墙 搭建 LDAP 服务器 yum 下载安装 $ yum install openldap* migrationtools -y 设置 LDAP 管理密码 $ slappasswd New password: Re-enter new password: {SSHA}b28RwTpbqZ5/kxro785tKExdK4uyOX7T ///此密码自行妥善保存 进入配置目录 $ cd /etc/openldap/slapd.d/cn=config 编辑文件 $ vim olcDatabase={2}hdb.ldif 替换dc=my-domain,dc=com olcSuffix: dc=sg-ai,dc=com olcRootDN: cn=Manager,dc=sg-ai,dc=com 在文档底部加上: olcRootPW: {SSHA}b28RwTpbqZ5/kxro785tKExdK4uyOX7T olcTLSCertificateFile: /etc/pki/tls/certs/sg-ai.pem olcTLSCertificateKeyFile: /etc/pki/tls/certs/sg-aikey.pem $ vim olcDatabase={1}monitor.ldif 同样替换dc=my-domain,dc=com olcAccess: {0}to * by dn.base=“gidNumber=0+uidNumber=0,cn=peercred,cn=external, cn=auth” read by dn.base=“cn=Manager,dc=linuxhelp,dc=com” read by * none ...

January 5, 2016

MongoDB

[TOC] MongoDB 是一个基于分布式文件存储的数据库。由 C++ 语言编写。旨在为 WEB 应用提供可扩展的高性能数据存储解决方案。 MongoDB 是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。 install 下载完安装包,并解压 tgz。 curl -O https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-3.0.6.tgz # 下载 tar -zxvf mongodb-linux-x86_64-3.0.6.tgz # 解压 mv mongodb-linux-x86_64-3.0.6/ /usr/local/mongodb # 将解压包拷贝到指定目录 MongoDB 的可执行文件位于 bin 目录下,所以可以将其添加到 PATH 路径中: export PATH=/usr/local/mongodb/bin:$PATH docker 这年头有了docker之后,运行MongoDB简直不能太简单了,非常适合开发使用。 docker pull mongodb:3.4 docker run --name mongodb-dev -p 27017:27017 -v /srv/monggo/mongodb:/data/db -e MONGO_INITDB_ROOT_USERNAME=admin -e MONGO_INITDB_ROOT_PASSWORD=password -d mongo:3.4 mongodb shell MongoDB Shell是MongoDB自带的交互式Javascript shell,用来对MongoDB进行操作和管理的交互式环境,在MongoDB安装目录下的bin目录,执行mongo命令文件。 当你进入mongoDB后台后,它默认会链接到 test 文档(数据库): docker exec -it mongodb-dev bash mongo use admin db.auth('admin','password') exit exit 下面是一些常见命令: ...

January 1, 2016

Markdown 语法(Typora)

Typora For Markdown 语法 [TOC] 数学表达式 要启用这个功能,首先到Preference->Editor中启用。然后使用$符号包裹Tex命令,例如:$lim_{x \to \infty} \ exp(-x)=0$将产生如下的数学表达式: $$\lim_{x \to \infty} \exp(-x)=0$$ 下标 下标使用~包裹,例如:H~2~O将产生H2O, 即水的分子式。 上标 上标使用^包裹,例如:y^2^=4将产生表达式 y^2^ = 4 插入表情:happy: 使用:happy:输入表情:happy:,使用:sad:输入表情:sad:,使用:cry:输入表情:cry:等。以此类推! 下划线 用HTML的语法<u>Underline</u>将产生下划线Underline. 删除线 GFM添加了删除文本的语法,这是标准的Markdown语法木有的。使用~~包裹的文本将会具有删除的样式,例如~删除文本~将产生删除文本的样式。 代码 使用`包裹的内容将会以代码样式显示,例如 使用`printf()` 则会产生printf()样式。 输入~~~或者```然后回车,可以输入代码块,并且可以选择代码的语言。例如: ```java public Class HelloWorld{ System.out.println("Hello World!"); } ​``` 将会产生 public Class HelloWorld{ System.out.println("Hello World!"); } 强调 使用两个*号或者两个_包裹的内容将会被强调。例如 **使用两个*号强调内容** __使用两个下划线强调内容__ 将会输出 使用两个*号强调内容 使用两个下划线强调内容 Typroa 推荐使用两个*号。 斜体 在标准的Markdown语法中,*和_包裹的内容会是斜体显示,但是GFM下划线一般用来分隔人名和代码变量名,因此我们推荐是用星号来包裹斜体内容。如果要显示星号,则使用转义: \* 插入图片 我们可以通过拖拉的方式,将本地文件夹中的图片或者网络上的图片插入。 插入URL连接 使用尖括号包裹的url将产生一个连接,例如:<www.baidu.com>将产生连接:<www.baidu.com>. 如果是标准的url,则会自动产生连接,例如:www.google.com 目录列表Table of Contents(TOC) 输入[toc]然后回车,将会产生一个目录,这个目录抽取了文章的所有标题,自动更新内容。 ...

December 12, 2015

初识memcached

[TOC] memcached: memcached is a high-performance, distributed memory object caching system, generic in nature, but intended for use in speeding up dynamic web applications by alleviating database load. 缓存服务器: 缓存:cache,无持久存储功能; bypass缓存 k/v cache,仅支持存储流式化数据; LiveJournal旗下的Danga Interactive研发, 特性: k/v cache:仅可序列化数据;存储项:k/v; 智能性一半依赖于客户端(调用memcached的API开发程序),一半依赖于服务端; 分布式缓存:互不通信的分布式集群; 分布式系统请求路由方法:取模法,一致性哈希算法; 算法复杂度:O(1) 清理过期缓存项: 缓存耗尽:LRU 缓存项过期:惰性清理机制 安装配置: 由CentOS 7 base仓库直接提供: 监听的端口: 11211/tcp, 11211/udp 主程序:/usr/bin/memcached 配置文件:/etc/sysconfig/memcached Unit File:memcached.service 协议格式:memcached协议 文本格式 二进制格式 命令: 统计类:stats, stats items, stats slabs, stats sizes 存储类:set, add, replace, append, prepend 命令格式:<command name> <key> <flags> <exptime> <bytes> <cas unique> 检索类:get, delete, incr/decr 清空:flush_all 示例: telnet> add KEY <flags> <expiretime> <bytes> \r telnet> VALUE memcached程序的常用选项: -m <num>:Use <num> MB memory max to use for object storage; the default is 64 megabytes. -c <num>:Use <num> max simultaneous connections; the default is 1024. -u <username>:以指定的用户身份来运行进程; -l <ip_addr>:监听的IP地址,默认为本机所有地址; -l <ip_addr>:监听的IP地址,默认为本机所有地址; -p <num>:监听的TCP端口, the default is port 11211. -U <num>:Listen on UDP port <num>, the default is port 11211, 0 is off. -M:内存耗尽时,不执行LRU清理缓存,而是拒绝存入新的缓存项,直到有多余的空间可用时为止; -f <factor>:增长因子;默认是1.25; -t <threads>:启动的用于响应用户请求的线程数; memcached默认没有认证机制,可借用于SASL进行认证; SASL:Simple Authentication Secure Layer API: php-pecl-memcache php-pecl-memcached python-memcached libmemcached libmemcached-devel 命令行工具: memcached-tool SERVER:PORT COMMAND

December 12, 2015

MySQL

[TOC] MySQL or MariaDB MySQL 是最流行的关系型数据库管理系统,在 WEB 应用方面 MySQL 是最好的 RDBMS(Relational Database Management System:关系数据库管理系统)应用软件之一。 run 用docker可以快速运行一个mariadb。 docker run -v /mnt/mariadb:/var/lib/mysql --name mariadb -e MYSQL_ROOT_PASSWORD=alex -p 3306:3306 -d mariadb:5.5.60 detail 在本教程中,会让大家快速掌握 MySQL 的基本知识,并轻松使用 MySQL 数据库。 MariaDB or MySQL: 层次模型 --> 网状模型 --> (Codd) 关系模型 DBMS --> RDBMS CRUD:Insert, Select, Update, Delete RDBMS: 范式:第一范式、第二范式、第三范式; 表:row, column; 关系运算: 选择 投影 连接 数据库:表、索引、视图(虚表)、SQL、存储过程、存储函数、触发器、事件调度器; DDL:CREATE,ALTER,DROP DML:INSERT/UPDATE/DELETE/SELECT 约束: 主键约束:惟一、非空;一张表只能有一个;PRIMARY KEY; 惟一键约束:惟一,可以存在多个;UNIQUE KEY; 外键约束:参考性约束;FOREIGN KEY; 检查性约束:check; 三层模型: 物理层 --> SA 逻辑层 --> DBA 视图层 --> Coder 实现: Oracle, DB2, Sybase, Infomix, SQL Server; MySQL, MariaDB, PostgreSQL, SQLite; MySQL: 2000, 开源,GPL; 2001, InnoDB, 支持事务,支持行级锁;MySQL 4.0 2005, MySQL 5.0,游标、存储过程、触发器、视图和事务; MariaDB:5.5.x --> 10.x 特性: 插件式存储引擎 单进程多线程 安装MySQL: OS Vendor:rpm MySQL: source code:cmake binary package: i686, x86_64; glibc VERSION prepackage:rpm, deb os, arch, 服务端程序: mysqld, mysqld_safe, mysqld_multi 客户端程序: mysql, mysqldump, mysqlbinlog, mysqldmin, ... 非客户端类程序: myisamchk, myisampack, ... ini风格的配置文件,为多个程序同时提供配置; 配置文件: 读取多处的多个配置文件,而且会以指定的次序的进行; # my_print_defaults Default options are read from the following files in the given order: /etc/mysql/my.cnf /etc/my.cnf ~/.my.cnf 不同的配置文件中出现同一参数且拥有不同值时,后读取将为最终生效值; 修改默认读取的配置文件(mysqld_safe命令): --defaults-file=file_name 于读取的默认配置文件之外再加载一个文件: --defaults-extra-file=path 配置文件格式:ini风格的配置文件,能够为mysql的各种应用程序提供配置信息: [mysqld] [mysqld_safe] [mysqld_multi] [server] [mysql] [mysqldump] [client] ... PARAMETER = VALUE PARAMETER: innodb_file_per_table innodb-file-per-table 程序文件: 服务端程序:mysqld_safe, mysqld_multi 客户端程序:mysql, mysqldump, mysqladmin 工具程序:myisampack, ... mysql --> mysql protocol --> mysqld mysql:交互式CLI工具;命令化运行; mysql [options] db_name 常用选项: --host=host_name, -h host_name:服务端地址; --user=user_name, -u user_name:用户名; --password[=password], -p[password]:用户密码; --port=port_num, -P port_num:服务端端口; --protocol={TCP|SOCKET|PIPE|MEMORY}: 本地通信:基于本地回环地址进行请求,将基于本地通信协议; Linux:SOCKET Windows:PIPE,MEMORY 非本地通信:使用非本地回环地址进行的请求; TCP协议; --socket=path, -S path --database=db_name, -D db_name: --compress, -C:数据压缩传输 --execute=statement, -e statement:非交互模式执行SQL语句; --vertical, -E:查询结果纵向显示; 命令: 客户端命令:于客户端执行; 服务端命令:SQL语句,需要一次性完整地发往服务端;语句必须有结束符; ? (\?) Synonym for `help'. clear (\c) Clear the current input statement. connect (\r) Reconnect to the server. Optional arguments are db and host. delimiter (\d) Set statement delimiter. edit (\e) Edit command with $EDITOR. ego (\G) Send command to mysql server, display result vertically. exit (\q) Exit mysql. Same as quit. go (\g) Send command to mysql server. help (\h) Display this help. nopager (\n) Disable pager, print to stdout. notee (\t) Don't write into outfile. pager (\P) Set PAGER [to_pager]. Print the query results via PAGER. print (\p) Print current command. prompt (\R) Change your mysql prompt. quit (\q) Quit mysql. rehash (\#) Rebuild completion hash. source (\.) Execute an SQL script file. Takes a file name as an argument. status (\s) Get status information from the server. system (\!) Execute a system shell command. tee (\T) Set outfile [to_outfile]. Append everything into given outfile. use (\u) Use another database. Takes database name as argument. charset (\C) Switch to another charset. Might be needed for processing binlog with multi-byte charsets. warnings (\W) Show warnings after every statement. nowarning (\w) Don't show warnings after every statement. mysql命令的使用帮助: # man mysql # mysql --help --verbose sql脚本运行: mysql [options] [DATABASE] < /PATH/FROM/SOME_SQL_SCRIPT mysqld服务器程序:工作特性的定义方式 命令行选项 配置文件参数 服务器参数/变量:设定MySQL的运行特性; mysql> SHOW [GLOBAL | SESSION] VARIABLES [like_or_where]; 状态(统计)参数/变量:保存MySQL运行过程中的统计数据或状态数据; mysql> SHOW [GLOBAL | SESSION] STATUS [like_or_where]; 显示单个变量设定值的方法: mysql> SELECT @@[global.|session.]system_var_name %:匹配任意长度的任意字符; _:匹配任意单个字符; 变量/参数级别: 全局:为所有会话设定默认; 会话:跟单个会话相关;会话建立会从全局继承; 服务器变量的调整方式: 运行时修改: global:仅对修改后新建立的会话有效; session:仅对当前会话有效,且立即生效; 通过配置文件修改: 重启后生效; 运行时修改服务器变量值操作方法: mysql> HELP SET SET [GLOBAL | SESSION] system_var_name = expr SET [@@global. | @@session. | @@]system_var_name = expr 安装完成后的安全初始化: mysql_secure_installation 运行前常修改的参数: innodb_file_per_table=ON skip_name_resolve=ON sql_safe_updates=ON ... SQL接口: SQL:ANSI SQL SQL-86, SQL-89, SQL-92, SQL-99, SQL-03, ... MySQL的数据类型: 字符型 数值型 日期时间型 内建类型 字符型: CHAR(#), BINARY(#):定长型;CHAR不区分字符大小写,而BINARY区分; VARCHAR(#), VARBINARY(#):变长型 TEXT:TINYTEXT,TEXT,MEDIUMTEXT,LONGTEXT BLOB:TINYBLOB,BLOB,MEDIUMBLOB, LONGBLOB Binary Large OBject 数值型: 浮点型:近似 FLOAT DOUBLE REAL BIT 整型:精确 INTEGER:TINYINT,SMALLINT,MEDIUMINT,INT,BIGINT DECIMAL 日期时间型: 日期:DATE 时间:TIME 日期j时间:DATETIME 时间戳:TIMESTAMP 年份:YEAR(2), YEAR(4) 内建: ENUM:枚举 ENUM('Sun','Mon','Tue','Wed') SET:集合 类型修饰符: 字符型:NOT NULL,NULL,DEFALUT ‘STRING’,CHARACET SET ‘CHARSET’,COLLATION ‘collocation' 整型:NOT NULL, NULL, DEFALUT value, AUTO_INCREMENT, UNSIGNED 日期时间型:NOT NULL, NULL, DEFAULT help 'Data Types' SQL MODE:定义mysqld对约束等违反时的响应行为等设定; 常用的MODE: TRADITIONAL STRICT_TRANS_TABLES STRICT_ALL_TABLES 修改方式: mysql> SET GLOBAL sql_mode='MODE'; mysql> SET @@global.sql_mode='MODE'; SQL:DDL,DML DDL:Data Defination Language mysql> HELP Data Definition CREATE, ALTER, DROP DATABASE, TABLE INDEX, VIEW, USER FUNCTION, FUNCTION UDF, PROCEDURE, TABLESPACE, TRIGGER, SERVER DML: Data Manipulation Language mysql> HELP Data Manipulation INSERT/REPLACE, DELETE, SELECT, UPDATE 数据库: CREATE {DATABASE | SCHEMA} [IF NOT EXISTS] db_name CHARACTER SET [=] charset_name COLLATE [=] collation_name ALTER {DATABASE | SCHEMA} [db_name] CHARACTER SET [=] charset_name COLLATE [=] collation_name DROP {DATABASE | SCHEMA} [IF EXISTS] db_name 表: CREATE (1) CREATE [TEMPORARY] TABLE [IF NOT EXISTS] tbl_name (create_definition,...) [table_options] [partition_options] CREATE TABLE [IF NOT EXISTS] tble_name (col_name data_typ|INDEX|CONSTRAINT); table_options: ENGINE [=] engine_name 查看支持的所有存储引擎: mysql> SHOW ENGINES; 查看指定表的存储引擎: mysql> SHOW TABLE STATUS LIKE clause; ROW_FORMAT [=] {DEFAULT|DYNAMIC|FIXED|COMPRESSED|REDUNDANT|COMPACT} (2) CREATE [TEMPORARY] TABLE [IF NOT EXISTS] tbl_name [(create_definition,...)] [table_options] [partition_options] select_statement 直接创建表,并将查询语句的结果插入到新创建的表中; (3) CREATE [TEMPORARY] TABLE [IF NOT EXISTS] tbl_name { LIKE old_tbl_name | (LIKE old_tbl_name) } 复制某存在的表的结构来创建新的空表; DROP: DROP [TEMPORARY] TABLE [IF EXISTS] tbl_name [, tbl_name]; ALTER: ALTER TABLE tbl_name [alter_specification [, alter_specification] ...] 可修改内容: (1) table_options (2) 添加定义:ADD 字段、字段集合、索引、约束 (3) 修改字段: CHANGE [COLUMN] old_col_name new_col_name column_definition [FIRST|AFTER col_name] MODIFY [COLUMN] col_name column_definition [FIRST | AFTER col_name] (4) 删除操作:DROP 字段、索引、约束 表重命名: RENAME [TO|AS] new_tbl_name 查看表结构定义: DESC tbl_name; 查看表定义: SHOW CREATE TABLE tbl_name 查看表属性信息: SHOW TABLE STATUS [{FROM | IN} db_name] [LIKE 'pattern' | WHERE expr] 索引:数据结构 创建: CREATE [UNIQUE|FULLTEXT|SPATIAL] INDEX index_name [index_type] ON tbl_name (index_col_name,...) 查看: SHOW {INDEX | INDEXES | KEYS} {FROM | IN} tbl_name [{FROM | IN} db_name] [WHERE expr] 删除: DROP INDEX index_name ON tbl_name 索引类型: 聚集索引、非聚集索引:索引是否与数据存在一起; 主键索引、辅助索引 稠密索引、稀疏索引:是否索引了每一个数据项; BTREE(B+)、HASH、R Tree、FULLTEXT BTREE:左前缀; EXPLAIN:分析查询语句的执行路径; 视图:VIEW 虚表:存储下来的SELECT语句; 创建: CREATE VIEW view_name [(column_list)] AS select_statement 修改: ALTER VIEW view_name [(column_list)] AS select_statement 删除: DROP VIEW [IF EXISTS] view_name [, view_name] ... DML: INSERT/REPLACE,DELETE,UPDATE,SELECT INSERT: 单行插入 批量插入 INSERT [LOW_PRIORITY | DELAYED | HIGH_PRIORITY] [IGNORE] [INTO] tbl_name [(col_name,...)] {VALUES | VALUE} ({expr | DEFAULT},...),(...),... [ ON DUPLICATE KEY UPDATE col_name=expr [, col_name=expr] ... ] Or: INSERT [LOW_PRIORITY | DELAYED | HIGH_PRIORITY] [IGNORE] [INTO] tbl_name SET col_name={expr | DEFAULT}, ... [ ON DUPLICATE KEY UPDATE col_name=expr [, col_name=expr] ... ] Or: INSERT [LOW_PRIORITY | HIGH_PRIORITY] [IGNORE] [INTO] tbl_name [(col_name,...)] SELECT ... [ ON DUPLICATE KEY UPDATE col_name=expr [, col_name=expr] ... ] DELETE: DELETE FROM tbl_name [WHERE where_condition] [ORDER BY ...] [LIMIT row_count] 注意:一定要有限制条件,否则将清空整个表; 限制条件: [WHERE where_condition] [ORDER BY ...] [LIMIT row_count] UPDATE: UPDATE table_reference SET col_name1={expr1|DEFAULT} [, col_name2={expr2|DEFAULT}] ... [WHERE where_condition] [ORDER BY ...] [LIMIT row_count] 注意:一定要有限制条件,否则将修改整个表中指定字段的数据; 限制条件: [WHERE where_condition] [ORDER BY ...] [LIMIT row_count] 注意:sql_safe_updates变量可阻止不带条件更新操作; SELECT: Query Cache:缓存查询的执行结果; key:查询语句的hash值; value:查询语句的执行结果; SQL语句的编写方式: SELECT name FROM tbl2; select name from tbl2; 查询执行路径: 请求-->查询缓存:命中后返回; 请求-->查询缓存-->解析器-->预处理器-->优化器-->查询执行引擎-->存储引擎-->缓存-->响应 SELECT语句的执行流程: FROM --> WHERE --> Group By --> Having --> Order BY --> SELECT --> Limit 单表查询: SELECT [ALL | DISTINCT | DISTINCTROW ] [SQL_CACHE | SQL_NO_CACHE] [SQL_CALC_FOUND_ROWS] select_expr [, select_expr ...] [FROM table_references [WHERE where_condition] [GROUP BY {col_name | expr | position} [ASC | DESC], ... [WITH ROLLUP]] [HAVING where_condition] [ORDER BY {col_name | expr | position} [ASC | DESC], ...] [LIMIT {[offset,] row_count | row_count OFFSET offset}] 用法: SELECT col1, col2, ... FROM tble_name; SELECT col1, col2, ... FROM tble_name WHERE clause; SELECT col1, col2, ... FROM tble_name [WHERE clause] GROUP BY col_name [HAVING clause]; 分组的目的在于聚合计算:avg, max, min, count, sum, DISTINCT:数据去重; SQL_CACHE:显式指定缓存查询语句的结果; SQL_NO_CACHE:显式指定不缓存查询语句的结果; query_cache_type服务器变量有三个值: ON:启用; SQL_NO_CACHE:不缓存;默认符合缓存条件都缓存; OFF:关闭; DEMAND:按需缓存; SQL_CACHE:缓存;默认不缓存; 字段可以使用别名 : col1 AS alias1, col2 AS alias2, ... WHERE子句:指明过滤条件以实现“选择”功能; 过滤条件:布尔型表达式; [WHERE where_condition] 算术操作符:+, -, *, /, % 比较操作符:=, <>, !=, <=>, >, >=, <, <= IS NULL, IS NOT NULL 区间:BETWEEN min AND max IN:列表; LIKE:模糊比较,%和_; RLIKE或REGEXP 逻辑操作符: AND, OR, NOT, XOR GROUP BY:根据指定的字段把查询的结果进行“分组”以用于“聚合”运算; avg(), max(), min(), sum(), count() HAVING:对分组聚合后的结果进行条件过滤; ORDER BY:根据指定的字段把查询的结果进行排序; 升序:ASC 降序:DESC LIMIT:对输出结果进行数量限制 [LIMIT {[offset,] row_count | row_count OFFSET offset}] 多表查询: 连接操作: 交叉连接:笛卡尔乘积; 内连接: 等值连接:让表之间的字段以等值的方式建立连接; 不等值连接: 自然连接 自连接 外连接: 左外连接: FROM tb1 LEFT JOIN tb2 ON tb1.col = tb2.col 右外连接: FROM tb1 RIGHT JOIN tb2 ON tb1.col = tb2.col 子查询:在查询中嵌套查询; 用于WHERE子句中的子查询; (1) 用于比较表达式中的子查询:子查询仅能返回单个值; (2) 用于IN中的子查询:子查询可以返回一个列表值; (3) 用于EXISTS中的子查询: 用于FROM子句中的子查询; SELECT tb_alias.col1, ... FROM (SELECT clause) AS tb_alias WHERE clause; 联合查询:将多个查询语句的执行结果相合并; UNION SELECT clause UNION SELECT cluase; 练习:导入hellodb.sql生成数据库 (1) 在students表中,查询年龄大于25岁,且为男性的同学的名字和年龄; (2) 以ClassID为分组依据,显示每组的平均年龄; (3) 显示第2题中平均年龄大于30的分组及平均年龄; (4) 显示以L开头的名字的同学的信息; (5) 显示TeacherID非空的同学的相关信息; (6) 以年龄排序后,显示年龄最大的前10位同学的信息; (7) 查询年龄大于等于20岁,小于等于25岁的同学的信息;用三种方法; 练习:导入hellodb.sql,以下操作在students表上执行 1、以ClassID分组,显示每班的同学的人数; 2、以Gender分组,显示其年龄之和; 3、以ClassID分组,显示其平均年龄大于25的班级; 4、以Gender分组,显示各组中年龄大于25的学员的年龄之和; 练习:导入hellodb.sql,完成以下题目: 1、显示前5位同学的姓名、课程及成绩; 2、显示其成绩高于80的同学的名称及课程; 3、求前8位同学每位同学自己两门课的平均成绩,并按降序排列; 4、显示每门课程课程名称及学习了这门课的同学的个数; 思考: 1、如何显示其年龄大于平均年龄的同学的名字? 2、如何显示其学习的课程为第1、2,4或第7门课的同学的名字? 3、如何显示其成员数最少为3个的班级的同学中年龄大于同班同学平均年龄的同学? 4、统计各班级中年龄大于全校同学平均年龄的同学。 存储引擎: 表类型:表级别概念,不建议在同一个库中的表上使用不同的ENGINE; CREATE TABLE ... ENGINE[=]STORAGE_ENGINE_NAME ... SHOW TABLE STATUS 常见的存储引擎: MyISAM, Aria, InnoDB, MRG_MYISAM, CSV, BLACKHOLE, MEMORY, PERFORMANCE_SCHEMA, ARCHIVE, FEDERATED InnoDB:InnoBase Percona-XtraDB, Supports transactions, row-level locking, and foreign keys 数据存储于“表空间(table space)"中: (1) 所有InnoDB表的数据和索引存储于同一个表空间中; 表空间文件:datadir定义的目录中 文件:ibdata1, ibdata2, ... (2) innodb_file_per_table=ON,意味着每表使用单独的表空间文件; 数据文件(数据和索引,存储于数据库目录): tbl_name.ibd 表结构的定义:在数据库目录,tbl_name.frm 事务型存储引擎,适合对事务要求较高的场景中;但较适用于处理大量短期事务; 基于MVCC(Mutli Version Concurrency Control)支持高并发;支持四个隔离级别,默认级别为REPEATABLE-READ;间隙锁以防止幻读; 使用聚集索引(主键索引); 支持”自适应Hash索引“; 锁粒度:行级锁;间隙锁; 总结: 数据存储:表空间; 并发:MVCC,间隙锁,行级锁; 索引:聚集索引、辅助索引; 性能:预读操作、内存数据缓冲、内存索引缓存、自适应Hash索引、插入操作缓存区; 备份:支持热备; MyISAM: 支持全文索引(FULLTEXT index)、压缩、空间函数(GIS); 不支持事务 锁粒度:表级锁 崩溃无法保证表安全恢复 适用场景:只读或读多写少的场景、较小的表(以保证崩溃后恢复的时间较短); 文件:每个表有三个文件,存储于数据库目录中 tbl_name.frm:表格式定义; tbl_name.MYD:数据文件; tbl_name.MYI:索引文件; 特性: 加锁和并发:表级锁; 修复:手动或自动修复、但可能会丢失数据; 索引:非聚集索引; 延迟索引更新; 表压缩; 行格式: {DEFAULT|DYNAMIC|FIXED|COMPRESSED|REDUNDANT|COMPACT} 其它的存储引擎: CSV:将CSV文件(以逗号分隔字段的文本文件)作为MySQL表文件; MRG_MYISAM:将多个MyISAM表合并成的虚拟表; BLACKHOLE:类似于/dev/null,不真正存储数据; MEMORY:内存存储引擎,支持hash索引,表级锁,常用于临时表; FEDERATED: 用于访问其它远程MySQL服务器上表的存储引擎接口; MariaDB额外支持很多种存储引擎: OQGraph、SphinxSE、TokuDB、Cassandra、CONNECT、SQUENCE、... 搜索引擎: lucene, sphinx lucene:Solr, Elasticsearch 并发控制: 锁:Lock 锁类型 : 读锁:共享锁,可被多个读操作共享; 写锁:排它锁,独占锁; 锁粒度: 表锁:在表级别施加锁,并发性较低; 行锁:在行级另施加锁,并发性较高; 锁策略:在锁粒度及数据安全性之间寻求一种平衡机制; 存储引擎:级别以及何时施加或释放锁由存储引擎自行决定; MySQL Server:表级别,可自行决定,也允许显式请求; 锁类别: 显式锁:用户手动请求的锁; 隐式锁:存储引擎自行根据需要施加的锁; 显式锁的使用: (1) LOCK TABLES LOCK TABLES tbl_name read|write, tbl_name read|write, ... UNLOCK TABLES (2) FLUSH TABLES FLUSH TABLES tbl_name,... [WITH READ LOCK]; UNLOCK TABLES; (3) SELECT cluase [FOR UPDATE | LOCK IN SHARE MODE] 回顾: 连接查询:内连接、外连接; 存储引擎:InnoDB, MyISAM InnoDB: 表空间文件: (1) 所有表空间使用同一个文件; (2) 每表使用单独的表空间; 事务日志: 事务日志组:2+ files 事务日志组镜像:1 MyISAM: 表级锁 tbl.frm, tbl.MYD, tbl.MYI 全文索引、空间索引 锁: LOCK TABLES FLUSH TABLES WITH READ LOCK UNLOCK TABLES MySQL(2) 事务: 事务:一组原子性的SQL查询、或者是一个或多个SQL语句组成的独立工作单元; 事务日志: innodb_log_files_in_group innodb_log_group_home_dir innodb_log_file_size innodb_mirrored_log_groups ACID测试: A:AUTOMICITY,原子性;整个事务中的所有操作要么全部成功执行,要么全部失败后回滚; C:CONSISTENCY,一致性;数据库总是应该从一个一致性状态转为另一个一致性状态; I:ISOLATION,隔离性;一个事务所做出的操作在提交之前,是否能为其它事务可见;出于保证并发操作之目的,隔离有多种级别; D:DURABILITY,持久性;事务一旦提交,其所做出的修改会永久保存; 自动提交:单语句事务 mysql> SELECT @@autocommit; +------------------------+ | @@autocommit | +------------------------+ | 1 | +------------------------+ mysql> SET @@session.autocommit=0; 手动控制事务: 启动:START TRANSACTION 提交:COMMIT 回滚:ROLLBACK 事务支持savepoints: SAVEPOINT identifier ROLLBACK [WORK] TO [SAVEPOINT] identifier RELEASE SAVEPOINT identifier 事务隔离级别: READ-UNCOMMITTED:读未提交 --> 脏读; READ-COMMITTED:读提交--> 不可重复读; REPEATABLE-READ:可重复读 --> 幻读; SERIALIZABLE:串行化; mysql> SELECT @@session.tx_isolation; +----------------------------------+ | @@session.tx_isolation | +----------------------------------+ | REPEATABLE-READ | +----------------------------------+ 查看InnoDB存储引擎的状态信息: SHOW ENGINE innodb STATUS; MySQL用户和权限管理 用户账号:user@host user:账户名称; host:此账户可通过哪些客户端主机请求创建连接线程; %:任意长度牟任意字符; _:任意单个字符; MySQL权限类别: 库级别: 表级别: 字段级别: 管理类: 程序类: 管理类: CREATE USER RELOAD LOCK TABLES REPLICATION CLIENT, REPLICATION SLAVE SHUTDOWN FILE SHOW DATABASES PROCESS SUPER 程序类: FUNCTION,PROCEDURE,TRIGGER 操作:CREATE,ALTER,DROP,EXECUTE 库和表级别: CREATE,ALTER,DROP INDEX CREATE VIEW SHOW VIEW GRANT OPTION:能够把自己获得的权限生成一个副本转赠给其它用户; 数据操作: 表: INSERT/DELETE/UPDATE/SELECT 字段: SELECT(col1,col2,...) UPDATE(col1,col2,...) INSERT(col1,col2,...) 所有权限:ALL, ALL PRIVILEGES 元数据数据库(数据字典):mysql 授权: db, host, user tables_priv, column_priv, procs_priv, proxies_priv MySQL用户管理: 'user'@'host'; host: IP 主机名 NETWORK %, _ skip_name_resolve={ON|OFF} 创建用户: CREATE USER 'user'@'host' [IDENTIFIED BY [PASSWORD] 'password'] [,'user'@'host' [IDENTIFIED BY [PASSWORD] 'password']...] 重命名:RENAME USER RENAME USER old_user TO new_user[, old_user TO new_user] ... 删除用户: DROP USER 'user'@'host' [, 'user'@'host'] ... 修改用户密码: (1) SET PASSWORD [FOR 'user'@'host'] = PASSWORD('cleartext password'); (2) UPDATE mysql.user SET Password=PASSWORD('cleartext password') WHERE User='USERNAME' AND Host='HOST'; (3) mysqladmin -uUSERNAME -hHOST -p password 'NEW_PASS' 生效:FLUSH PRIVILEGES 忘记管理员密码的解决办法: (1) 启动mysqld进程时,使用--skip-grant-tables和--skip-networking选项; CentOS 7:mariadb.service CentOS 6:/etc/init.d/mysqld (2) 通过UPDATE命令修改管理员密码; (3) 以正常 方式启动mysqld进程; 授权:GRANT GRANT priv_type [(column_list)] [, priv_type [(column_list)]] ... ON [object_type] priv_level TO user_specification [, user_specification] ... [REQUIRE {NONE | ssl_option [[AND] ssl_option] ...}] [WITH with_option ...] object_type: TABLE | FUNCTION | PROCEDURE priv_level: * | *.* | db_name.* | db_name.tbl_name | tbl_name | db_name.routine_name ssl_option: SSL | X509 | CIPHER 'cipher' | ISSUER 'issuer' | SUBJECT 'subject' with_option: GRANT OPTION | MAX_QUERIES_PER_HOUR count | MAX_UPDATES_PER_HOUR count | MAX_CONNECTIONS_PER_HOUR count | MAX_USER_CONNECTIONS count 查看授权:SHOW GRANTS SHOW GRANTS [FOR 'user'@'host'] 取消授权:REVOKE REVOKE priv_type [(column_list)][, priv_type [(column_list)]] ... ON [object_type] priv_level FROM 'user'@'host' [, 'user'@'host'] ... REVOKE ALL PRIVILEGES, GRANT OPTION FROM user [, user] ... 练习:授权一个仅能够通过ssl连接的用户账号,而后完成连接测试; 查询缓存: 缓存:k/v key:查询语句的hash值 value:查询语句的执行结果 如何判断缓存是否命中: 通过查询语句的哈希值判断:哈希值考虑的因素包括 查询本身、要查询数据库、客户端使用的协议版本、... 哪些查询可能不会被缓存? 查询语句中包含UDF 存储函数 用户自定义变量 临时表 mysql系统表或者是包含列级别权限的查询 有着不确定结果值的函数(now()); 查询缓存相关的服务器变量: query_cache_limit:能够缓存的最大查询结果;(单语句结果集大小上限) 有着较大结果集的语句,显式使用SQL_NO_CACHE,以避免先缓存再移出; query_cache_min_res_unit:内存块的最小分配单位;缓存过小的查询结果集会浪费内存空间; 较小的值会减少空间浪费,但会导致更频繁地内存分配及回收操作; 较大值的会带来空间浪费; query_cache_size:查询缓存空间的总共可用的大小;单位是字节,必须是1024的整数倍; query_cache_strip_comments query_cache_type:缓存功能启用与否; ON:启用; OFF:禁用; DEMAND:按需缓存,仅缓存SELECT语句中带SQL_CACHE的查询结果; query_cache_wlock_invalidate:如果某表被其它连接锁定,是否仍然可以从查询缓存中返回查询结果;默认为OFF,表示可以;ON则表示不可以; 状态变量: mysql> SHOW GLOBAL STATUS LIKE 'Qcache%'; +-------------------------+----------+ | Variable_name | Value | +-------------------------+----------+ | Qcache_free_blocks | 1 | | Qcache_free_memory | 16759688 | | Qcache_hits | 0 | | Qcache_inserts | 0 | | Qcache_lowmem_prunes | 0 | | Qcache_not_cached | 0 | | Qcache_queries_in_cache | 0 | | Qcache_total_blocks | 1 | +-------------------------+----------+ 命中率: Qcache_hits/Com_select 回顾:事务、权限和用户 事务:ACID测试、事务隔离级别 用户:user@host 权限: 管理类、程序类、数据类; GRANT,REVOKE MySQL(4) MySQL的索引: 索引:提取索引的创建在的表上字段中的数据,构建出一个独特的数据结构; 索引的作用:加速查询操作; 表中数据子集:把表中某个或某些字段的数据提取出来另存为一个特定数据结构组织的数据; 某个字段或某些字段:WHERE子句中用到的字段; 索引类型:B+ TREE,HASH B+ TREE:顺序存储,每一个叶子结点到根结点的距离相同;左前缀索引,适合于范围类型的数据查询; 适用于B+ TREE索引的查询类型:全键值、键值范围或键前缀; 全值匹配:精确匹配某个值; WHERE CLOUMN = 'value'; 匹配最左前缀:只精确起头的部分; WEHRE COLUMN LIKE 'PREFIX%'; 匹配范围值: 精确匹配某一列,范围匹配另一列; 只用访问索引的查询:覆盖索引; index(Name) SELECT Name FROM students WHERE Name LIKE 'L%'; 不适用B+ TREE索引: 如查条件不是从最左侧列开始,索引无效; index(age,name), WHERE name='Jerry';, WHERE age>30; 不能跳过索引中的某列; index(name,age,gender) WHERE second_name='black' and age > 30; 如果查询中的某个列是为范围查询,那么其右侧的列都无法再使用索引优化查询; Hash索引:基于哈希表实现,特别适用于值的精确匹配查询; 适用场景: 只支持等值比较查询,例如=, IN(), <=> 不用场景: 所有非精确值查询;MySQL仅对memory存储引擎支持显式的hash索引; 索引优点: 降低需要扫描的数据量,减少了IO次数; 可以帮助避免排序操作,避免使用临时表; 帮助将随机IO转为顺序IO; 高性能索引策略: (1) 在WHERE中独立使用列,尽量避免其参与运算; WHERE age > 30 ; (2) 左前缀索引:索引构建于字段的最左侧的多少个字符,要通过索引选择性来评估 索引选择性:不重复的索引值和数据表的记录总数的比值; (3) 多列索引: AND连接的多个查询条件更适合使用多列索引,而非多个单键索引; (4) 选择合适的索引列次序:选择性最高的放左侧; EXPLAIN来分析索引有效性: EXPLAIN [explain_type] SELECT select_options explain_type: EXTENDED | PARTITIONS 输出结果: id: 1 select_type: SIMPLE table: students type: const possible_keys: PRIMARY key: PRIMARY key_len: 4 ref: const rows: 1 Extra: id:当前查询语句中,第个SELECT语句的编号; 复杂的查询的类型主要三种: 简单子查询 用于FROM中的子查询 联合查询 注意:联合查询的分析结果会出现一个额外的匿名临时表; select_type:查询类型: 简单查询:SIMPLE 复杂查询: 简单子查询:SUBQUERY 用于FROM中的子查询:DERIVED 联合查询中的第一个查询:PRIMARY 联合查询中的第一个查询之后的其它查询:UNION 联合查询生成的临时表:UNION RESULT table:查询针对的表; type:关联类型,或称为访问类型,即MySQL如何去查询表中的行 ALL:全表扫描; index:根据索引的顺序进行的全表扫描;但同时如果Extra列出现了"Using index”表示使用了覆盖索引; range:有范围限制地根据索引实现范围扫描;扫描位置始于索引中的某一项,结束于另一项; ref:根据索引返回的表中匹配到某单个值的所有行(匹配给定值的行不止一个); eq_ref:根据索引返回的表中匹配到某单个值的单一行,仅返回一个行,但需要与某个额外的参考值比较,而不是常数; const,system:与某个常数比较,且只返回一行; possiable_keys:查询中可能会用到的索引; key:查询中使用的索引; key_len:查询中用到的索引长度; ref:在利用key字段所显示的索引完成查询操作时所引用的列或常量值; rows:MySQL估计出的为找到所有的目标项而需要读取的行数; Extra:额外信息 Using index:使用了覆盖索引进行的查询; Using where:拿到数据后还要再次进行过滤; Using temporary:使用了临时表以完成查询; Using filesort:对结果使用了一个外部索引排序; 日志: 查询日志:general_log 慢查询日志:log_slow_queries 错误日志:log_error, log_warnings 二进制日志:binlog 中继日志:relay_log 事务日志:innodb_log 1、查询日志 记录查询语句,日志存储位置: 文件:file 表:table (mysql.general_log) general_log={ON|OFF} general_log_file=HOSTNAME.log log_output={FILE|TABLE|NONE} 2、慢查询日志 慢查询:运行时间超出指定时长的查询; long_query_time 存储位置: 文件:FILE 表:TABLE,mysql.slog_log log_slow_queries={ON|OFF} slow_query_log={ON|OFF} slow_query_log_file= log_output={FILE|TABLE|NONE} log_slow_filter=admin,filesort,filesort_on_disk,full_join,full_scan,query_cache,query_cache_miss,tmp_table,tmp_table_on_disk log_slow_rate_limit log_slow_verbosity 3、错误日志 记录信息: (1) mysqld启动和关闭过程 输出的信息; (2) mysqld运行中产生的错误信息; (3) event scheduler运行时产生的信息; (4) 主从复制架构中,从服务器复制线程启动时产生的日志; log_error= log_warnings={ON|OFF} 4、二进制日志 用于记录引起数据改变或存在引起数据改变的潜在可能性的语句(STATEMENT)或改变后的结果(ROW),也可能是二者混合; 功用:“重放” binlog_format={STATEMENT|ROW|MIXED} STATEMENT:语句; ROW:行; MIXED:混编; 查看二进制日志文件列表: SHOW MASTER|BINARY LOGS; 查看当前正在使用的二进制日志文件: SHOW MASTER STATUS; 查看二进制 日志文件中的事件: SHOW BINLOG EVENTS [IN 'log_name'] [FROM pos] [LIMIT [offset,] row_count] 服务器变量: log_bin=/PATH/TO/BIN_LOG_FILE sql_log_bin={ON|OFF} max_binlog_size=1073741824 sync_binlog={1|0} mysqlbinlog: YYYY-MM-DD hh:mm:ss --start-datetime= --stop-datetime= -j, --start-position=# --stop-position=# --user, --host, --password 二进制日志事件格式: # at 553 #160831 9:56:08 server id 1 end_log_pos 624 Query thread_id=2 exec_time=0 error_code=0 SET TIMESTAMP=1472608568/*!*/; BEGIN /*!*/; 事件发生的日期时间:#160831 9:56:08 事件发生的服务器id:server id 1 事件的结束位置:end_log_pos 624 事件的类型:Query 事件发生时所在服务器执行此事件的线程的ID: thread_id=2 语句的时间戳与将其写入二进制日志文件中的时间差:exec_time=0 错误代码:error_code=0 事件内容:SET TIMESTAMP=1472608568/*!*/; 中继日志: 从服务器上记录下来从主服务器的二进制日志文件同步过来的事件; 事务日志: 事务型存储引擎innodb用于保证事务特性的日志文件: redo log undo log 备份和恢复(数据): 备份:存储的数据副本; 原始数据:持续改变; 恢复:把副本应用到线上系统; 仅能恢复至备份操作时刻的数据状态; 时间点恢复: binary logs; 为什么备份? 灾难恢复:硬件故障(冗余)、软件故障(bug)、自然灾害、黑客攻击、误操作、... 测试; 备份时应该注意事项: 能容忍最多丢失多少数据; 恢复数据需要在多长时间内完成; 需要恢复哪些数据; 做恢复演练: 测试备份的可用性; 增强恢复操作效率; ... 备份类型: 备份的数据的集范围: 完全备份和部分备份 完全备份:整个数据集; 部分备份:数据集的一部分,比如部分表; 完全备份、增量备份、差异备份: 完全备份 增量备份:仅备份自上一次完全备份或 增量备份以来变量的那部数据; 差异备份:仅备份自上一次完全备份以来变量的那部数据; 物理备份、逻辑备份: 物理备份:复制数据文件进行备份; 逻辑备份:从数据库导出数据另存在一个或多个文件中; 根据数据服务是否在线: 热备:读写操作均可进行的状态下所做的备份; 温备:可读但不可写状态下进行的备份; 冷备:读写操作均不可进行的状态下所做的备份; 备份需要考虑因素: 锁定资源多长时间? 备份过程的时长? 备份时的服务器负载? 恢复过程的时长? 备份策略: 完全+差异 完全+增量 备份手段:物理、逻辑 备份什么? 数据 二进制日志、InnoDB的事务日志; 代码(存储过程、存储函数、触发器、事件调度器) 服务器的配置文件 备份工具: mysqldump:mysql服务自带的备份工具;逻辑备份工具; 完全、部分备份; InnoDB:热备; MyISAM:温备; cp/tar lvm2:快照(请求一个全局锁),之后立即释放锁,达到几乎热备的效果;物理备份; 注意:不能仅备份数据文件;要同时备份事务日志; 前提:要求数据文件和事务日志位于同一个逻辑卷; xtrabackup: 由Percona提供,开源工具,支持对InnoDB做热备,物理备份工具; 完全备份、部分备份; 完全备份、增量备份; 完全备份、差异备份; mysqlhotcopy select: 备份:SELECT cluase INTO OUTFILE 'FILENAME'; 恢复:CREATE TABLE 导入:LOAD DATA 回顾:索引、日志、备份 索引:B+ TREE,有序数据;范围查询,左前缀; EXPLAIN SELECT clause; 日志:二进制日志、慢查询日志、查询日志、错误日志、事务日志、中继日志; 备份: 完全/部分,热备/温备/冷备,完全/差异/增量,物理/逻辑 MySQL(05) 备份策略: 完全+差异+binlog 完全+增量+binlog 备份,多久一次? 数据变化量; 可用的备份存储空间; mysqldump: 逻辑备份、完全备份、部分备份; 二次封装工具: mydumper phpMyAdmin Usage: mysqldump [OPTIONS] database [tables] OR mysqldump [OPTIONS] --databases [OPTIONS] DB1 [DB2 DB3...] OR mysqldump [OPTIONS] --all-databases [OPTIONS] MyISAM存储引擎:支持温备,备份时要锁定表; -x, --lock-all-tables:锁定所有库的所有表,读锁; -l, --lock-tables:锁定指定库所有表; InnoDB存储引擎:支持温备和热备; --single-transaction:创建一个事务,基于此快照执行备份; 其它选项: -R, --routines:存储过程和存储函数; --triggers -E, --events --master-data[=#] 1:记录为CHANGE MASTER TO语句,此语句不被注释; 2:记录为CHANGE MASTER TO语句,此语句被注释; --flush-logs:锁定表完成后,即进行日志刷新操作; 作业:备份脚本 基于lvm2的备份: 前提:数据目录位于逻辑卷,包含了数据文件和事务日志; (1) 请求锁定所有表; mysql> FLUSH TABLES WITH READ LOCK; (2) 记录二进制文件事件位置; mysql> FLUSH LOGS; mysql> SHOW MASTER STATUS; mysql -e 'SHOW MASTER STATUS;' >> /PATH/TO/SOME_POS_FILE (3) 创建快照卷 lvcreate -L # -s -p r - SNAM-NAME /dev/VG-NAME/LV-NAME (4) 释放锁 mysql> UNLOCK TABLES (5) 挂载快照卷,并执行备份,备份完成后删除快照卷; (6) 周期性备份二进制日志; percona: InnoDB --> XtraDB (mariadb) Innobackup --> Xtrabackup Xtrabackup: MyISAM:温备,不支持增量备份; InnoDB:热备,增量; 物理备份,速率快、可靠;备份完成后自动校验备份结果集是否可用;还原速度快; Usage: [innobackupex [--defaults-file=#] --backup | innobackupex [--defaults-file=#] --prepare] [OPTIONS] The innobackupex tool is a Perl script that acts as a wrapper for the xtrabackup C program. 完全备份: 完全+binlog(总结): 备份:innobackupex --user --password= --host= /PATH/TO/BACKUP_DIR 准备:innobackupex --apply-log /PATH/TO/BACKUP_DIR 恢复:innobackupex --copy-back 注意:--copy-back需要在mysqld主机本地进行,mysqld服务不能启动; innodb_log_file_size可能要重新设定; 总结:完全+增量+binlog 备份:完全+增量+增量+... 完全+差异 准备: innobackupex --apply-log --redo-only BASEDIR innobackupex --apply-log --redo-only BASEDIR --incremental-dir=INCREMENTAL-DIR 恢复: innobackupex --copy-back BASEDIR 备份单库: --databases 注意:未尽的内容,请参考官方文档; 总结: mysqldump+binlog lvm2+cp/tar+binlog xtrabackup(innodb)+binlog 博客作业:mysqldump和xtrabackup的使用; 回顾:mysqldump, xtrabackup mysqldump: --lock-all-tables --lock-tables --single-transaction --databases, --all-databases --routines, --trigger xtrabackup:innobackupex --user, --host, --password, --port, --socket --apply-log --redo-only --copy-back MySQL Replication: Master/Slave Master: write/read Slaves: read 为什么? 冗余:promte(提升为主),异地灾备 人工 工具程序:MHA 负载均衡:转移一部分“读”请求; 支援安全的备份操作; 测试; ... 主/从架构: 异步复制: 半同步复制: 一主多从; 一从一主; 级联复制; 循环复制; 双主复制; 一从多主: 每个主服务器提供不同的数据库; 配置: 时间同步; 复制的开始位置: 从0开始; 从备份中恢复到从节点后启动的复制; 主从服务器mysqld程序版本不一致? 主服务器: 配置文件my.cnf server_id=# log_bin=log-bin 启动服务: mysql> GRANT REPLICATION SLAVE,REPLICATION CLIENT ON *.* TO 'USERNAME'@'HOST' IDENTIFIED BY 'YOUR_PASSWORD'; mysql> FLUSH PRIVILEGES; 从服务器: 配置文件my.cnf server_id=# relay_log=relay-log 启动服务: mysql> CHANGE MASTER TO MASTER_HOST='HOST',MASTER_USER='USERNAME',MASTER_PASSWORD='YOUR_PASSWORD',MASTER_LOG_FILE='BINLOG',MASTER_LOG_POS=#; mysql> START SLAVE [IO_THREAD|SQL_THREAD]; mysql> SHOW SLAVE STATUS; 课外作业:基于SSL的复制的实现; 主主复制: 互为主从:两个节点各自都要开启binlog和relay log; 1、数据不一致; 2、自动增长id; 定义一个节点使用奇数id auto_increment_offset=1 auto_increment_increment=2 另一个节点使用偶数id auto_increment_offset=2 auto_increment_increment=2 配置: 1、server_id必须要使用不同值; 2、均启用binlog和relay log; 3、存在自动增长id的表,为了使得id不相冲突,需要定义其自动增长方式; 服务启动后执行如下两步: 4、都授权有复制权限的用户账号; 5、各把对方指定为主节点; 复制时应该注意的问题: 1、从服务设定为“只读”; 在从服务器启动read_only,但仅对非SUPER权限的用户有效; 阻止所有用户: mysql> FLUSH TABLES WITH READ LOCK; 2、尽量确保复制时的事务安全 在master节点启用参数: sync_binlog = ON 如果用到的是InnoDB存储引擎: innodb_flush_logs_at_trx_commit=ON innodb_support_xa=ON 3、从服务器意外中止时尽量避免自动启动复制线程 4、从节点:设置参数 sync_master_info=ON sync_relay_log_info=ON 半同步复制 支持多种插件:/usr/lib64/mysql/plugins/ 需要安装方可使用: mysql> INSTALL PLUGIN plugin_name SONAME 'shared_library_name'; 半同步复制: semisync_master.so semisync_slave.so 主节点: INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so'; MariaDB [mydb]> SHOW GLOBAL VARIABLES LIKE 'rpl_semi%'; +------------------------------------+-------+ | Variable_name | Value | +------------------------------------+-------+ | rpl_semi_sync_master_enabled | OFF | | rpl_semi_sync_master_timeout | 10000 | | rpl_semi_sync_master_trace_level | 32 | | rpl_semi_sync_master_wait_no_slave | ON | +------------------------------------+-------+ MariaDB [mydb]> SET GLOBAL rpl_semi_sync_master_enabled=ON; 从节点: INSTALL PLUGIN rpl_semi_sync_slave SONAME 'semisync_slave.so'; MariaDB [mydb]> SHOW GLOBAL VARIABLES LIKE 'rpl_semi%'; +---------------------------------+-------+ | Variable_name | Value | +---------------------------------+-------+ | rpl_semi_sync_slave_enabled | OFF | | rpl_semi_sync_slave_trace_level | 32 | +---------------------------------+-------+ MariaDB [mydb]> STOP SLAVE IO_THREAD; MariaDB [mydb]> SHOW GLOBAL VARIABLES LIKE 'rpl_semi%'; MariaDB [mydb]> START SLAVE IO_THREAD; 判断方法: 主节点: MariaDB [mydb]> SELECT @@global.rpl_semi_sync_master_clients; 复制过滤器: 仅复制有限一个或几个数据库相关的数据,而非所有;由复制过滤器进行; 有两种实现思路: (1) 主服务器 主服务器仅向二进制日志中记录有关特定数据库相关的写操作; 问题:其它库的point-recovery将无从实现; binlog_do_db= binlog_ignore_db= (2) 从服务器 从服务器的SQL THREAD仅重放关注的数据库或表相关的事件,并将其应用于本地; 问题:网络IO和磁盘IO; Replicate_Do_DB= Replicate_Ignore_DB= Replicate_Do_Table= Replicate_Ignore_Table= Replicate_Wild_Do_Table= Replicate_Wild_Ignore_Table= 作业:基于SSL复制的实现 前提:启用SSL功能; 复制的监控和维护: (1) 清理日志:PURGE PURGE { BINARY | MASTER } LOGS { TO 'log_name' | BEFORE datetime_expr }; (2) 复制监控 MASTER: SHOW MASTER STATUS; SHOW BINLOG EVENTS; SHOW BINARY LOGS; SLAVE: SHOW SLAVE STATUS; 判断从服务器是否落后于主服务器: Seconds_Behind_Master: 0 (3) 如何确定主从节点数据是否一致? 通过表的CHECKSUM检查; 使用percona-tools中pt-table-checksum; (4) 主人数据不一致时的修复方法? 重新复制; 主从复制的读写分离: mysql-proxy --> atlas amoeba AliSQL: mysqlrouter: 语句透明路由服务; MySQL Router 是轻量级 MySQL 中间件,提供应用与任意 MySQL 服务器后端的透明路由。MySQL Router 可以广泛应用在各种用案例中,比如通过高效路由数据库流量提供高可用性和可伸缩的 MySQL 服务器后端。Oracle 官方出品。 作业:简单复制、双主复制及半同步复制; master/slave: 切分: 垂直切分:切库,把一个库中的多个表分组后放置于不同的物理服务器上; 水平切分:切表,分散其行至多个不同的table partitions中; range, list, hash sharding(切片): 数据库切分的框架: cobar gizzard Hibernat Shards HiveDB ... qps: queries per second tps: transactions per second MHA: manager: 10.1.0.6 master: 10.1.0.67 slave1: 10.1.0.68 slave2: 10.1.0.69 博客作业: MHA,以及zabbix完成manager启动;

December 2, 2015

Java简要介绍

[TOC] Java: Sun, Green Project, Oak, James Gosling; 1995:Java 1.0, Write once, Run Anywhere; 1996:JDK(Java Development Kit),包含类库、开发工具(javac)、JVM(SUN Classic VM) JDK 1.0, Applet, AWT 1997:JDK 1.1 1998: JDK 1.2 Sun分拆Java技术为三个方向: J2SE:Standard Edition J2EE:Enterprise Edition J2ME:Mobile Edition 代表性技术:EJB,java plugin, Swing, JIT(Just In Time,即时编译) 2000:JDK 1.3 HotSpot VM 2002:JDK 1.4 2006:Sun开源了Java技术,GPL,建立一个称为OpenJDK组织; Java 2 SE, Java 2 EE, Java 2 ME 2011:JDK 1.7 2014:JDK 1.8 2016:JDK 1.9 Java代码的运行: *.java(source code) --> javac --> *.class(bytecode) jvm:class loader,加载程序的类文件,及程序的类文件依赖到的其它的类文件而后运行; 整个运行表现为一个jvm进程; threads; java技术体系: Java编程语言 Java Class文件格式 Java API Java VM class loader 执行引擎 JVM运行时区域: 方法区:线程共享; 用于存储被JVM加载的class信息、常量、静态变量、方法等; 堆:是jvm所管理的内存中占用空间最大的一部分;也是GC管理的主要区域;存储对象; Java栈:线程私有,存储 线程自己的局部变量; PC寄存器:线程私有的内存空间,程序的指令指针; 本地方法栈: 安装JDK 了解当前的java环境: ~]# java -version OpenJDK: java-VERSION-openjdk: The OpenJDK runtime environment. java-VERSION-openjdk-headless: The OpenJDK runtime environment without audio and video support. java-VERSION-openjdk-devel: The OpenJDK development tools. CentOS 7: VERSION:1.6.0, 1.7.0, 1.8.0 java-1.8.0-openjdk-devel 注意:多版本并存时,可使用 alternatives命令设定默认使用的版本; Oracle JDK: 安装相应版本的rpm包; jdk-VERSION-OS-ARCH.rpm 例如:jdk-1.8.0_25-linux-x64.rpm 注意:安装完成后,要配置JAVA_HOME环境变量,指向java的安装路径; OpenJDK: JAVA_HOME=/usr Oracle JDK: JAVA_HOME=/usr/java/jdk_VERSION Java 2 EE: CGI: Common Gateway Interface Servlet: 类库;web app; Servlet container, Servlet Engine JSP: Java Server Page <html> <title>TITLE</title> <body> <h1>...</h1> <% ... java code... %> </body> </html> .jsp -->jasper--> .java --> javac --> .class --> jvm 注意:基于jasper将静态输出的数据转为java代码进行输出; JSP Container: JSP + Servlet Container Java Web Server:JWS ASF:JServ Tomcat 3.x Tomcat 4.x Catalina http://tomcat.apache.org/ 商业实现: WebSphere, WebLogic, Oc4j, Glassfish, Geronimo, JOnAS, JBoss, ... 开源实现: Tomcat, Jetty, Resin, ... Tomcat: Java 2 EE技术体系的不完整实现; JVM常用的分析工具: jps:用来查看运行的所有jvm进程; jinfo:查看进程的运行环境参数,主要是jvm命令行参数; jstat:对jvm应用程序的资源和性能进行实时监控; jstack:查看所有线程的运行状态; jmap:查看jvm占用物理内存的状态; jconsole: jvisualvm: 官方文档:https://docs.oracle.com/javase/8/docs/technotes/tools/unix/ jps:Java virutal machine Process Status tool, jps [-q] [-mlvV] [<hostid>] -q:静默模式; -v:显示传递给jvm的命令行参数; -m:输出传入main方法的参数; -l:输出main类或jar完全限定名称; -V:显示通过flag文件传递给jvm的参数; [<hostid>]:主机id,默认为localhost; jinfo:输出给定的java进程的所有配置信息; jinfo [option] <pid> -flags:to print VM flags -sysprops:to print Java system properties -flag <name>:to print the value of the named VM flag jstack:查看指定的java进程的线程栈的相关信息; jstack [-l] <pid> jstack -F [-m] [-l] <pid> -l:long listings,会显示额外的锁信息,因此,发生死锁时常用此选项; -m:混合模式,既输出java堆栈信息,也输出C/C++堆栈信息; -F:当使用“jstack -l PID"无响应,可以使用-F强制输出信息; jstat:输出指定的java进程的统计信息 jstat -help|-options jstat -<option> [-t] [-h<lines>] <vmid> [<interval> [<count>]] # jstat -options -class:class loader -compiler:JIT -gc:gc -gccapacity:统计堆中各代的容量 -gccause: -gcmetacapacity -gcnew:新生代 -gcnewcapacity -gcold:老年代 -gcoldcapacity -gcutil -printcompilation [<interval> [<count>]] interval:时间间隔,单位是毫秒; count:显示的次数; -gc: S0C :S0 总大小 S1C :S1 总大小 S0U :S0 已用大小 S1U :S1 已用大小 EC :Eden区总大小 EU :Eden区已用大小 OC :老年代总大小 OU :老年代已用大小 MC :Metaspace 总大小 MU :Metaspace 已用大小 CCSC :CompressedClassSpace总大小 CCSU :CompressedClassSpace已用大小 YGC :Young GC 次数 YGCT :Young GC 消耗总时间 FGC :FullGC 次数 FGCT :FullGC 消耗总时间 GCT :GC总消耗时间 参考文档:https://docs.oracle.com/javase/8/docs/technotes/tools/unix/jstat.html jmap:Memory Map, 用于查看堆内存的使用状态; jhat:Java Heap Analysis Tool jmap [option] <pid> 查看堆空间的详细信息: jmap -heap <pid> 查看堆内存中的对象的数目: jmap -histo[:live] <pid> live:只统计活动对象; 保存堆内存数据至文件中,而后使用jvisualvm或jhat进行查看: jmap -dump:<dump-options> <pid> dump-options: live dump only live objects; if not specified, all objects in the heap are dumped. format=b binary format file=<file> dump heap to <file>

November 25, 2015

tomcat简要介绍

[TOC] Tomcat 服务器是一个免费的开放源代码的Web 应用服务器,Tomcat 实际上运行JSP 页面和Servlet.它还是一个Servlet和JSP容器.Tomcat: Java 2 EE技术体系的不完整实现 Tomcat: 使用java语言编写: Tomcat的核心组件:server.xml <Server> <Service> <connector/> <connector/> ... <Engine> <Host> <Context/> <Context/> ... </Host> <Host> ... </Host> ... </Engine> </Service> </Server> 每一个组件都由一个Java“类”实现,这些组件大体可分为以下几个类型: 顶级组件:Server 服务类组件:Service 连接器组件connector:http, https, ajp 容器类:Engine, Host, Context 被嵌套类:valve, logger, realm, loader, manager, ... 集群类组件:listener, cluster, ... 安装Tomcat: Base Repo: tomcat, tomcat-lib, tomcat-admin-webapps, tomcat-webapps, tomcat-docs-webapp Tomcat binary release: # tar xf apache-tomcat-VERSION.tar.gz -C /usr/local/ # cd /usr/local # ln -sv apache-tomcat-VERSION tomcat /etc/profile.d/tomcat.sh export CATALINA_BASE=/usr/local/tomcat export PATH=$CATALINA_BASE/bin:$PATH tomcat程序环境: tomcat的目录结构 bin:脚本,及启动时用到的类; conf:配置文件目录; lib:库文件,Java类库,jar; logs:日志文件目录; temp:临时文件目录; webapps:webapp的默认目录; work:工作目录; rpm包安装的程序环境: 配置文件目录:/etc/tomcat 主配置文件:server.xml webapps存放位置:/var/lib/tomcat/webapps/ examples manager host-manager docs Unit File:tomcat.service 环境配置文件:/etc/sysconfig/tomcat tomcat的配置文件: server.xml:主配置文件; web.xml:每个webapp只有“部署”后才能被访问,它的部署方式通常由web.xml进行定义,其存放位置为WEB-INF/目录中;此文件为所有的webapps提供默认配置; context.xml:每个web都可以专用的配置文件,它通常由专用的配置文件context.xml来定义,其存放位置为WEB-INF/目录中;此文件为所有的webapps提供默认配置; tomcat-users.xml:用户认证的账号和密码文件; catalina.policy:当使用-security选项启动tomcat时,用于为tomcat设置安全策略; catalina.properties:Java属性的定义文件,用于设定类加载器路径,以及一些与JVM调优相关参数; logging.properties:日志系统相关的配置; # catalina.sh --help debug Start Catalina in a debugger debug -security Debug Catalina with a security manager jpda start Start Catalina under JPDA debugger run Start Catalina in the current window run -security Start in the current window with security manager start Start Catalina in a separate window start -security Start in a separate window with security manager stop Stop Catalina, waiting up to 5 seconds for the process to end stop n Stop Catalina, waiting up to n seconds for the process to end stop -force Stop Catalina, wait up to 5 seconds and then use kill -KILL if still running stop n -force Stop Catalina, wait up to n seconds and then use kill -KILL if still running configtest Run a basic syntax check on server.xml - check exit code for result version What version of tomcat are you running? JSP WebAPP的组织结构: /: webapps的根目录 index.jsp:主页; WEB-INF/:当前webapp的私有资源路径;通常用于存储当前webapp的web.xml和context.xml配置文件; META-INF/:类似于WEB-INF/; classes/:类文件,当前webapp所提供的类; lib/:类文件,当前webapp所提供的类,被打包为jar格式; webapp归档格式: .war:webapp .jar:EJB的类打包文件; .rar:资源适配器类打包文件; .ear:企业级webapp; 部署(deploy)webapp的相关操作: deploy:将webapp的源文件放置于目标目录(网页程序文件存放目录),配置tomcat服务器能够基于web.xml和context.xml文件中定义的路径来访问此webapp;将其特有的类和依赖的类通过class loader装载至JVM; 部署有两种方式: 自动部署:auto deploy 手动部署: 冷部署:把webapp复制到指定的位置,而后才启动tomcat; 热部署:在不停止tomcat的前提下进行部署; 部署工具:manager、ant脚本、tcd(tomcat client deployer)等; undeploy:反部署,停止webapp,并从tomcat实例上卸载webapp; start:启动处于停止状态的webapp; stop:停止webapp,不再向用户提供服务;其类依然在jvm上; redeploy:重新部署; 手动提供一测试类应用,并冷部署: # mkidr -pv /usr/local/tomcat/webapps/test/{classes,lib,WEB-INF} 创建文件/usr/local/tomcat/webapps/test/index.jsp <%@ page language="java" %> <%@ page import="java.util.*" %> <html> <head> <title>Test Page</title> </head> <body> <% out.println("hello world"); %> </body> </html> tomcat的两个管理应用: manager host-manager tomcat的常用组件配置: Server:代表tomcat instance,即表现出的一个java进程;监听在8005端口,只接收“SHUTDOWN”。各server监听的端口不能相同,因此,在同一物理主机启动多个实例时,需要修改其监听端口为不同的端口; Service:用于实现将一个或多个connector组件关联至一个engine组件; Connector组件: 负责接收请求,常见的有三类http/https/ajp; 进入tomcat的请求可分为两类: (1) standalone : 请求来自于客户端浏览器; (2) 由其它的web server反代:来自前端的反代服务器; nginx --> http connector --> tomcat httpd(proxy_http_module) --> http connector --> tomcat httpd(proxy_ajp_module) --> ajp connector --> tomcat 属性: port="8080" protocol="HTTP/1.1" connectionTimeout="20000" address:监听的IP地址;默认为本机所有可用地址; maxThreads:最大并发连接数,默认为150; enableLookups:是否启用DNS查询功能; acceptCount:等待队列的最大长度; secure: sslProtocol: Engine组件:Servlet实例,即servlet引擎,其内部可以一个或多个host组件来定义站点; 通常需要通过defaultHost来定义默认的虚拟主机; 属性: name= defaultHost="localhost" jvmRoute= Host组件:位于engine内部用于接收请求并进行相应处理的主机或虚拟主机,示例: <Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true"> </Host> 常用属性说明: (1) appBase:此Host的webapps的默认存放目录,指存放非归档的web应用程序的目录或归档的WAR文件目录路径;可以使用基于$CATALINA_BASE变量所定义的路径的相对路径; (2) autoDeploy:在Tomcat处于运行状态时,将某webapp放置于appBase所定义的目录中时,是否自动将其部署至tomcat; 示例: <Host name="tc1.magedu.com" appBase="/appdata/webapps" unpackWARs="true" autoDeploy="true"> </Host> # mkdir -pv /appdata/webapps # mkdir -pv /appdata/webapps/ROOT/{lib,classes,WEB-INF} 提供一个测试页即可; Context组件: 示例: <Context path="/PATH" docBase="/PATH/TO/SOMEDIR" reloadable=""/> Valve组件: <Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs" prefix="localhost_access_log" suffix=".txt" pattern="%h %l %u %t &quot;%r&quot; %s %b" /> Valve存在多种类型: 定义访问日志:org.apache.catalina.valves.AccessLogValve 定义访问控制:org.apache.catalina.valves.RemoteAddrValve <Valve className="org.apache.catalina.valves.RemoteAddrValve" deny="172\.16\.100\.67"/> LNMT:Linux Nginx MySQL Tomcat Client (http) --> nginx (reverse proxy)(http) --> tomcat (http connector) location / { proxy_pass http://tc1.magedu.com:8080; } location ~* \.(jsp|do)$ { proxy_pass http://tc1.magedu.com:8080; } LAMT:Linux Apache(httpd) MySQL Tomcat httpd的代理模块: proxy_module proxy_http_module:适配http协议客户端; proxy_ajp_module:适配ajp协议客户端; Client (http) --> httpd (proxy_http_module)(http) --> tomcat (http connector) Client (http) --> httpd (proxy_ajp_module)(ajp) --> tomcat (ajp connector) Client (http) --> httpd (mod_jk)(ajp) --> tomcat (ajp connector) proxy_http_module代理配置示例: <VirtualHost *:80> ServerName tc1.magedu.com ProxyRequests Off ProxyVia On ProxyPreserveHost On <Proxy *> Require all granted </Proxy> ProxyPass / http://tc1.magedu.com:8080/ ProxyPassReverse / http://tc1.magedu.com:8080/ <Location /> Require all granted </Location> </VirtualHost> proxy_ajp_module代理配置示例: <VirtualHost *:80> ServerName tc1.magedu.com ProxyRequests Off ProxyVia On ProxyPreserveHost On <Proxy *> Require all granted </Proxy> ProxyPass / ajp://tc1.magedu.com:8009/ ProxyPassReverse / ajp://tc1.magedu.com:8009/ <Location /> Require all granted </Location> </VirtualHost> 课外实践:client --> nginx --> httpd --> tomcat proxy_http_module)(http) --> tomcat (http connector) Client (http) --> httpd (proxy_ajp_module)(ajp) --> tomcat (ajp connector) Client (http) --> httpd (mod_jk)(ajp) --> tomcat (ajp connector) proxy_http_module代理配置示例: <VirtualHost *:80> ServerName tc1.magedu.com ProxyRequests Off ProxyVia On ProxyPreserveHost On <Proxy *> Require all granted </Proxy> ProxyPass / http://tc1.magedu.com:8080/ ProxyPassReverse / http://tc1.magedu.com:8080/ <Location /> Require all granted </Location> </VirtualHost> proxy_ajp_module代理配置示例: <VirtualHost *:80> ServerName tc1.magedu.com ProxyRequests Off ProxyVia On ProxyPreserveHost On <Proxy *> Require all granted </Proxy> ProxyPass / ajp://tc1.magedu.com:8009/ ProxyPassReverse / ajp://tc1.magedu.com:8009/ <Location /> Require all granted </Location> </VirtualHost> 课外实践:client --> nginx --> httpd --> tomcat

November 25, 2015