马哥教育第二十天TCP及socket通信原理详解、http协议、httpd

1、tcp、udp是一种传输协议，实现进程地址标记，套接字是一个虚拟设备，用来表明主机上的某个进程
常用端口：0-1023：管理员才有权限使用，永久地分配给某应用使用
注册端口：1024-41951：只有一部分被注册，只要确保主机上没有进程使用该端口。
动态端口或私有端口：41952-65535：由内核分配临时端口，如果临时端口不够可以通过修改内核参数修改临时端口范围
/proc/sys/net/ipv4/ip_local_port_range：定义两个数字，指定起始端口和结束端口范围

传输层协议：TCP、UDP、SCTP、DCCP

套接字类型： tcp socket、udp socket、raw socket（裸套接字，不使用任何传输层协议）

TCP协议的功能：
三次握手连接建立
将数据打包成段，借用ip报文向外传输，每一段都包含校验，可在传输过程中检查传输过程中是否出现错误，如错误重传
确认，发送端每发一个报文接收端就需确认一次，还需建立超时机制
报文传输过程中还需要对序列号进行排序，用于确定传输顺序
流量控制，用于处理2台主机速率不同而造成报文丢失，tcp通过滑动窗口确定一次发送和接收多少报文

socket: IPC（进程间通信）的一种实现，用于同一或不同主机上的进程间的通信
socket通信在domain中实现：domain识别一个socket的方法（socket地址格式）

domain:
Unix Domain: 基于socket机制实现同一主机不同进程间通信的一种方式；AF_UNIX, AF_LOCAL，地址是一个路径名（文件）
IPv4 Domain: AF_INET, 基于socket机制借助于ipv4协议实现不同主机（也可以是同一主机）上的进程间通信的机制； 地址是32位的ipv4地址+16位的端口号
IPv6 Domain: AF_INET6，基于socket机制借助于ipv6协议实现不同主机（也可以是同一主机）上的进程间通信的机制； 地址是128位的Ipv6地址+16位的端口号

socket的类型：
TCP：流式socket，SOCK_STREAM，可靠、双向、面向字节流
UDP：数据报式socket， SOCK_DGRAM

相关的系统调用：
socket(): 创建一个新的socket
bind()：绑定于一个套按字地址上；
listen(): 监听套接字；
accept(): 接收连接请求；

connect(): 发起连接请求；
close(): 关闭连接
read()和write(): recv(), send(), recvfrom(), sendto()

TCP三次握手
第一次握手：建立连接时，客户端发送syn包（syn=j）到服务器，并进入SYN_SENT状态，等待服务器确认；SYN：同步序列编号（Synchronize Sequence Numbers）。
第二次握手：服务器收到syn包，必须确认客户的SYN（ack=j+1），同时自己也发送一个SYN包（syn=k），即SYN+ACK包，此时服务器进入SYN_RECV状态；
第三次握手：客户端收到服务器的SYN+ACK包，向服务器发送确认包ACK(ack=k+1），此包发送完毕，客户端和服务器进入ESTABLISHED（TCP连接成功）状态，完成三次握手

TCP四次断开
第一次客户端A发送一个FIN，用来关闭客户A到服务器B的数据传送
第二次服务器B收到这个FIN，它发回一个ACK，确认序号为收到的序号加1
第三次服务器B关闭与客户端A的连接，发送一个FIN给客户端A
第四次客户端A发回ACK报文确认，并将确认序号设置为收到序号加1



tcp协议通过tcp状态来标记当前处于通信过程的哪个阶段：
CLOSED, LISTEN, SYN_SENT, SYN_RECV, ESTABLISHED, FIN_WAIT1, CLOSE_WAIT, FIN_WAIT2, LAST_ACK, TIME_WAIT, CLOSED

2、http(Hyper Text Transfer Protocol),超文本传输协议。html(Hyper Text Mark Language)超文本标记语言
CGI：Common Gateway Interface：通用网关接口，http和程序解释器的链接协议，简化版的http，

http事务：http一次请求及对应的响应过程

http方法：
GET：请求获取一个资源，需要服务器发送
HEAD：跟GET近似，但其不需要服务响应请求的资源，而返回响应首部
POST：基于HTML表单向服务器提交数据，服务器通常需要存储此数据；（位置：通常为关系型数据库）
PUT：与GET相反，向服务器发送资源；服务器通常需要存储此资源；（位置：通常为文件系统）
DELETE：删除URL指向的资源
OPTIONS：探测服务器端对请求的URL所支持使用的请求方法
TRACE：跟一次请求中间所经过的代理服务器、防火墙或网关等

http状态码：
1XX：信息性状态码
2XX：成功状态码
200：OK
201：CREATED
3XX: 重定向类的状态码
301: Moved Permanently, 永久重定向
302: Found, 临时重定向，会在响应报文中使用“Location: 新位置”;
304: Not Modified
4XX：客户端类错误
403:Forbidden 请求被服务器拒绝
404: Not Found 没有找到文件
405: Method Not Allowed 不允许此方法请求资源
5XX：服务器类的错误
500：Internal Server Error, 服务器内部错误
502：Bad Gateway, 错误网关，代理服务器从上游服务器收到一条伪响应；
503：Service Unavailable, 服务暂时不可用

http协议：协议首部
Name: Value 例如： Content-Type: images/gif
首部类型：
通用首部：响应和请求都可以使用的首部
请求首部：
响应首部：
实体首部：
扩展首部：非标准首部，可由程序员自行创建

通用首部：
Connection: 定义C/S之间关于请求、响应的有关选项
Cache-Control: 缓存控制
请求首部：
Client-IP:
Host: 请求的主机
Referer: 指明了请求当前资源原始资源的URL
User-Agent: 用户代理
Accept首部：
Accept: 服务端能够发送的媒体的类型
Accept-Charset: 支持的字符集
Accept-Encoding:编码格式
Accept-Language:接受的语言格式
响应首部：
Age: 资源响应后可以使用时长
Server: 向客户说明自己的程序名称和版本

http请求报文：
<method> <request-URL> <version>
<HEADERS>
<entity-body>
http响应报文：
<version> <status> <reason-phrase>
<HEADERS>
<entity-body>
解释：
<method>：请求方法
<request-URL>: 请求的资源，可以是相对路径，如/images/log.jpg，也可以绝对路径
<version>: http协议版本，格式HTTP/<major>.<minor>，例如HTTP/1.0, HTTP/1.1
<headers>：各种所可以使用的首部
<status>: 状态码
<reason-phrase>: 原因短语，指状态码的易读信息

注意：http协议是无状态，stateless，是通过cookie缓存进行交互。

3、http协议版本：
http 0.9: 仅用于传输html文档
http 1.0：引入MIME机制，从而支持多媒体数据；引入keep-alive(持久连接)支持三次握手后不用断开继续请求支援；缓存
http 1.1：更多请求方法，更精细缓存控制；持久连接（persistent）

一次Web资源请求的具体过程（服务器的角度）
建立连接
接收请求
处理请求
访问资源
构建响应
发送响应
记录日志

连接：
连接套接字：（client, cport <--> server, sport）
监听套接字：80端口
web服务器的I/O结构：
单进程模型：每次只响应一个用户请求。
多进程模型：多进程每个进程响应一个用户请求实现并发的效果
复用的I/O机制：一个进程生成多个线程，每个线程响应一个用户请求
复用的I/O机制：多个线程，每个线程响应多个用户请求
httpd的特性：
高度模块化：core + modules
DSO: Dynamic Shared Object
MPM：Multipath Processing Module
统称，事实上有多个实现：
prefork: 每个进程响应一个用户请求，预先生成多个空闲进程，并发能力差；
worker: 启动多个进程，每个进程生成多个线程，每个线程响应一个用户请求；
event: 基于事件的响应方式，启动多个线程，每个线程响应N个请求；2.4版本已经可用。

httpd的功能特性：
丰富用户认证：基本认证和摘要认证
CGI：原生支持perl CGI
虚拟主机：基于端口、IP、主机名
反向代理：负载均衡
用户站点：
路径别名：
支持第三方模块
安装方式：rpm包、源码编译

4、CentOS 6: httpd

配置文件：
/etc/httpd/conf/httpd.conf
/etc/httpd/conf.d/*.conf
服务脚本：
/etc/rc.d/init.d/httpd
脚本配置文件：/etc/sysconfig/httpd
模块目录：
/usr/lib64/httpd/modules
/etc/httpd/modules: 为/usr/lib64/httpd/modules链接文件
主程序：
/usr/sbin/httpd： prefork ：程序默认为prefork模式，如要修改在主配置文件中指定启动程序即可
/usr/sbin/httpd.event: event ：http2.2版本中event还为测试阶段
/usr/sbin/httpd.worker: worker
日志文件目录：
/var/log/httpd
access_log: 访问日志
error_log: 错误日志
站点文档根目录：
/var/www/html/images/a.jpg

httpd -l：查看httpd主程序加载的核心模块，不同主程序查看：httpd.worker -l、httpd.event -l
httpd -D DUMP_MODULES：查看以装载的模块

httpd.conf配置信息。grep "Section" httpd.conf
Section 1: Global Environment：全局配置信息，主要配置httpd自己工作特性，以及各虚拟主机共享的参数
Section 2: 'Main' server configuration：网站主服务器配置
Section 3: Virtual Hosts：虚拟主机配置
主服务器和虚拟主机一般不同时使用；默认仅启用了主服务器

Timeout 60：tcp/ip三次握手超时时长为60秒
★持久连接：
KeepAlive {On|Off}：开启或关闭持久连接
MaxKeepAliveRequests 100：最大请求资源个数
KeepAliveTimeout 15：持久连接15秒后自动断开

★MPM参数：
<IfModule prefork.c>：判断启动主程序，默认为prefork程序配置
StartServers 8 ：服务启动时启动多少个空闲子进程，提供响应
MinSpareServers 5：最少空闲进程
MaxSpareServers 20：最大空闲进程
ServerLimit 256：为maxclients客户端请求最大启动多少个子进程
MaxClients 256：服务器最多同时处理多少客户端请求，并发数
MaxRequestsPerChild 4000：每个子进程最多处理多少次请求，到达设定值后进程销毁重新启动新进程
</IfModule>

<IfModule worker.c>worker主程序配置
StartServers 4：启动多少个空闲子进程
MaxClients 300：服务器最多同时处理多少客户请求，并发数
MinSpareThreads 25：最小空闲线程数
MaxSpareThreads 75：最大空闲线程数
ThreadsPerChild 25：每个子进程可以启动多少线程
MaxRequestsPerChild 0：每个线程最大可以处理多少请求。0表示不做限定
</IfModule>
并发带宽算法，资源大小*并发数*8=带宽KB，这个为大致算法，没有包含个首部大小。

★指定监听的地址和端口
Listen [IP:]PORT：Listen可以出现多次，指定监听多个地址和端口

★DSO机制装载的模块
LoadModule Module_Name /path/to/Module_File：指定装载的模块

以下为主服务器配置段信息
ServerAdmin root@localhost：服务器管理员邮箱地址
ServerName www.example.com:80：服务器名称，用于指定服务器名称

★ DocumentRoot "/var/www/html"：指定站点根目录

★站点路径访问控制有以下2种
基于本地文件系统路径
<Directory "/path/to/somewhere">绝对路径
Options FollowSymLinks
AllowOverride None
</Directory>
<Directory "/var/www/html">：对Directory中访问控制机制
Options Indexes FollowSymLinks
Indexes ：当访问路径下无主页面，将所有资源以列表形式呈现给用户；危险，慎用
FollowSymLinks：跟踪符号链接（可以显示链接文件所指向的文件）；慎用
AllowOverride None：支持在每个页面目录下创建.htaccess用于实现对此目录中资源访问时的访问控制功能。

基于IP做访问控制 ：
Order allow,deny：先查看allow访问列表，在deny,没有在列表中的将全部deny
Allow from all ：允许所有访问，也可以指定ip例如：Allow from 192.168.18.0/24
Deny from 192.168.18.1：拒绝指定ip访问
from后面能接受的地址格式：ip或网段
</Directory>
基于URL访问路径做访问控制
<Location "/path/to/URL">根目录后的文件路径
</Location>

★DirectoryIndex：指定默认页面

★配置日志功能：
ErrorLog "/path/to/error_log：根据日志级别记录日志信息，包括记录当前级别和更高级日志
LogLevel {debug|info|notice|warn|error|crit|alert|emerg}：指定日志级别，
CustomLog "/path/to/access_log" LogFormat_Name：自定义日志文件
%h: 客户端地址
%l: 远程登录名，通常为-
%u: 认证时输入用户名，没有认证时为-
%t: 服务器收到 用户请求时的时间
%r：请求报名的起始行
%>s: 响应状态码
%b: 响应报文的长度，单位是字节
%{HEADER_NAME}i: 记录指定首部对应的值

★路径别名：
Alias /URL/ "/path/to/somewhere/"：实现URL路径映射，从而所访问的资源不再依赖于站点根目录；
Alias /icons/ "/var/www/icons/"：当输入icons路径时会替换为/var/www/icons/路径；