(0)网络编程基础(网络基本知识)

互联网常见架构

分成两类:
C/S:
C: client (客户端)
S: server (服务端)
用处:QQ wechat,手机端的APP等  

B/S:
B: browser (浏览器)
S: server (服务器)
用处:把浏览器当做客户端的场景,专业术语叫做客户端浏览器,如网页QQ,网页微信等

PS:BS架构是CS架构的一个特例

互联网协议的标准

连接两台计算机之间的internet实际上就是一系列统一的标准,这些标准称之为互联网协议,互联网的本质就是一系列的协议,总称为‘互联网协议’(Internet Protocol Suite)

互联网协议的功能

定义计算机如何接入internet,以及接入internet的计算机通信的标准

osi七层协议(重要必须要知道而且记住)

什么是互联网通信:类似邮寄快递

本质:从源到目的地发送信息,本质上就是对我们的消息,进行封包和解包的一个过程

封包:消息出去的时候,也是进行打标签

解包:获得消息的时候, 就是拆开标签

什么是互联网通信协议(面试可能会问的)

1977年, 规定 OSI七层模型

按照五层分类(功能和工作的协议以及端口)
                                                        功能                                                                                     工作的协议和端口
应用层                                  提供给用户发送消息                                       Http(80)   https(443)    smtp(25)    DNS(53)    telnet(23)   ftp(21)

传输层                           提供链接的机制 (选的啥快递)                                                         TCP(可靠传输)/UDP(不可靠)

网络层                                      提供IP报头                                                                               IP协议 ICMP协议(ping)

数据链路层        提供一个固定的地址 (MAC地址) (交换机 路由器)                          arp协议(将目的IP地址转换成MAC地址) rarp协议

物理层                        传输消息(光缆 光纤 网线)

网络协议解析

什么是OSI七层模型

OSI网络七层模型(七层分别是什么层,以及用途,协议,端口面试会问到

互联网协议按照功能不同分为osi七层或tcp/ip五层或tcp/ip四层

每层运行常见物理设备

 

tcp/ip五层模型讲解

我们将应用层,表示层,会话层并作应用层,从tcp/ip五层协议的角度来阐述每层的由来与功能,搞清楚了每层的主要协议就理解了整个互联网通信的原理。

首先,用户感知到的只是最上面一层应用层,自上而下每层都依赖于下一层,所以我们从最下一层开始切入,比较好理解,每层都运行特定的协议,越往上越靠近用户,越往下越靠近硬件

什么是物理层

物理层由来:上面提到,孤立的计算机之间要想一起玩,就必须接入internet,言外之意就是计算机之间必须完成组网

物理层功能:主要是基于电器特性发送高低电压(电信号),高电压对应数字1,低电压对应数字0

什么是数据链路层

数据链路层由来:单纯的电信号0和1没有任何意义,必须规定电信号多少位一组,每组什么意思

数据链路层的功能:定义了电信号的分组方式

什么是以太网协议

早期的时候各个公司都有自己的分组方式,后来形成了统一的标准,即以太网协议ethernet

ethernet规定

  • 一组电信号构成一个数据包,叫做‘帧’
  • 每一数据帧分成:报头head和数据data两部分

head包含:(固定18个字节)

  • 发送者/源地址,6个字节
  • 接收者/目标地址,6个字节
  • 数据类型,6个字节

data包含:(最短46字节,最长1500字节)

  • 数据包的具体内容

head长度+data长度=最短64字节,最长1518字节,超过最大限制就分片发送

什么是mac地址

head中包含的源和目标地址由来:ethernet规定接入internet的设备都必须具备网卡,发送端和接收端的地址便是指网卡的地址,即mac地址

mac地址:每块网卡出厂时都被烧制上一个世界唯一的mac地址,长度为48位2进制,通常由12位16进制数表示(前六位是厂商编号,后六位是流水线号)

什么是广播

有了mac地址,同一网络内的两台主机就可以通信了(一台主机通过arp协议获取另外一台主机的mac地址)

ethernet采用最原始的方式,广播的方式进行通信,即计算机通信基本靠吼

什么是网络层

网络层由来

有了ethernet、mac地址、广播的发送方式,世界上的计算机就可以彼此通信了,问题是世界范围的互联网是由一个个彼此隔离的小的局域网组成的,那么如果所有的通信都采用以太网的广播方式,那么一台机器发送的包全世界都会收到,这就不仅仅是效率低的问题了,这会是一种灾难,因为要有一台足够大的交换机,可以让全世界的电脑都插在这台交换机上,这是一个不可能实现的事情

必须找出一种方法来区分哪些计算机属于同一广播域,哪些不是,如果是就采用广播的方式发送,如果不是,就采用路由的方式(向不同广播域/子网分发数据包),mac地址是无法区分的,它只跟厂商有关

网络层功能

引入一套新的地址用来区分不同的广播域/子网,这套地址即网络地址

 IP协议:

  • 规定网络地址的协议叫ip协议,它定义的地址称之为ip地址,广泛采用的v4版本即ipv4,它规定网络地址由32位2进制表示
  • 范围0.0.0.0-255.255.255.255
  • 一个ip地址通常写成四段十进制数,例:172.16.10.1

ip地址分成两部分

  • 网络部分:标识子网
  • 主机部分:标识主机

如今的网络使用32位地址,以点分十进制表示,如192.168.0.1,地址格式为:ip地址=网络地址+主机地址或 ip地址=网络地址+子网地址+主机地址

注意:单纯的ip地址段只是标识了ip地址的种类,从网络部分或主机部分都无法辨识一个ip所处的子网

例:计算C类ip地址 192.168.10.1 / B类ip地址 172.16.10.1 /C类ip地址 10.10.10.1的主机位和网络位

C类ip地址:11000000  10101000 10100000 00000001  红色的是主机位,绿色的是网络位,即主机位是192.168.10,网络位是1

B类ip地址:10101100 00001000  00001010 00000001 红色的是主机位,绿色的是网络位,即主机位是172.16,网络位是10.1

A类ip地址:00001010  00001010 00001010 00000001 红色的是主机位,绿色的是网络位,即主机位是10,网络位是10.10.10

什么是子网掩码

所谓”子网掩码”,就是表示子网络特征的一个参数。它在形式上等同于IP地址,也是一个32位二进制数字,它的网络部分全部为1,主机部分全部为0

例:172.16.10.1与172.16.10.2并不能确定二者处于同一子网

比如,IP地址172.16.10.1,如果已知网络部分是前24位,主机部分是后8位,那么子网络掩码就是11111111.11111111.11111111.00000000,写成十进制就是255.255.255.0

知道”子网掩码”,我们就能判断,任意两个IP地址是否处在同一个子网络。方法是将两个IP地址与子网掩码分别进行AND运算(两个数位都为1,运算结果为1,否则为0),然后比较结果是否相同,如果是的话,就表明它们在同一个子网络中,否则就不是

比如,已知IP地址172.16.10.1和172.16.10.2的子网掩码都是255.255.255.0,请问它们是否在同一个子网络?两者与子网掩码分别进行AND运算,

10101100.00010000.00001010.00000001

11111111.11111111.11111111.00000000

-----------------------------------------------------------------------------

AND运算得网络地址结果:10101100.00010000.00001010.00000000->172.16.10.0(AND运算方法是1和1为1,0和1为0,1和0为0)

172.16.10.2:10101100.00010000.00001010.00000010

255255.255.255.0:11111111.11111111.11111111.00000000

AND运算得网络地址结果:10101100.00010000.00001010.00000000->172.16.10.0

结果都是172.16.10.0,因此它们在同一个子网络。

总结一下,IP协议的作用主要有两个,一个是为每一台计算机分配IP地址,另一个是确定哪些地址在同一个子网络。

ip数据包

ip数据包也分为head和data部分,无须为ip包定义单独的栏位,直接放入以太网包的data部分

head:长度为20到60字节

data:最长为65,515字节。

而以太网数据包的”数据”部分,最长只有1500字节。因此,如果IP数据包超过了1500字节,它就需要分割成几个以太网数据包,分开发送了

 

ARP协议

arp协议由来:计算机通信基本靠吼,即广播的方式,所有上层的包到最后都要封装上以太网头,然后通过以太网协议发送,在谈及以太网协议时候,我门了解到

通信是基于mac的广播方式实现,计算机在发包时,获取自身的mac是容易的,如何获取目标主机的mac,就需要通过arp协议

arp协议功能:广播的方式发送数据包,获取目标主机的mac地址

协议工作方式:每台主机ip都是已知的

例如:主机172.16.10.10/24访问172.16.10.11/24

 一:首先通过ip地址和子网掩码区分出自己所处的子网

二:分析172.16.10.10/24与172.16.10.11/24处于同一网络(如果不是同一网络,那么下表中目标ip为172.16.10.1,通过arp获取的是网关的mac)

三:这个包会以广播的方式在发送端所处的自网内传输,所有主机接收后拆开包,发现目标ip为自己的,就响应,返回自己的mac

传输层

传输层的由来:网络层的ip帮我们区分子网,以太网层的mac帮我们找到主机,然后大家使用的都是应用程序,你的电脑上可能同时开启qq,暴风影音,等多个应用程序,那么我们通过ip和mac找到了一台特定的主机,如何标识这台主机上的应用程序,答案就是端口,端口即应用程序与网卡关联的编号。

传输层功能:建立端口到端口的通信

补充:端口范围0-65535,0-1023为系统占用端口

tcp协议:

可靠传输,TCP数据包没有长度限制,理论上可以无限长,但是为了保证网络的效率,通常TCP数据包的长度不会超过IP数据包的长度,以确保单个TCP数据包不必再分割

tcp三次握手和四次挥手(这个图面试时候也会考,需要能够画出来)

TCP协议原理解析(一般用在浏览器上网HTTP,SMTP)

位码即tcp标志位 有7种标示: (1)SYN(synchronous建立联机)   (2)ACK(acknowledgement 确认)  (3) PSH(push传送)   (4)FIN(finish结束)   (5)RST(reset重置)   (6)URG(urgent紧急)   (7)Sequence number(顺序号码) 

什么是三次握手

1、客户端(client)向服务端(server)发送一个请求SYN=1(一个序列号),seq=x(随机产生的number),服务端由SYN=1知道客户端要求建立联机

2、服务端(server)收到这个请求就知道客户端(client)需要和我进行链接,而且是TCP协议,这时候服务端(server)就要做一个应答,服务端返回一个ACK=x+1(x就是客户端发送过来的seq的值)和SYN=1和seq=y(ack就是确认的意思,英文简写)就代表服务端

收到了客户端的请求

3、客户端收到服务端发送来的信息后,然后检查服务端发送来的信息内的ACK=x+1的x这个值是不是第一次发送的seq的值x,若正确,客户端会发送一个ACK=Y+1给服务端(Y就是服务端发送给客户端的seq),就表示收到了已经收到,进过这三次握手链接,这时候链

接已经建立成功,这时候可以发送和接收数据

什么是四次挥手

1、客户端需要断开的时候,首先会向服务端发送一个FIN=1(FIN码)和一个seq=x(序列号)表示需要断开链接

2、服务端收到客户端发送过来的FIN码和seq序列号会返回一个ACK=X+1给客户端(这个X就是第一次客户端发送的seq的值)就代表服务端告诉客户端已经知道需要断开

3、如果服务端数据还没发送完,这时候会等待数据传输完后,会主动向客户端发送一个FIN=1(只要断就是发FIN码)和seq=Y就是告诉客户端我的数据已经发送完,你可以主动的和我断开链接

4、客户端收到服务端发送来的FIN码和seq序列号,此时会向服务端发送一个ack=Y+1(Y就是服务端发送过来的seq的值),就代表已经收到了客户端第二次发送的消息,此时可以断开

PS:TCP协议为什么成为稳定传输,因为Tcp协议发送数据至服务端后,服务端会返回一个ACK信息告知客户端数据已收到,然后客户端才会将缓存内的数据清空,否则客户端会每间隔一段时间向服务端发送数据包,直到设定的次数后终止

PS:TCP缺点就是开销大,因为要建立连接,发送数据后服务端还要返回一个ACK信息才算成功

udp协议(一般用在聊天软件QQ,微信等)

不可靠传输,”报头”部分一共只有8个字节,总长度不超过65,535字节,正好放进一个IP数据包

通常UDP协议用在比如QQ通信,NTP服务,DNS查询,一般查询类的功能就用UDP协议

 

PS:UDP协议因为不管服务端有没有收到客户端发送的信息,都只发送一次,有效传输的数据量512个字节,如果超过极其容易数据丢失

PS:UDP协议好处就是不用建立连接,而且只发送一次,开销比较小,传输效率UDP更高

 

半连接池

TCP协议称为好人协议,因为无论谁向服务端发送数据都会返回一个ACK信息,客户端不是一个一个单独连服务端,因为客户端是无数个,所以大量客户端同时访问一个服务端,同时发送syn数据请求,那么服务端就会同时接收大量的数据,一旦数据量超过内存容量,那么服务端就会出现不稳定或者死机的现象,这时候就有一个半连接池的概念解决方案,其实就是一个队列,可以设置半连接池内存放syn的数量,比如半连接池设置为5,那么同时会有5个syn请求进入池中,服务端就会从池中依次拿取请求返回ack信息,这样无论多少syn请求,池中只会有5个请求,可以防止服务端奔溃或者被数据请求攻击

 

应用层

应用层由来:

用户使用的都是应用程序,均工作于应用层,互联网是开发的,大家都可以开发自己的应用程序,数据多种多样,必须规定好数据的组织形式 

应用层功能:

规定应用程序的数据格式。

例:TCP协议可以为各种各样的程序传递数据,比如Email、WWW、FTP等等。那么,必须有不同协议规定电子邮件、网页、FTP数据的格式,这些应用程序协议就构成了”应用层”

网络通信实现

想实现网络通信,每台主机需具备四要素

  • 本机的IP地址
  • 子网掩码
  • 网关的IP地址
  • DNS的IP地址

获取这四要素分两种方式

1.静态获取

即手动配置

2.动态获取

通过dhcp获取

(1)最前面的”以太网标头”,设置发出方(本机)的MAC地址和接收方(DHCP服务器)的MAC地址。前者就是本机网卡的MAC地址,后者这时不知道,就填入一个广播地址:FF-FF-FF-FF-FF-FF

(2)后面的”IP标头”,设置发出方的IP地址和接收方的IP地址。这时,对于这两者,本机都不知道。于是,发出方的IP地址就设为0.0.0.0,接收方的IP地址设为255.255.255.255

(3)最后的”UDP标头”,设置发出方的端口和接收方的端口。这一部分是DHCP协议规定好的,发出方是68端口,接收方是67端口

这个数据包构造完成后,就可以发出了。以太网是广播发送,同一个子网络的每台计算机都收到了这个包。因为接收方的MAC地址是FF-FF-FF-FF-FF-FF,看不出是发给谁的,所以每台收到这个包的计算机,还必须分析这个包的IP地址,才能确定是不是发给自己的。当看到发出方IP地址是0.0.0.0,接收方是255.255.255.255,于是DHCP服务器知道”这个包是发给我的”,而其他计算机就可以丢弃这个包

接下来,DHCP服务器读出这个包的数据内容,分配好IP地址,发送回去一个”DHCP响应”数据包。这个响应包的结构也是类似的,以太网标头的MAC地址是双方的网卡地址,IP标头的IP地址是DHCP服务器的IP地址(发出方)和255.255.255.255(接收方),UDP标头的端口是67(发出方)和68(接收方),分配给请求端的IP地址和本网络的具体参数则包含在Data部分。

新加入的计算机收到这个响应包,于是就知道了自己的IP地址、子网掩码、网关地址、DNS服务器等等参数

网络通信流程

1、本机获取

  • 本机的IP地址:192.168.1.100
  • 子网掩码:255.255.255.0
  • 网关的IP地址:192.168.1.1
  • DNS的IP地址:8.8.8.8

2、打开浏览器,想要访问Google,在地址栏输入了网址:www.google.com。

3、dns协议(基于udp协议)

 

PS:由图可知,网络客户端(你的电脑)向本地的DNS服务器发出请求,获取163的ip地址,如果本地DNS缓存内没有,则本地DNS服务器向DNS根服务器发出请求获取163的地址,如果DNS根服务器的缓存里没有,则返回给本地DNS服务器去向顶级域名服务器获取,这时候本地DNS服务器向顶级域名服务器发出请求获取163的地址,这时候顶级域名服务器会将163的主区域的地址给到本地DNS服务器,然后本地DNS服务器再向163的主区域服务器发送请求获取163的地址,获取到后返回给网络客户端(你的电脑)然后开始访问163

扩展知识

13台根dns分别位于:

A.root-servers.net198.41.0.4美国
B.root-servers.net192.228.79.201美国(另支持IPv6)
C.root-servers.net192.33.4.12法国
D.root-servers.net128.8.10.90美国
E.root-servers.net192.203.230.10美国
F.root-servers.net192.5.5.241美国(另支持IPv6)
G.root-servers.net192.112.36.4美国
H.root-servers.net128.63.2.53美国(另支持IPv6)
I.root-servers.net192.36.148.17瑞典
J.root-servers.net192.58.128.30美国
K.root-servers.net193.0.14.129英国(另支持IPv6)
L.root-servers.net198.32.64.12美国
M.root-servers.net202.12.27.33日本(另支持IPv6)

 

域名定义:http://jingyan.baidu.com/article/1974b289a649daf4b1f774cb.html

顶级域名:以.com,.net,.org,.cn等等属于国际顶级域名,根据目前的国际互联网域名体系,国际顶级域名分为两类:类别顶级域名(gTLD)和地理顶级域名(ccTLD)两种。类别顶级域名是以"COM"、"NET"、"ORG"、"BIZ"、"INFO"等结尾的域名,均由国外公司负责管理。地

理顶级域名是以国家或地区代码为结尾的域名,如"CN"代表中国,"UK"代表英国。地理顶级域名一般由各个国家或地区负责管理

二级域名:二级域名是以顶级域名为基础的地理域名,比喻中国的二级域有,.com.cn, .net.cn, .org.cn, .gd.cn等.子域名是其父域名的子域名,比喻父域名是abc.com,子域名就是www.abc.com或者*.abc.com

一般来说,二级域名是域名的一条记录,比如alidiedie.com是一个域名,www.alidiedie.com是其中比较常用的记录,一般默认是用这个,但是类似*.alidiedie.com的域名全部称作是alidiedie.com的二级

4、HTTP部分的内容,类似于下面这样:

GET / HTTP/1.1
Host: www.google.com
Connection: keep-alive
User-Agent: Mozilla/5.0 (Windows NT 6.1) ……
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8
Accept-Encoding: gzip,deflate,sdch
Accept-Language: zh-CN,zh;q=0.8
Accept-Charset: GBK,utf-8;q=0.7,*;q=0.3
Cookie: … …

我们假定这个部分的长度为4960字节,它会被嵌在TCP数据包之中。

5、TCP协议

TCP数据包需要设置端口,接收方(Google)的HTTP端口默认是80,发送方(本机)的端口是一个随机生成的1024-65535之间的整数,假定为51775

TCP数据包的标头长度为20字节,加上嵌入HTTP的数据包,总长度变为4980字节。

6、IP协议

然后,TCP数据包再嵌入IP数据包。IP数据包需要设置双方的IP地址,这是已知的,发送方是192.168.1.100(本机),接收方是172.194.72.105(Google)

IP数据包的标头长度为20字节,加上嵌入的TCP数据包,总长度变为5000字节。

7、以太网协议

最后,IP数据包嵌入以太网数据包。以太网数据包需要设置双方的MAC地址,发送方为本机的网卡MAC地址,接收方为网关192.168.1.1的MAC地址(通过ARP协议得到)。

以太网数据包的数据部分,最大长度为1500字节,而现在的IP数据包长度为5000字节。因此,IP数据包必须分割成四个包。因为每个包都有自己的IP标头(20字节),所以四个包的IP数据包的长度分别为1500、1500、1500、560

8、服务器端响应

经过多个网关的转发,Google的服务器172.194.72.105,收到了这四个以太网数据包,根据IP标头的序号,Google将四个包拼起来,取出完整的TCP数据包,然后读出里面的”HTTP请求”,接着做出”HTTP响应”,再用TCP协议发回来

本机收到HTTP响应以后,就可以将网页显示出来,完成一次网络通信

原文地址:https://www.cnblogs.com/shizhengquan/p/10133325.html