IPSec由一系列的协议组成，除IP层的协议完全结构外，还包括了AH、ESP、ISAKMP、ISAKMP的因特网IP安全解释域、IKE、OAKLEY密钥协议确定等。ESP和AH定义协议、载荷头的格式以及它们提供的服务、包的处理规则。IKE要完成两个任务：安全关联（SA）的集中化管理；密钥的生成和管理。
IPSec有两种使用方式：传输模式与隧道模式。传输模式用于保护主机间端到端的安全通信，隧道模式用于在安全网关间建立一条安全的虚拟通信隧道。工作原理如下图所示：
基于IPv4的网络安全机制只建立在应用程序级，其设计之初没有考虑安全性，IPv4包本身并不具备任何安全特性，导致在网络上传输的数据很容易受到各式各样的攻击。为了加固因特网的安全性，保障IP层的安全，在IPv6上集成IPSec显得十分必要。TCP/IPv6协议簇中的协议可以从IPSec中受益，例如，用于IPv6的OSPFv6路由协议就去掉了用于IPv4的OSPF中的认证机制。作为IPSec的一项重要应用，IPv6集成了虚拟专用网（VPN）的功能，使用IPv6可以更容易地、实现更为安全可靠的虚拟专用网。