在一个大型TCP/IP互联网中有一个附加的结构来适应管理的极限，该结构是由一个机构管理的网络和路由器的集合，这就是自治系统（autonomous system）。在一个自治系统内部可以自由地选择其路由结构和协议。路由协议在自治系统内部的改变不会影响其他的自治系统。
我们首先可以在核心结构的基础上扩展出采用集中式的核心结构的自治系统结构，如下图所示，其中主干网络构成核心自治系统，其它的自治系统通过核心自治系统中的路由器连接到核心自治系统，并将自治系统内部的路由信息传播给该路由器。
自治系统也可以采用对等（peer）结构，如下图所示，在这种结构中每个自治系统的地位是平等的。
为了便于自治系统的管理，让自动路由算法区分不同的自治系统，每个自治系统都被赋予一个自治系统编号（autonomous system number），该编号由负责分配Internet地址的中央管理机构分配。
自治系统号（AS号），是与一个自治系统相关联的特殊数字，它是由两位数字所组成。AS号是用作某一个自治系统与其他自治系统交换动态路由信息的标识符。外部路由协议，如边界网关协议BGP需要AS号在网络之间交换信息。