CHI之概述和拓扑

1 架构概述CHI架构是一种可扩展、一致性的集线器接口用于多个组件片上互连支持组件连接的灵活拓扑由性能、功耗和面积系统需求驱动。1.1 CHI系统组件独立处理器、处理器集群、图形处理器、图形处理器、内存控制器、IO桥、Pcie子系统、互连。1.2 关键特点可扩展架构能实现从小到大模块化设计环、交叉开关、网状支持几十核大规模集群分层架构协议层 / 网络层 / 链路层数据包传输基于HN互连处理事务snoop、cache、memory访问支持64字节的cacheline目录式监听过滤器具有从任何缓存状态转发数据的MESI/MOESI缓存模型额外的部分和空缓存行状态允许高性能、小面积、高性能系统缓存的增强型事务类型其他实现互连内部支持原子操作和同步支持独占访问的高效执行事务高效移动和放置数据能及时将数据移动到更近的位置1.3 架构层次1.3.1 协议层顶层处理一致性语义通信单元是Transaction只关心要做什么完全不关心数据包怎么在互连里传输生成和处理请求和响应。1.定义全部缓存一致性规则MESI/MOESI 缓存 7 种状态I/S/E/M/O/SC/UD与状态跳转支持任意状态数据转发、定向 Snoop 监听、DVM 分布式虚拟内存同步、原子操作、缓存维护指令Clean/Invalidate。2.五大通道事务语义定义Req / Snp / Rsp / Dat / WDat 每条通道承载的消息含义ReqRN 发读写 / 原子请求到 HNSnpHN 下发监听给 RN-FRsp状态 / 完成响应Dat/Rdat读 / 转发数据WDat写数据3.四大节点事务处理逻辑RN/HN/SN/MNRN-F 发起读写事务HN-F 目录查询、下发 Snoop、协调跨 RN 数据转发、PoC 一致性点SN 对接内存控制器完成底层存储访问MN 处理 DVM 广播、调试、性能监控。4.安全扩展 RMERealm Management Extension事务携带 RealmID、MEC 内存加密标识协议层做跨安全域访问权限校验隔离机密 Realm 数据。5.协议层流控、QoS、RAS 错误事务信用防溢出事务携带 QoS 优先级定义 Poison 错误、事务超时上报规则。6.无关底层传输不管数据包是走交叉网、环网还是网状 NoC协议逻辑完全不变实现拓扑无关设计。1.3.2 网络层中间层互连路由调度通信单元PacketCHI 标准1 Packet 1 Flit无需分片重组负责数据包怎么路由1.协议消息打包封装把协议层事务字段打包为标准 Packet新增路由头部SrcID 源节点 ID、TgtID 目标节点 ID、VC 虚拟通道标记、Realm 安全标签。2.地址→节点 ID 映射 SAMSystem Address MapRN 根据物理地址查表算出该地址归属哪个 HNHN 查表算出对应 SN 内存控制器 ID。3.路由器路由与转发CMN 互连 XP 交换单元接收 Packet查询路由表选择输出端口在互连内部跨路由器转发实现 RN↔RN 点对点直传数据转发不走 HN 中转降低延迟。4.虚拟通道 VC 管理死锁规避核心多套独立 VC 隔离不同类型事务Req/Snp/Dat 分离防止通道互相阻塞保障无死锁切换。5.互连内部权限拦截路由阶段校验 RME Realm ID拦截跨域非法数据转发、非法 Snoop 探询。6.拓扑无关网络层只负责寻址转发不限制互连是环、2D Mesh、交叉开关不同 interconnect implementation 均可适配。1.3.3 链路层底层相邻节点可靠传输通信单元Flit物理最小传输单位直连两个节点路由器 - 路由器 / RN - 路由器之间的物理可靠传输1.Credit 信用流控最核心功能接收方释放 Credit 信用给发送方发送方必须持有可用 Credit 才能发送 Flit解决上下游 FIFO 溢出不同 VC、不同通道独立信用池互不干扰。2.相邻节点点对点有序传输保证同一链路 Flit 按发送顺序到达不乱序提供 FIFO 缓冲区缓存突发 Flit。3.物理链路信号与低功耗管理时钟门控、Flit 级电源门控空闲链路关时钟降低功耗SACTIVE 信号通知上层链路活动状态。4.传输错误校验Flit 奇偶 / ECC 校验传输错误上报上层 RAS 逻辑。5.通道物理接口管理管理 REQ/SNP/DAT/WDAT/RSP 各组并行信号线时序同步跨时钟域数据。2 拓扑学CHI架构与拓扑解耦协议规范不绑定硬件互连结构同一份 CHI 事务逻辑可跑在 Crossbar、Ring、2D Mesh 任意拓扑上ARM 商用 CHI 互连 IPCCI/CCN/CMN分别对应三种主流拓扑。2.1 CrossBar小规模多端口全连接交叉矩阵每个端口直连 RN/HN/SN数据包点对点直达无需中转路由器。2.1.1 优缺点1.优势最低延迟任意节点直传无多跳路由天然无阻塞并行传输能力强实现简单控制逻辑轻量化。2.劣势布线爆炸式增长端口数 8 后面积、功耗不可控扩展性极差只能小规模集群。2.1.2 适用场景移动端小核集群、子系统局部一致性互连4~8 个 RN。2.2 Ring 环形拓扑中规模所有 XP 路由器首尾相连成闭合单环 / 双环数据包沿环单向 / 双向流转每个 XP 仅连接左右相邻节点。2.2.1 优缺点1.优势布线极简链路数量少时序易收敛、频率高功耗、面积优于 Mesh。2.劣势延迟随节点数量线性上涨环越大单跳排队阻塞越严重单点链路故障整环瘫痪带宽瓶颈集中在热门路径。2.2.2 适用场景中端手机、中小嵌入式 SoC8~16 核规模。2.3 2D Mesh 二维网格拓扑服务器 / AI 大芯片CMN 标准由大量 XP 交叉路由单元排列成矩形网格X/Y 坐标定位 XP每个 XP 拥有东、西、南、北4 组网格端口外接 RN/HN/SN 节点端口。CMN-600最大 8×8 网格64 个 XPCMN-700/CMN S3AE最大 12×12 网格144 个 XP支持 Chiplet 多芯片扩展2.3.1 路由机制标准 XY 路由先沿 X 轴走到目标横坐标再沿 Y 轴纵向抵达目标 XP分布式路由每个 XP 独立转发数据包。2.3.2 优缺点1.优势极强可扩展性增加行列即可接入更多 CPU/NPU/ 内存控制器延迟仅随节点数对数增长远优于 Ring多并行传输路径聚合带宽随网格规模线性提升局部链路故障仅影响周边容错更强完美适配 CHI 核心机制点对点转发、定向 Snoop、跨 RN 直传。2.劣势布线资源高于 Ring路由器数量多面积开销更大。2.3.3 适用场景服务器、AI 大算力 SoC、自动驾驶、多 Die Chiplet 架构24~256 核是当前高端 CHI 系统主流拓扑。3 总结3.1 拓扑与 CHI 三层架构关联协议层完全拓扑无关MESI、Snoop、数据转发、RME 安全逻辑不随互连结构改变网络层负责适配拓扑包含路由表、VC 虚拟通道、NodeID 寻址Mesh 需要 XY 路由逻辑Ring 只做环转发链路层仅处理相邻 XP 之间 Credit 流控、Flit 传输拓扑只影响链路数量底层传输逻辑统一。