分布式聚合算法主要包括梯度聚合算法、跨节点数据聚合算法和通用分布式计算聚合方法三大类，具体如下：梯度聚合算法（分布式机器学习领域）同步聚合：所有节点完成本地梯度计算后同步更新全局参数，公式为$theta_{t+1} = theta_t - eta cdot frac{1}{N} sum_{i=1}^N nabla mathcal{L}(theta_t; mathcal{D}_i)$。其拓扑实现包括两种典型方式：Ring AllReduce：通过环形拓扑优化通信量，理论值为$O(2(N-1)cdot frac{G}{N})$，适合节点数较多的场景；Tree AllReduce：采用树形拓扑降低延迟，理论值为$O(log N)$，适用于对实时性要求高的任务。异步聚合：节点独立计算梯度后立即更新参数服务器，公式为$theta_{t+1} = theta_t - eta cdot nabla mathcal{L}(theta_{t-k_i}; mathcal{D}_i)$。需满足学习率衰减条件$sum eta_t = infty, sum eta_t^2 < infty$，以避免参数更新发散。半同步聚合（SSP）：允许有限梯度滞后（如$s=5$步），通过约束条件$|text{iter}{text{worker}} - text{iter}{text{server}}| leq s$平衡同步与异步的优缺点，兼顾效率与一致性。稀疏聚合：仅聚合Top-K重要梯度（按绝对值排序），公式为$hat{g} = text{TopK}(g, k)$，其中$k ll dim(g)$。该算法显著减少通信开销，适用于高维参数场景。跨节点数据聚合算法（分布式存储系统）基于查询算法的聚合：通过数据库查询优化实现跨库分页或统计，例如在分布式数据库中合并多个分片的查询结果。外置索引聚合：利用Elasticsearch等外置索引系统处理复杂聚合查询，通过索引加速数据检索与聚合操作，适用于非结构化数据场景。通用分布式计算聚合方法部分积累加：将输入数据对应位运算结果预先相加形成部分积，再汇总结果完成运算。与传统算法的最终累加不同，该方法通过并行化部分计算提升效率，适用于大规模数值计算场景。注：Paxos（一致性算法）、一致性Hash（数据映射算法）等属于分布式系统基础架构范畴，主要解决数据一致性与负载均衡问题，不直接归类为聚合算法。