1. 引言与研究背景

联邦学习（Federated Learning, FL）作为一种新兴的分布式机器学习范式，能够在保护各参与方原始数据隐私的前提下，协同训练共享模型，其重要性日益凸显。在各类联邦学习通信模式中，半异步联邦学习（Semi-Asynchronous FL, SAFL）通过在完全同步与完全异步方法之间取得精妙平衡，为真实世界的异构网络环境和设备能力提供了灵活且高效的解决方案，展现出显著的部署优势。

然而，SAFL在实践中面临一个核心挑战，即两种主流聚合策略——基于梯度的聚合（如FedSGD）与基于模型的聚合（如FedAvg）——之间存在显著的性能差异。源研究明确指出，梯度聚合“实现了更高的准确性和更快的收敛速度，但存在剧烈波动”，而模型聚合虽然“提供了稳定性，但代价是收敛速度较慢且准确性降低”。

为解决这一难题，FedQS框架应运而生，它被设计为首个旨在统一并优化这两种聚合策略的先进解决方案。其核心思想是采用一种“分而治之”的策略，依据客户端的更新速度和与全局更新方向的相似性，将其动态划分为四种类型（快速但有偏、快速且无偏、落后但无偏、落后且有偏），并利用三个核心模块（Mod① 全局聚合估计、Mod② 本地训练自适应、Mod③ 全局模型聚合）进行自适应优化。

尽管FedQS框架已在理论和实验中取得了显著成功，但其在应用过程中仍暴露出一些值得深入研究和改进的关键问题，本研究提案旨在系统性地解决这些问题。

2. 问题陈述与研究缺口

对如FedQS这样的前沿框架进行深入剖析并识别其固有限制，是推动该领域技术持续发展的关键步骤。本研究旨在解决FedQS中两个特定的关键挑战，它们分别关联到框架的易用性和稳定性。

2.1 超参数调优的复杂性

FedQS框架的自适应机制引入了四个对性能至关重要的超参数：

• 初始学习率 η0
• 学习率变化率 a
• 初始动量 m0
• 动量变化速度 k

根据源文第5.4节“Hyperparameter analysis”的分析，当前对这些超参数的优化严重依赖于网格搜索（grid search）方法。这种手动调优过程不仅耗时耗力，而且“增加了实施和复现的难度”，极大地限制了框架在实际应用中的灵活性和可扩展性。更重要的是，源文在第6节“Conclusions”中明确指出了一个潜在的未来工作方向，即实现“这些超参数的自动调整（automatic adjustment of these hyperparameters）”。这清晰地定义了本研究的第一个研究缺口：FedQS框架当前缺乏一个高效、自主的超参数自适应调整机制。

2.2 模型聚合模式下的收敛振荡问题

FedQS框架虽然有效缓解了梯度聚合策略固有的不稳定性，但根据源文第6节的结论，它在模型聚合模式下“引入了一些振荡（it introduces a few oscillations in model aggregation mode）”。这一现象虽然不影响其最终达到的高精度，但过程中的波动可能对训练的稳定性和结果的可信度构成潜在威胁。

为了量化此问题，我们从源文的Table 4和Table 5中提取了关键数据，如下表所示，清晰地对比了FedQS-Avg与基线FedAvg在振荡次数上的表现：

从表中可以观察到，在多种系统设置下，FedAvg的振荡次数始终为零，表现出极高的稳定性。相比之下，FedQS-Avg尤其是在启用其核心反馈机制后，会产生明显的振荡。这种不稳定性表明，FedQS的反馈加权机制虽然提升了准确率，但在某些情况下会过度放大特定客户端的更新，缺乏一个抑制短期性能回撤的负反馈回路——这正是本研究拟在Mod③中解决的核心问题。这些不必要的精度波动构成了第二个亟待解决的研究缺口：如何提升FedQS在模型聚合模式下的收敛稳定性，消除或显著减少精度振荡。

本研究提案的核心目的，正是系统性地解决上述两个问题，从而提升FedQS框架的整体性能与实用价值。

3. 研究目标与内容

本研究的总体目标是开发一个FedQS的增强版本（暂称为FedQS+），使其在保持原有高性能的同时，具备更高的自主性、稳定性和易用性，从而降低其在真实世界复杂环境中的部署门槛。

为实现这一总体目标，我们设定了以下两个具体的研究目标：

1. 目标一：开发超参数自适应调整机制。 本研究将探索并设计一种全新的动态调整机制。该机制将赋能FedQS框架，使其可根据训练过程中的实时信息，如客户端状态的分布与变迁、全局模型的收敛趋势等，自动调整关键超参数（a, m0, k）。最终目标是摆脱对繁琐且低效的手动网格搜索的依赖，实现框架的“即插即用”。
2. 目标二：提升模型聚合的收敛稳定性。 针对FedQS-Avg模式下存在的精度振荡问题，本研究将设计一种主动式平滑聚合策略，旨在显著减少或消除不必要的精度波动，从而增强模型训练过程的稳定性和最终结果的可靠性。

接下来，我们将详细介绍为实现这些目标所拟定的研究方法和技术路线。

4. 拟采用的研究方法

本研究将基于FedQS现有的模块化设计（Mod①, Mod②, Mod③），通过对其进行功能扩展和算法优化来实现研究目标。这种方法确保了新机制能够与原有框架无缝集成，并保持其核心优势。

4.1 动态超参数优化模块设计

我们将对**Mod②（本地训练自适应模块）**进行功能扩展，以实现超参数的动态优化。核心思路是利用Mod②中已有的客户端四象限分类信息（FBC, FUC, SUC, SBC）作为动态调整超参数的决策依据。

本研究提出一个核心论点：客户端在四象限间的动态迁移模式是揭示当前全局超参数有效性的关键指标。例如：

• 如果大量客户端频繁地在“有偏（Biased）”和“无偏（Unbiased）”象限之间切换，这可能表明当前的动量参数m0或动量变化速度k设置不当，导致客户端更新方向不稳定。
• 如果大量客户端持续滞留在“落后（Straggling）”象限，可能意味着学习率变化率a的调整幅度不足。

服务器可以基于对全局统计信息（如平均速度f̄t和平均相似度s̄t）的长期变化趋势进行分析，周期性地、智能地调整a, m0, k等超参数，从而形成一个闭环的自适应优化系统。

4.2 振荡抑制聚合策略研发

我们将对**Mod③（全局模型聚合模块）**进行增强，重点改进FedQS-Avg模式下的加权聚合算法，以抑制收敛过程中的振荡。

具体的改进思路如下：在当前为FBC和SBC客户端设计的反馈加权机制（pi = exp(ϕ−F) / (2ϕ−F) · (1+G)^2 / K）基础上，在聚合算法中植入一个动态的“振荡抑制因子”（Oscillation Dampening Factor）。

• 该因子将基于全局模型在验证集上最近N轮准确率的滚动方差进行计算。例如，如果连续几轮聚合导致全局模型准确率下降或产生振荡，该因子将被激活。
• 激活后，该因子将对那些可能导致精度下降的客户端更新（例如，与当前全局模型方向偏差过大的更新）施加一个惩罚性权重，从而在聚合层面平滑收敛曲线，有效抑制振荡。

4.3 实验验证方案

为确保研究结果的公平性和可比性，我们将采用与源文完全一致的实验环境和设置进行对比验证。

• 数据集与模型： 沿用源文中的三大任务：计算机视觉（CIFAR-10 / ResNet-18）、自然语言处理（Shakespeare / LSTM）和真实世界数据（UCI Adult / FCN）。
• 对比基线： 将增强后的**FedQS+**与原始的FedQS-Avg、FedQS-SGD以及论文中的关键基线算法（如FedAvg, M-step, WKAFL）进行全面、细致的性能比较。
• 评估指标： 采用与源文相同的核心评估指标：准确率 (Accuracy)、收敛速度 (Convergence speed)振荡次数 (# Oscillations)。
• 成功标准： 针对目标一，成功的标准是在无需人工调参的情况下，FedQS+的性能（准确率和收敛速度）能够达到或超过手动精调的原始FedQS框架。针对目标二，成功的标准是在准确率和收敛速度不出现显著下降的前提下，FedQS-Avg的振荡次数指标得到统计学意义上的显著降低（理想情况下趋近于零）。

通过这一系列严谨的实验设计，我们将充分验证所提方法的有效性和优越性。

5. 预期成果与科学价值

本研究不仅是对FedQS框架的一次简单功能改进，更是对提升SAFL系统智能化、鲁棒性和实用性的一次重要探索。我们预期本研究将产生以下成果和科学价值：

• 理论贡献： 针对SAFL系统，提出一套全新的、基于客户端状态迁移的自适应超参数调优理论，并从理论上分析其对FedQS收敛性的影响，从而完善和扩展FedQS的理论体系。
• 技术贡献： 交付一个名为**FedQS+**的增强型开源框架。该框架将通过实现超参数的自动化和聚合过程的稳定化，显著降低FedQS的应用门槛，使其更易于在真实世界的复杂环境中部署和使用。
• 性能提升： 通过有效抑制模型聚合过程中的振荡，新框架有望在不牺牲收敛速度的前提下，获得更稳定、更可靠的模型。这将直接提升SAFL系统在实际应用中的整体性能和用户信任度。
• 学术发表： 研究成果预计将形成1-2篇高水平学术论文，并计划投稿至NeurIPS、ICML等人工智能或分布式系统领域的顶级学术会议，以分享我们的发现并推动该领域的学术进展。

总而言之，本研究将为构建更智能、更稳健的联邦学习系统提供关键技术和理论支撑。

6. 总结

FedQS作为首个旨在统一并优化半异步联邦学习中梯度聚合与模型聚合两种主流策略的框架，其开创性地位和已被证明的优越性是毋庸置疑的。然而，正如所有前沿技术一样，对其进行审慎的评估和持续的改进是推动科学进步的必由之路。

本研究提案精准地聚焦于当前FedQS框架中存在的两个核心待解问题：对手动超参数调优的严重依赖和模型聚合模式下的收敛稳定性不足。通过设计动态超参数优化模块和振荡抑制聚合策略，我们期望将FedQS框架从一个需要专家经验进行精细配置的高性能工具，升级为一个具备更高自主性和鲁棒性的智能化系统。

我们坚信，本研究将通过实现框架的自适应与自稳定，为构建下一代高效、稳健且易于部署的半异步联邦学习系统奠定坚实的基础。