基于小语言模型的低地球轨道卫星互联网BBR控制

📅 2026/7/13 8:28:33
基于小语言模型的低地球轨道卫星互联网BBR控制
大家读完觉得有帮助记得关注和点赞摘要低地球轨道LEO卫星互联网引入了快速的路径变化、间歇性的容量转移和非地面延迟动态这些都对传输层的拥塞控制构成了挑战。尽管瓶颈带宽和往返传播时间BBR在此类环境中能实现高吞吐量但其激进的带宽探测可能导致在LEO链路上出现过度的重传和不稳定的起搏。本文在跨越六个地理分布的AWS端点的SpaceX Starlink测试台上对BBR进行了全局实验评估并在隔离和竞争流量场景下将其行为与Cubic、Vegas和Hybla进行了比较。测量结果表明BBR持续提供卓越的吞吐量但会产生显著更高的重传开销揭示了LEO卫星互联网中关键的吞吐量-稳定性权衡。为了解决这一局限性我们提出了一种基于小语言模型SLM引导的BBR自适应框架该框架从真实的Starlink轨迹中学习相位安全的起搏增益决策。该框架结合了结构化的BBR状态编码器、基于LoRA的参数高效微调以及一个受限的网络头以低推理延迟生成可行的起搏动作。使用GPT-2、T5、GPT-Neo和SmolLM2进行的评估表明轻量级的SLM可以保留BBR的吞吐量优势同时大幅减少重传其性能可与更大的语言模型相媲美但计算成本要低得多。索引术语瓶颈带宽和往返传播时间BBR网络测量Starlink互联网小语言模型SLMI 引言低地球轨道LEO卫星巨型星座[9]已成为下一代全球通信的基石能够以比传统卫星系统显著更低的延迟实现广域宽带。SpaceX Starlink代表了迄今为止最大、最成熟的星座此外还有Eutelsat OneWeb和Amazon Kuiper等项目。谷歌的瓶颈带宽和往返传播时间BBR拥塞控制算法CCA[4]通过显式建模瓶颈带宽和传播延迟而非依赖基于丢包的检测标志着传输控制协议TCP拥塞控制的范式转变。其最新版本BBRv3 [4]¹ 细化了探测和起搏以在各种条件下优化吞吐量、延迟和公平性。与此同时小语言模型SLM作为大型语言模型LLM的一个子类旨在严格的算力、内存和延迟约束下运行[24]在紧张的硬件预算内保留有意义的语言理解能力使其非常适合边缘、移动和嵌入式环境[19]尤其适合需要在数据源附近进行实时推理的网络驱动任务[16]。最近巨型星座的激增促使工业界和学术界优化卫星网络上的数据传输将其推广为成熟地面网络的替代和扩展[6]。互联网拥塞控制是文献中一个研究充分的问题但在卫星网络中固有的动态特性和传输延迟使其尤其具有挑战性[1, 23]。许多工作对卫星网络上的拥塞控制算法CCA进行了比较分析[6, 10]突出了这些相关挑战。为此在开发用于卫星互联网的新CCA方面已经做出了大量贡献。最著名的工作包括但不限于LeoCC [15]、TCP-Peach [1]、REFWA [23]和StarQUIC [14]。一些研究提出了对BBR的改进以解决公平性限制并使其行为适应特定网络场景。Modest BBR [31]、BBR-CWS [22]和BBR-ACD [17]通过改进拥塞窗口控制和拥塞检测来缓解BBR的激进探测改善了与基于丢包的流量的共存性以及在共享瓶颈下的稳定性。较新的工作如BBR-R [32]和BBR-EFRA [20]分别侧重于多流竞争和往返时间RTT公平性减少了带宽垄断和跨异构路径的不公平性。与此同时类似于BBR-ES [12]扩展的延迟控制自适应也针对低延迟应用。近期沿着这条线的努力利用深度强化学习DRL来替代或增强基于规则的CCA如iCoCoA [8]中所展示的实现了在动态网络条件下的自适应速率控制。一些工作专门针对卫星网络将DRL应用于优化低地球轨道LEO星座[33, 29]、支持软件定义网络SDN的卫星架构[27]和深空通信场景[18]中的拥塞控制在这些场景中高RTT、间歇性链路和切换对传统CCA构成挑战。这些方法一致表明基于学习的控制器能够比手工启发式方法更好地捕捉复杂的状态-动作关系从而改善吞吐量、延迟和鲁棒性。最近这一范式已从DRL扩展到大型语言模型LLM包括基于LLM的队列管理[21]、跨层网络任务[26]以及LLM驱动的认知频谱适应[7]展示了LLM作为下一代卫星系统中网络感知控制的高级决策引擎的潜力。这些进展加上日益增长 的设备端和边缘LLM部署[16, 5]激励我们利用小语言模型SLM来解决Starlink上BBR的高重传问题。在本工作中我们有以下关键贡献• 我们在亚马逊网络服务AWS平台上设计并实现了一个跨越六个城市俄亥俄、圣保罗、伦敦、孟买、东京和悉尼的全球Starlink性能测试台并对BBR在独立和竞争的上行/下行场景下进行了全面的实证评估。• 我们提出了一种基于SLM的平滑BBR起搏增益方法包括一个将BBR数值数据投影到语言模型兼容特征空间的状态编码器、一个基于低秩自适应LoRA的强化学习RL管道用于蒸馏语言模型以加速起搏增益预测以及一个消除无效动作生成的任务特定语言模型头。我们利用AWS基础设施在Starlink网络上构建了一个全球分布式测试台以研究BBR的经验行为。该测试台扩展到以澳大利亚墨尔本为中心的六个AWS端点我们将BBR的性能与三种主流CCA进行了比较Cubic [11]、Vegas [2]和Hybla [3]。观察结果突显了吞吐量优势BBR在隔离和竞争场景下的上行和下行链路中均显著优于所有三种基线CCA充分利用了可用的Starlink Ku频段。通过探测机制实现的更大拥塞窗口是这种优势的主要促成因素。此外这种吞吐量优势是在与其他CCA相比相对相似的RTT和RTT方差范围内实现的。与基准CCA相比我们观察到的主要缺点是在所有四个测试场景中所有六个位置均出现异常高的TCP重传次数。这是Starlink网络中有意进行激进的高带宽探测所带来的缺陷这常常导致在动态网络路径中出现不准确的瓶颈估计。利用从分布式测试台收集的数据我们提出了一种SLM驱动的BBR方法通过平滑的起搏增益来降低固有的激进性。由于SLM轻量级部署优势和固有的泛化能力我们开发的模型代表了向卫星互联网智能驱动网络控制迈进的又一步。此外我们将BBR CCA问题表述为基于测量轨迹的离线返回条件策略学习。为便于处理我们使用四种著名的SLM评估所提出的方法即GPT-2¹、T5²、GPT-Neo³、SmolLM2⁴以及一个LLMLLaMA 3.2⁵ 30亿参数。为了可复现性我们在以下网址提供了完整的实现包括预处理、SLM微调、奖励构建、起搏增益推理和评估脚本GitHub - MPTCP-FreeBSD/lm-bbr-starlink · GitHub。II 我们的实验观察与发现II-A 测试台设置图1 以墨尔本为中心的全球测试台设置扩展到六个城市的AWS端点俄亥俄、圣保罗、伦敦、孟买、东京和悉尼。如图1所示我们在全球分布的主要城市设置了六个服务器即俄亥俄、圣保罗、伦敦、孟买、东京和悉尼。我们利用AWS Linux云实例进行此分布式服务器设置本地部分基于澳大利亚墨尔本的大学校园。用户终端由Starlink最新一代标准套件带UTA-232型号天线组成。一个基于Linux的本地服务器通过Category 5e以太网连接连接到Starlink终端创建了一个持久测试环境。此外我们假设AWS云实例在整个地理分布的云实例中提供一致的网络连接。为了在测试台上测试TCP CCA性能我们利用iperf3这是一个开源网络测试工具用于测量网络连接上的最大可达带宽和性能。它提供有关CCA性能的详细指标如吞吐量、重传、拥塞窗口、接收器通告窗口、RTT和RTT方差使其广泛用于网络诊断和基准测试。我们使用iperf3实现了一个自动化测量框架其中每个远程服务器和本地端依次配置为指定的CCA。然后我们对独立CCA数据收集执行了前向和后向测试以获取上行和下行数据。为了评估CCA作为并行和竞争流的行为我们在每个Linux网络实例中为每个CCA实现了隔离的网络命名空间并遵循类似的数据收集过程。特别注意同步服务器启动确保在检索前刷新数据并保持跨CCA的隔离以避免流间干扰从而在相同网络条件下实现公平且可重复的CCA基准测试。在四个测试场景中每个CCA的数据收集窗口为300秒实验于2025年8月的第一周进行。II-B 评估Starlink上的BBR图2 Starlink测试台上独立CCA流的下行数据。图3 Starlink测试台上独立CCA流的上行数据。II-B1 关于独立非竞争流在独立下载和上传流中BBR在每个测试位置均持续实现所有评估CCA中最高的吞吐量。下行中位数Q2在圣保罗超过100 Mbps在悉尼上须接近350 Mbps图2(a)而上行吞吐量虽然整体较低但上须仍超过80 Mbps图3(a)。这种性能伴随着比重传可忽略不计的Cubic、Vegas和Hybla高得多的重传。在下行链路中BBR的重传在东京Q3 300和孟买Q3 100达到峰值而在上行链路中它们达到Q2 ∈ [20, 30]最大值接近70集中在高RTT位置图2(b)图3(b)。BBR的拥塞窗口在两个方向上均远大于其他CCA上行悉尼最小Q2 0.4 MB且整体方差最大实现了更高的带宽延迟积BDP利用率图2(c)图3(c)。RTT由位置驱动而非CCA驱动圣保罗最高Q2 ≈ 350 ms悉尼最低Q2 ≈ 50 msRTT方差在所有CCA中保持适中且相似图2(e),(f)图3(e),(f)。尽管其吞吐量和重传显著更高BBR的RTT和RTT方差与基准CCA相当。稳定、相似的RTT方差表明其重传开销主要源于BBR自身的激进探测而非Starlink的动态特性。这反映了一个明确的权衡BBR以稳定性为代价更接近链路容量运行而传统的基于丢包和延迟的CCACubic, Vegas, Hybla未充分利用可用容量证实了它们在Starlink上的有效性有限。通过采用基于模型的方法BBR绕过了传统CCA的RTT依赖性使其成为Starlink动态LEO环境中的高效选择。总体而言BBR在Starlink上展现出最强的高吞吐量运行适用性尽管需要重传缓解策略来提高其鲁棒性。图4 全球分布式Starlink测试台上并行CCA流的下行数据。图5 全球分布式Starlink测试台上并行CCA流的上行数据。II-B2 关于并行竞争流在并行、竞争流条件下BBR在所有测试位置的两个方向上均持续实现最高的中位吞吐量下行中位数在伦敦超过130 Mbps在悉尼超过240 Mbps峰值高于350 Mbps图4(a)。在上行方向上须超过35 Mbps悉尼实现了最佳的聚合性能图5(a)。相比之下基准CCA在竞争下难以维持容量。Vegas经常降至接近零的中位下行吞吐量而Hybla在选定位置下行Q2 ≈ 44 Mbps优于Cubic和Vegas但在高RTT站点如圣保罗、伦敦和俄亥俄性能急剧下降。这种主导地位以每个位置最高重传为代价下行上须在孟买超过400个数据包在东京和俄亥俄超过200个上行中位数高于6个数据包在高RTT位置最大值超过30图4(b)图5(b)。BBR还维持了最大的拥塞窗口下行通常Q2 5 MB实现了高在途数据量而其他CCA仍受窗口限制图4(c)图5(c)。下行RTT分布显示BBR的变异性仅略有增加RTT方差曲线在所有四种CCA中遵循相似模式圣保罗记录最高RTT悉尼最低图4(e),(f)图5(e),(f)。在Starlink上的并行流条件下BBR持续主导竞争下行和上行容量与独立流类似其激进的带宽探测以显著增加的重传为代价提供了卓越的吞吐量。基于丢包Cubic和基于延迟Vegas的CCA则牺牲带宽效率以保持稳定性和降低队列压力。Hybla仅部分缓解了RTT引起的惩罚对竞争仍然高度敏感表现出不稳定的突发驱动行为。值得注意的是尽管下载流中的RTT分布略高BBR的RTT和RTT方差与基准CCA相当。总体而言BBR最适用于Starlink上的容量主导型传输而更保守的CCA则倾向于以吞吐量为代价的可预测延迟。III 为Starlink上的BBR微调SLM的提议方法本节描述了将原始iperf3 BBR日志转换为结构化数据和SLM微调方法的数据处理管道如图6所示。讨论与SLM并行展开但需要指出所提出的方法与LLM兼容正如本文后续结果评估部分所强调的。图6 为改进BBR而进行语言模型微调过程的概述。算法1 从Starlink BBR数据集创建经验池1: 将iperf3 BBR捕获连接成一个数据帧包含 {t, b_t, τ_t, cwnd_t, rwnd_t, RTT_t, RTTvar_t} 值2: 对于所有数据集规范 d ∈ _BBR 执行3: 插入标识符位置标志 - L_j流标志 - S_k4: 相位检测5: 计算平滑滚动平均吞吐量 b̄(t)。6: 计算偏差公式 (1)7: 设置阈值 d↑ ← κ σ_d, d↓ ← -κ σ_d8: 将所有样本的起搏状态初始化为 ProbeBW_CRUISE9: 扫描高于 d↑ 的局部最大值以标记 ProbeBW_UP10: 对于每个 ProbeBW_UP 事件向前扫描低于 d↓ 的局部最小值以标记 ProbeBW_DOWN11: 将 ProbeBW_DOWN 后的后续6个样本标记为 ProbeBW_CRUISE12: 相位约束增益选择13: 计算每个位置/流的容量估计 B_max ← max_t bps(t)14: 计算利用率代理 B̄_i ← b_i / max_j b_j15: 对于所有候选增益 g ∈ _{φ_i} 执行16: 使用轨迹驱动模型估计 B̂_i(g) 和 τ̂_i(g)17: 计算 R(s_i, g)18: 结束循环19: 选择 a_i⋆ ← arg max_{g ∈ _{φ_i}} R(s_i, g)20: 追加 (s_i, a_i⋆, R(s_i, a_i⋆)) 到 _BBR21: 结束循环22: 返回 _BBR { state ∈ {L_j, S_k, t_i, b_i, τ_i, cwnd_i, rwnd_i, RTT_i, RTTvar_i}, ∈ {_UP, _DOWN, _CRUISE}, reward }III-A 强化学习管道如§ II所述iperf3 BBR日志包含每秒测量的吞吐量b、拥塞窗口cwnd、RTTRTT、重传τ、接收器通告窗口rwnd、RTTRTT和RTT方差RTTvar。因此我们考虑每个间隔 i 的元组 {t_i, b_i, τ_i, cwnd_i, rwnd_i, RTT_i, RTTvar_i}其中 t_i 是相应的时间索引。在BBR带宽探测阶段起搏增益分三步变化在ProbeBW_DOWN阶段降至0.9在ProbeBW_CRUISE和ProbeBW_REFILL阶段稳定在1在ProbeBW_UP阶段升至1.25 [4]。这种固定的起搏增益策略可能导致当带宽偏离时CCA的调整滞后尤其是在LEO卫星网络等高变环境中[30, 25]。III-A1 离散起搏增益选择我们引入一种细粒度的离散方法而不是三步起搏增益方案以应对固有的激进性。令 b̄_i 表示居中的滚动平均平滑吞吐量估计我们定义 d_i 为其中标准差 σ_d std(d_i)。如果一个索引样本满足 d_i 0.7 σ_d 且 d_i 构成局部最大值则被分类为 ProbeBW_UP如果 d_i -0.7 σ_d 且为局部最小值则被分类为 ProbeBW_DOWN。在检测到 ProbeBW_DOWN 事件后立即插入一个固定起搏增益区域持续六个采样周期与BBR状态机保持一致。为了在更细粒度上建模BBR起搏行为我们将巡航起搏增益附近的增益离散化为 _UP {1.05, 1.10, 1.15, 1.20, 1.25}_DOWN {0.90, 0.92, 0.94, 0.96, 0.98} 和 _CRUISE {1.00}。我们采用了源自[25]的连续增益估计模型其中 B̄_i b_i / max_j b_j 是归一化的基于速率的吞吐量利用率估计。因此我们选择增益作为检测到的宏相位所允许的最近离散值III-A2 混合利用率与奖励构建我们将归一化的吞吐量和重传奖励分量定义为其中 B_i_ref 和 τ̄_i_ref 被解释为吞吐量和重传的移动95百分位参考Q_p(·) 表示经验百分位数w 是窗口大小。利用饱和函数来封装重传以消除捕获的BBR数据中大尖峰的影响。表I 奖励和损失构建中使用的超参数设置。参数值描述w10滚动百分位估计的半窗口κ0.7ProbeBW相位检测阈值比例λ_10.5重传惩罚权重λ_20.1激进探测上升惩罚权重α1.5超线性探测损失增长因子β5Softplus探测激活锐度ϵ10⁻³最小非零损失底线κ_down0.5探测下降重传减少因子吞吐量可能因过度队列积压而饱和而在短探测阶段即使带宽未充分利用延迟也可能保持较低。因此为了在奖励函数中表示拥塞效应纳入了一个体现速率和延迟的混合利用率估计。令 RTT_min min_j RTT_j考虑滚动窗口定义排队延迟 qd_i max(RTT_i - RTT_min, 0)。一个有界的队列参考可以计算为因此基于速率和基于延迟的利用率定义为因此混合利用率因子可以表示为引入一个惩罚项来惩罚当 G_i 1.0 时的激进起搏因此奖励函数定义为其中 λ_1 0.5λ_2 0.1。因此我们沿着RL框架将经验池数据集定义为 _BBR {state, action, reward}包含状态s_i ∈ {L_{i,j}, S_{i,k}, t_i, b_i, τ_i, cwnd_i, rwnd_i, RTT_i, RTTvar_i}其中 L_{i,j} 是位置标志S_{i,k} 是使用分布式测试台收集的四种数据集中相应数据集的流标识标志。动作集定义为a_i ∈ {_UP, _DOWN, _CRUISE}。此过程中使用的框架在算法1中进一步详述超参数在表I中定义。我们从有限动作空间中选择起搏增益为保持BBR相位一致性可行集合为对于每个候选 g ∈ _{φ_i}轨迹驱动模型估计可达吞吐量 B̂_i(g) 和重传成本 τ̂_i(g)。奖励为其中 U_i 表示混合利用率。专家标签是最大化此奖励的可行增益因此经验池为为离线返回条件策略学习提供相位安全的专家标签。算法2 面向Starlink互联网的基于SLM的BBR1: 将结构化的 _BBR 转换为可训练数据动作序列 和特征维度 n_f其中 x_t [R_t, s_t^(1), …, s_t^(n_s), a_t]^T ∈ ℝ^{n_f}2: 第一部分 - 状态编码器3: 用嵌入维度 d、批量大小 B 和序列长度 T 初始化状态张量 S ∈ ℝ^{B × T × n_f × 1}4: 用 LeakyReLU 激活初始化全连接层 {FC_i(·)}{i1}^{n_f}5: 重塑状态张量S ← reshape(S, (B·T, n_f, 1))6: 对于 i 1 到 n_f 执行7: 提取标量特征s_i ← S(i)8: 使用FC层编码特征f_i ← FC_i(s_i)9: 重塑编码特征F_i ← reshape(f_i, (B, T, d))10: 结束循环11: 返回 {f_1, f_2, …, f{n_f}}12: 第二部分 - 低秩自适应13: 用随机权重 θ_lr 初始化矩阵 A 和 B14: 对于 epoch 1 到 epochs 执行15: 对于数据批次 1 到 _BBR 中的数据批次执行16: 获取前向传播模型输出17: 计算损失 公式 (20)18: 更新 θ_lr19: 结束循环20: 结束循环21: 返回 W_τ ← W_θ A_τ B_τ22: 第三部分 - 带语言模型头的离线RL策略23: 将动作 (E_a)、回报 (E_r) 和时间步 (E_t) 嵌入为可训练的线性映射24: 添加时间嵌入E_a ← E_a E_t, E_r ← E_r E_t25: 使用状态编码器编码状态序列26: 对于 i 1 到 n_f 执行27: E_{s_i} ← Embed_{s_i}(F_i) E_t28: 结束循环29: 以 x_t^T 格式构建自回归令牌序列30: 随时间堆叠令牌形成输入序列 X31: 将 X 截断至模型上下文长度并应用层归一化32: 创建注意力掩码 M33: 使用PLM计算隐藏状态H ← PLM(X, M)34: 如果残差连接启用则35: H ← H X36: 结束如果37: 提取对应于动作位置的logits38: 预测动作logits ← ActionHead(H)39: 返回 ÂIII-B 状态编码器为了将iperf3生成的BBR状态信息转换为与SLM架构兼容的表示我们采用了一种结构化特征编码机制以适应所选模型的异构需求。首先使用一系列全连接层来处理由我们Starlink-BBR全球测试台产生的标量输入。SLM施加了不同的上下文窗口约束例如GPT-2支持最长1024个令牌的序列T5则在512个令牌范围内操作。因此编码特征与目标模型令牌空间之间的维度对齐至关重要。因此我们纳入了一个线性神经网络LNN层系统地将提取的特征映射到与每个模型上下文窗口兼容的嵌入维度。这种设计确保了架构一致性并促进了与不同规模和配置的SLM骨干的无缝集成将提取的特征转换为匹配的上下文窗口。随后对投影的嵌入应用层归一化以增强数值稳定性减轻协变量偏移并促进高效优化。因此状态编码器方法以最适合基于Transformer处理的形式准备了Starlink上的BBR数据同时在各种语言模型架构中保持计算效率和鲁棒性。III-C LoRA自适应为提高训练效率我们在参数高效微调PEFT框架[28]内采用了LoRA策略。这种方法通过冻结语言模型的大部分预训练模型权重减少了训练期间更新的参数数量。令 θ_tot 表示SLM的完整参数集可分解为冻结参数 θ_F 和可训练参数 θ_T使得 θ_tot θ_F θ_T。相应参数对应的权重矩阵可表示为 W_tot、W_F 和 W_T。在LoRA方法下可训练的权重更新 W_T ∈ ℝ^{p×q} 使用低秩分解近似。具体地我们假设秩 r 满足 r min{p, q}并将 W_T 表示为两个矩阵 A ∈ ℝ^{p×r} 和 B ∈ ℝ^{r×q} 的乘积即 W_T A B。在微调期间仅更新 A 和 B 中的参数而原始模型权重的很大一部分保持固定。这显著减少了计算和内存开销同时保留了预训练SLM的表示能力以实现更通用的决策。III-D 语言模型头与训练状态编码器的表示随后被转发到一个专用的网络头该网络头直接生成任务特定的输出。然而LLM幻觉该领域内一个众所周知且已被研究的问题[13]可能导致生成超出有效范围的动作。作为解决方案网络头被实现为一个可训练的线性投影层将SLM的内部特征表示映射到所需空间内的输出在本文中即修改后的BBR起搏增益。此外由于模型在一个推理步骤内生成一个有效输出整体决策延迟显著降低。回顾导致经验池的基于RL的管道其中 D_BBR {r_t, s_t, a_t}{t1}^L ∈ _BBRD_BBR 表示长度为 L 的轨迹。对于每个 D_BBR我们替换 r_t ← R_t Σ{it}^L r_i考虑在 s_t 处的累积奖励。此外状态组件和动作相关信息被离散化为 s_t {s_t^1, …, s_t^g} 和 a_t {a_t^1, …, a_t^h}公开了所包含的信息。SLM被微调以使用此数据表示学习回报分布使用随机采样的数据序列训练SLM动作生成的优化目标定义在公式(20)中其中 L_H(·) 表示在真实动作 a_{t}^j 和预测动作 â_{t}^j 之间计算的交叉熵损失。该损失在长度 w 的预测时域上以及所有 m 个动作维度上平均。此训练策略的目标是使SLM内化系统状态与其相关回报分布之间的关系。训练后模型能够合成与期望性能目标一致的动作序列。使SLM适应以改进BBR起搏增益的整个过程在算法2中进一步详述。IV 结果评估表II GPT-2、T5、GPT-Neo 和 SmolLM2 SLM 的比较属性GPT-2T5GPT-NeoSmolLM2参数137M237M132M388M词汇量50,25732,12850,30449,152隐藏层大小768768768960层数12 d.12 e. 12 d.12 d.32 d.注意力头12121215FFN大小3072307230722560最大序列长度102451220488192激活函数GELUReLUGELUSiLU位置编码学习型相对桶RoPE (25%)RoPEIV-A 训练与验证我们将§ II中详述的收集数据分离为训练集和测试集将俄亥俄、圣保罗、伦敦、孟买和悉尼分组用于训练。利用这个真实的BBR数据集我们使用四个SLM评估了我们所提出方法的性能GPT-2、T5、GPT-Neo和SmolLM2。选择这些SLM的主要标准是参数数量因此我们选择了训练参数少于4亿的模型用于本研究。感兴趣SLM的简要比较在表II中给出。对于训练和评估过程我们使用了配备Intel Xeon Gold 6346 CPU和两个NVIDIA RTX 6000 GPU每个96 GB VRAM的工作站。为确保稳定高效的训练过程我们采用20个样本的小批量与梯度累积相结合。还应用了梯度裁剪以约束反向传播期间的幅度增长从而防止梯度爆炸。SLM的训练性能使用150个epoch的交叉熵损失进行评估如图7(a)所示。T5降低平均损失最慢需要超过50个epoch才能达到稳定。其次是GPT-Neo和GPT-2三个模型在收敛后表现出相似的损失模式。然而SmolLM2偏离了既定模式其平均损失下降相对较快甚至在100个epoch后仍表现出波动。图7(b)显示了SLM的平均训练准确率。在30个epoch后所有四个SLM在平均准确率方面均收敛尽管SmolLM2显示出轻微变化反映了损失模式。有趣的是GPT-2和SmolLM2在开始时记录了相似的准确率模式快速增长其次是T5。相比之下GPT-Neo是平均准确率收敛最慢的模型。(a) 平均损失(b) 平均准确率图7 SLM训练比较(a) 平均损失和 (b) 平均准确率。所提出的LoRA方法的主要成果是减少了微调SLM以实现改进BBR性能的训练参数。图8(a)展示了我们感兴趣的SLM和LLaMA 3.2一个参数超过30亿的LLM我们将其用作本工作其余部分微调SLM性能的基准的训练参数比较。分别地使用LoRA方法训练时仅利用了GPT-2 1.37亿参数的9.44%、T5 2.37亿参数的5.97%、GPT-Neo 1.32亿参数的5.35%和SmolLM2 3.88亿参数的6.76%。相比之下LLaMA 3.2 30亿参数中的1.13%通过所提方法进行了微调反映了自适应可训练参数的显著减少。此外如图8(b)所示通过LoRA方法训练中的视频随机存取存储器VRAM利用率也显著降低。正如预期SLM的VRAM使用量显著低于LLaMA 3.2模型后者记录了15.67 GB的平均VRAM消耗。此外所有四个SLM的VRAM使用量均低于2.57 GBSmolLM2最高GPT-2最低为1.41 GB。(a) 可训练参数(b) 平均VRAM使用量图8 (a) 可训练参数百分比和 (b) 训练中平均VRAM使用量的比较。图9 评估SLM预测的BBR起搏增益在吞吐量和重传方面的表现与本地Tokyo BBR流和LLaMA 3.2预测进行比较。(a) 下行独立流吞吐量。(b) 下行独立流重传。(c) 上行独立流吞吐量。(d) 上行独立流重传。(e) 下行竞争流吞吐量。(f) 下行竞争流重传。(g) 上行竞争流吞吐量。(h) 上行竞争流重传。图10 推理中的动作生成时间比较。IV-B 吞吐量模型为了评估微调后的SLM对BBR拥塞控制流中起搏增益决策的影响我们构建了一种替代方法该方法在无需完整TCP循环重放的情况下估计由此产生的吞吐量和重传。该替代模型依赖于来自BBR流的实际iperf3统计数据以及SLM/LLM生成的离散起搏增益动作。这种方法支持对控制策略进行可扩展的、模型无关的评估。BBR发送速率的简化版本可由上述公式给出其中 B̂_w(i) 是估计的瓶颈带宽由95百分位滚动窗口值 B_cap(i) 近似。因此通过SLM预测的起搏增益实现的吞吐量可以表示为在公式(22)中由于探测上升或巡航导致 G(a_i) ≥ 1吞吐量在瓶颈处饱和而吞吐量在探测下降G(a_i) 1时按比例减少。当 G(a_i) 1 时发送端以高于瓶颈容量的速率传输尽管这增加了在途数据量但可达吞吐量仍受瓶颈带宽限制。因此多余的流量在瓶颈队列中累积导致排队延迟增加和数据包丢失及重传的可能性更高。因此大于1的增益主要体现为RTT和重传的增加而非吞吐量的成比例提升。IV-C 重传模型为了评估微调语言模型预测的起搏增益对重传的影响我们引入了一种相位感知方法将预测的起搏增益映射到预期的重传水平。为了平滑地模拟这种效应我们定义了一种平移的softplus激活方法softplus(x) ln(1 e^x)。探测强度可以计算为这保证了当 G_i 1 时 S(G_i) 0确保在巡航模式下没有人为惩罚。归一化的探测上升分量定义为其中 G_max 是最大允许起搏增益参数 α 1.5 控制超线性增长β 5 控制锐度。在没有探测的情况下由于无线损伤和背景竞争仍会发生非零重传。这通过一个小基线项 ϵϵ 1表示它设置了最小损失底线。因此瞬时损失因子可以定义为确保重传仅在利用率和探测激进性都高时增加。对于低于1的起搏增益G_i 1BBR有意排空队列。通过降低损失因子来明确奖励这种效应其中 κ_down ∈ (0, 1) 控制探测下降收益的强度。然而最终损失因子被限制在有效范围内即 L_i min(max(L_i, 0), 1)。因此通过缩放局部拥塞包络内的值来获得估计的重传其中 τ_max,i 是重传的滚动最大值捕获局部拥塞状态。如§ II所述我们为独立下行、上行流以及并行竞争下行和上行流它们与Hybla、Cubic和Vegas这三种CCA竞争捕获了BBR iperf3数据覆盖六个城市。我们利用俄亥俄、圣保罗、伦敦、孟买和悉尼的BBR数据微调SLM和LLaMA 3.2 LLM并用东京数据集对其进行评估。将由SLM预测的BBR起搏增益驱动的结果与真实数据和LLaMA 3.2模型进行比较。通过上述替代模型计算的吞吐量和重传如图9所示。独立BBR流下行和上行的吞吐量和重传比较分别在图9(a)、图9(b)、图9(c)和图9(d)中给出。图9(e)、图9(f)、图9(g)和图9(h)展示了竞争下行和上行BBR流的吞吐量和重传比较。如图10所示我们观察到所提出的LoRA方法将语言模型推理延迟降低到5毫秒以下这需要进一步广泛评估。V 结论我们提出了一个使SLM适应以改进LEO卫星互联网BBR CCA的框架。通过在SpaceX Starlink上的全球分布式测试台我们对LEO卫星网络中BBR特性进行了实证评估突显了其尽管重传率较高但在吞吐量方面优于其他CCA的优势。作为针对所突出缺陷的解决方案本工作提出了一种SLM驱动的平滑起搏增益方法以降低BBR固有的激进性。使用四个SLM我们开发了最大化奖励的专家动作评估了所提出的方法并将结果与微调后的LLM和真实的BBR流进行了基准比较。通过替代模型评估的结果表明蒸馏后的SLM通过智能起搏增益选择在保持吞吐量的同时减少了重传。由于SLM提供的轻量级部署优势我们开发的模型代表了朝向卫星互联网智能驱动网络控制的又一步。