单项选择题
A.提前停止B.数据增强C.正则化D.模型集成
大模型训练时,哪种并行策略可以减少梯度通信的开销?()A.数据并行B.模型并行C.流水线并行D.混合并行
单项选择题大模型训练时,哪种并行策略可以减少梯度通信的开销?()
A.数据并行B.模型并行C.流水线并行D.混合并行
在大模型中,哪种技术通常用于减少模型大小和计算复杂度?()A.知识蒸馏B.模型剪枝C.模型量化D.稀疏注意力机...
单项选择题在大模型中,哪种技术通常用于减少模型大小和计算复杂度?()
A.知识蒸馏B.模型剪枝C.模型量化D.稀疏注意力机制
大模型训练中,哪种优化策略可以有效减少模型参数的更新方差?()A.学习率衰减B.动量C.二阶梯度方法D.模型剪...
单项选择题大模型训练中,哪种优化策略可以有效减少模型参数的更新方差?()
A.学习率衰减B.动量C.二阶梯度方法D.模型剪枝