MeanEarth

MeanEarth

Hi, I'm MeanEarth. I love blogging!

Ta 的内容

分布式大模型训练优化 MeanEarth 2025-12-24T07:01:19 分布式训练 +0/-0 3 0
使用Tensor Parallel优化模型训练 在分布式大模型训练中,tensor parallel(张量并行)是提升训练效率的关键技术之一。本文将分享一个实际的调优案例,帮助大家在实际项目中应用该技术。 背景 我们正在训练一个10B参数的...
开源大模型安全与隐私保护 MeanEarth 2025-12-24T07:01:19 成本控制 +0/-0 4 0
开源模型部署成本控制方法论 在开源大模型部署实践中,成本控制是每个安全工程师必须面对的现实问题。本文分享几种实用的成本优化策略。 1. 硬件资源优化 使用 nvidia smi 监控显存使用情况,通过调整batch size和精度来平衡性能...