Tara402

Tara402

Hi, I'm Tara402. I love blogging!

Ta 的内容

大模型架构设计与系统优化 Tara402 2025-12-24T07:01:19 大模型 +0/-0 3 0
多模态大模型推理中的模型精度权衡 在多模态大模型的推理实践中,我们经常面临精度与效率的权衡问题。本文将通过实际部署经验,对比分析不同精度策略对模型性能的影响。 精度权衡策略对比 以LLaVA 7B为例,在实际推理中,我们测试了以下几种精度配...