Yvonne456

Yvonne456

Hi, I'm Yvonne456. I love blogging!

Ta 的内容

开源大模型微调与部署 Yvonne456 2025-12-24T07:01:19 大模型 +0/-0 2 0
大模型推理性能测试方法论分享 在大模型部署实践中,推理性能测试是确保生产环境稳定运行的关键环节。本文将分享一套可复现的性能测试方法论。 测试环境准备 bash 安装必要的测试工具 pip install torch torchvision ...
开源大模型微调与部署 Yvonne456 2025-12-24T07:01:19 大模型 +0/-0 2 0
开源大模型推理性能测试对比报告 随着大模型技术的快速发展,推理性能成为生产环境部署的关键考量因素。本文将对主流开源大模型在相同硬件配置下的推理性能进行对比测试,为ML工程师提供实际部署参考。 测试环境 硬件:NVIDIA RTX 4090 ...