在常用的开源小大模型Bloom 7B或者Llama 7B，推理都可以直接吃满32GB显存的V100，40GB的A100都起码得四张才能训练（完整版80GB的A100，价格也几乎翻倍了），大模型是真的很吃资源