以 FP4 精度在 8 张 A800 上部署一个模型推理服务，相比于 FP16 精度，具备更高吞吐与更快响应，适用于高并发文本生成与问答场景