上海旭诚网络科技有限公司|IT 实习生
参与服务器售后现场与远程支持,开展集群巡检、硬件故障响应和 AI 算力环境部署;独立完成模型压测脚本、测试执行与结果汇总。
- 巡检与硬件排障:参与服务器集群批量巡检,检查系统运行状态并排查告警;响应 AI 算力服务器硬件异常,开展故障部件更换及 IPMI 异常处理,参与云计算服务器网卡更换。
- 算力环境部署:协助基于超聚变服务器与 NVIDIA GPU 的算力集群部署,参与物理主机及 Qwen3.6-27B 模型部署,积累从服务器硬件到推理服务的环境搭建经验。
- Shell 自动化测试:独立编写 Bash 脚本,在 Kubernetes Pod 容器内调用 vllm bench serve,覆盖 3 种输入/输出长度及 1/12/24/50 并发上限,共 12 组;组间串行、组内并发,支持冷却间隔、失败即停和异常状态识别。
- 指标汇总与记录:独立汇总吞吐、TTFT、TPOT 等指标,使用 Python 匹配测试组合并填写 Excel;校验测试状态与指标有效性,保留原始日志和模板格式,为不同负载下的推理表现提供可复核记录。