上海旭诚网络科技有限公司|IT 实习生
面向客户响应SLA与工单,提供远程/现场支持,处理服务器告警、部署和故障排查。参与服务器售后运维与 AI 算力环境建设,协助物理主机和模型部署,独立完成压测脚本编写、测试执行及结果汇总填表。
- 算力与模型部署:协助基于超聚变服务器与 NVIDIA GPU 的算力集群部署,参与物理主机部署及 Qwen3.6-27B 模型部署,衔接硬件环境与模型推理服务。
- 容器内自动化压测:独立编写 Bash 脚本,在 Kubernetes Pod 容器内调用 vllm bench serve,按 3 种输入/输出长度与 1/12/24/50 并发上限完成 12 组测试;组间串行、组内并发,支持组间冷却、失败即停及异常状态识别。
- 结果汇总与填表:独立汇总吞吐、TTFT、TPOT 等指标,使用 Python 按输入/输出长度及并发档位匹配结果并填写 Excel 模板;校验测试状态与指标有效性,保留原始日志和模板格式,便于复核不同负载下的响应表现。
- 巡检与故障响应:参与服务器集群批量巡检,检查系统状态并响应 AI 算力服务器硬件告警,开展故障部件更换与 IPMI 异常处理。