Kubernetes 将 GPU 视为原子资源,导致多租户 AI Notebook 中过度配置且利用率低下。HAMi 的 vGPU 虚拟化与 DRA 解决了这一问题——但前提是正确实施。本演讲涵盖 GPU 共享的机制(DRA 资源请求、HAMi 细粒度 GPU 分配、显存隔离、算力切片)以及 Viettel Cloud 的生产部署:架构、从测试到生产的关键瓶颈、以及电信级数据科学工作负载中 GPU 细粒度共享的运维实践。
参与 HAMi 开源项目,与维护者和社区成员交流。