GPU虚拟化技术允许多个虚拟机（VM）共享一个物理GPU的资源，以提高硬件利用率并降低成本。该技术主要通过三种方式实现：直通（Passthrough）、API重定向（API Remoting）和硬件虚拟化（如NVIDIA的vGPU和AMD的MxGPU）。其中，直通方式提供接近原生性能但灵活性较差；API重定向允许多个虚拟机共享一个GPU但性能较低；硬件虚拟化则在保持较高性能的同时支持多虚拟机共享。 典型的GPU虚拟化架构包括物理主机、GPU驱动程序、GPU管理层及vGPU实例等组件，这些组件共同作用于虚拟机中运行的应用程序。此外，文章还介绍了几种常见的GPU虚拟化方案及其优缺点，包括腾讯的vCUDA、阿里云的cGPU、k8s-device-plugin、腾讯最新的qGPU服务以及OrionX (趋动科技)等开源或商业解决方案。每种方案都有其特定的应用场景和技术特点，旨在满足不同用户对于GPU资源共享与隔离的需求。
Published on 2024-05-21
Published on 2024-04-10
怎么理解 IaaS、SaaS 和 PaaS 的区别？ 如果你是一个网站站长，想要建立一个网站。不采用云服务，你所需要的投入大概是：买服务器，安装服务器软件，编写网站程序。 现在你追随潮流，采用流行的云计算， 如果你采用IaaS服务，那么意味着你就不用自己买服务器了，随便在哪家购买虚拟机，但是还是需要
Published on 2023-05-23
