开源ChatGPT、Stable Diffusion本地部署，及关于国产AI ...

科米

你的想法是用内存替代显存，有两种实现方法：
1、把一部分模型放在内存里用cpu计算；
2、把模型切成好几块，把暂时用不到的块放在内存，需要的时候再把内存里的块加载到显存里用gpu计算。

第一种方法慢是因为cpu不适合拿来计算模型，第二种方法慢是因为需要反复移动模型。不如直接买个显存足够的计算卡。