Rhys 想减少对大型科技公司服务的依赖,但遇到了本地推理的容量问题:在他看来,质量达到可接受水平的模型,已经大到自己的 Radeon 7900 XTX 无法合适地承载。他考虑购入更大内存的统一内存设备,又担心技术变化太快,一年后这笔投入是否仍有用。
这是一个使用者对自主性、质量和硬件寿命的取舍。帖子没有给出具体模型、量化方式、输入长度或运行测量,因而不能用来判断这张显卡普遍不能运行哪些模型,也不是特定设备的购买评测。
持续追踪
Rhys 想减少对大型科技公司服务的依赖,但遇到了本地推理的容量问题:在他看来,质量达到可接受水平的模型,已经大到自己的 Radeon 7900 XTX 无法合适地承载。他考虑购入更大内存的统一内存设备,又担心技术变化太快,一年后这笔投入是否仍有用。
这是一个使用者对自主性、质量和硬件寿命的取舍。帖子没有给出具体模型、量化方式、输入长度或运行测量,因而不能用来判断这张显卡普遍不能运行哪些模型,也不是特定设备的购买评测。