8G/12G/16G/24G显卡都能跑啥模型？
现在的本地模型都非常的强了，那你的显卡能跑什么样的模型。请参考图片计算。
qwen3.5, gamma 4等等。龙虾，爱马仕 都很耗token, 你可以试试本地的模型，必要时可以api调用
了解下计算方法
#AI #AIAgent
From X
Disclaimer: The above content reflects only the author's opinion and does not represent any stance of CoinNX, nor does it constitute any investment advice related to CoinNX.