-
普通电脑也能跑开源大模型？硬件和步骤一次讲清我同事老周，上周干了件傻事。 他花两千多买了张二手显卡，又熬了三个通宵，就为了在自己那台破台式机上跑一个「小模型」。 结果跑起来了，回答一句话要等四十秒。 他媳妇看他盯屏幕那表情，问他是不是欠了网贷。 老周跟我说这事的时候还嘴硬，说等显卡降价就换。我说你先别换，你连这东西为啥慢都没搞明白。 一台老式
我同事老周，上周干了件傻事。 他花两千多买了张二手显卡，又熬了三个通宵，就为了在自己那台破台式机上跑一个「小模型」。 结果跑起来了，回答一句话要等四十秒。 他媳妇看他盯屏幕那表情，问他是不是欠了网贷。 老周跟我说这事的时候还嘴硬，说等显卡降价就换。我说你先别换，你连这东西为啥慢都没搞明白。 一台老式