想问一下"Half" 类型没有实现 "addmm_impl_cpu_" 操作，这问题怎么解决 about self-llm

[KMnO4-zx]

您好，可以更详细的描述一下您的问题嘛？没太明白您想要表达什么意思。是想要用在加载的时候选择半精度加载嘛？

---期待您的回复~

[jole878788]

这个是报错情况

RuntimeError: "addmm_impl_cpu_" not implemented for 'Half'

应该是不支持半精度吧

[KMnO4-zx]

是在autodl的环境嘛？还是在本地windows环境下报错的？

[jole878788]

在autodl上的，我是在学校公用的linux服务器上搭建的

[KMnO4-zx]

在自己的服务器上的嘛？

[KMnO4-zx]

晚上我在autodl的机器上测试一下，看能不能复现报错。

[jole878788]

行的，麻烦您了

[Hongru0306]

反馈问题的时候，要注明出现问题的脚本名称，报错的具体行或代码块，描述好你已经做的操作，并附录完整的报错信息。否则这样模糊的描述也会让开发者困扰。

[KMnO4-zx]

• 我这边在autodl上跟着教程复现没啥问题，没有遇到你的bug。
• 建议使用和教程相同的环境哦~

行的，麻烦您了

[jole878788]

好的 获取 Outlook for iOS<https://aka.ms/o0ukef>

…

________________________________ 发件人: 不要葱姜蒜 ***@***.***> 发送时间: Wednesday, January 10, 2024 6:12:29 PM 收件人: datawhalechina/self-llm ***@***.***> 抄送: Jiashu Li ***@***.***>; Author ***@***.***> 主题: Re: [datawhalechina/self-llm] 想问一下"Half" 类型没有实现 "addmm_impl_cpu_" 操作，这问题怎么解决 (Issue #29) * 我这边在autodl上跟着教程复现没啥问题，没有遇到你的bug。 * 建议使用和教程相同的环境哦~ image.png (view on web)<https://github.com/datawhalechina/self-llm/assets/77671993/d52ad087-2cf6-4336-aab4-17ccfd154b39> 行的，麻烦您了 ― Reply to this email directly, view it on GitHub<#29 (comment)>, or unsubscribe<https://github.com/notifications/unsubscribe-auth/BEI4DK5FBQ5TWNRV4DF4WPLYNZSQ3AVCNFSM6AAAAABBUJRTGSVHI2DSMVQWIX3LMV43OSLTON2WKQ3PNVWWK3TUHMYTQOBUGU2TGMRVGI>. You are receiving this because you authored the thread.Message ID: ***@***.***>

[jole878788]

这里再说一下，发现问题了，没有连上GPU，自己的CPU无法进行半精度计算。