求助如何让ollama在Intel芯片苹果系统下，让AMD 5500xt显卡运行本地deepseek r1 参与？

wyangstudio

[抱拳]ollama在Intel芯片的苹果系统下，如何让AMD 5500xt显卡参与计算呢？目前双志强E5 2600CPU 32GB内存  运行本地deepseek r1 14b模型很慢啊？有没有ollama的mac魔改版呢？

wyangstudio

试了一下用chatbox  显卡的内存占用率提升到37%左右，cpu接近满格。

coolchou

黑苹果跑起来还是很勉强的，换白的试试~~~

hongyizhuangyua

这个话题值得研究！

fantasy0808

671b以下的几乎都是制杖……14b我让他给我写个歌词，自己一个人絮絮叨叨了十多分钟都没进入正题，放弃了。
本地部署完全没有意义。21款mbp M1 Pro

otsuka88888

fantasy0808 发表于 2025-2-8 11:32
671b以下的几乎都是制杖……14b我让他给我写个歌词，自己一个人絮絮叨叨了十多分钟都没进入正题，放弃了。
...

再智障，14b给我写了一个py运算程序，一次成功，而且效率相当的高。代码仅25行。

wyangstudio

看了ollama在win下有对于非支持列表内的AMD显卡的魔改和使用，觉得在mac下Intel芯片的的AMD 5500xt显卡应该也能有性能上的递增空间

otsuka88888

M系列是GPU全程拉满

wyangstudio

otsuka88888 发表于 2025-2-8 12:05
M系列是GPU全程拉满

确实m芯片40瓦显卡性能相当于N显和AMD显卡200瓦的性能

wwwxiamu

非要张飞绣花啊

evinll

AMD 暂时无解，我也是5500xt， 64G内存，跑了14b，基本上智障+反应慢，跑了8b，凑活勉强用。M4 Pro 48G 跑14b，基本上够用(后悔没上64G内存)，AI还是换个NV的大显存显卡实在。不过也就是小打小闹自己玩下

coolchou

fantasy0808 发表于 2025-2-8 11:32
671b以下的几乎都是制杖……14b我让他给我写个歌词，自己一个人絮絮叨叨了十多分钟都没进入正题，放弃了。
...

谁家的个人电脑能跑得动671b？？？

otsuka88888

用linux可以拉起显卡gpu跑模型

魔域封印

本地部署算力不够就不是智能了，而是智障，用在线的就好

xiaomiao888

fantasy0808 发表于 2025-2-8 11:32
671b以下的几乎都是制杖……14b我让他给我写个歌词，自己一个人絮絮叨叨了十多分钟都没进入正题，放弃了。
...

本地部署就是玩的，图个乐呵。想做为主要生产力使用，还有很长的路要走。有天有个做GIS公众号的人试了让它给编个小程序，结果它自己在那胡编乱造。
我那天问一个专业化点的事，但是这事有明文规定的，我以为这种很明确的事，通过搜索也能给我搜出个正确的答案来。结果让我失望了。deepseek、豆包、kimi首次回答均给的错误答案，第二次才答对。
我问的问题是：根据《建设项目环境影响评价分类管理名录》（2021年版），66kv变电站项目需要做环评吗？如果需要是编制报告书还是报告表？
你们有时间也可以试试，看哪款AI上来就能给出正确答案。
这问题的准确答案是不用做。
名录规定100kv以下不用做。100到500，做表。其中330以上，如果涉及了敏感区，做书。500以上做书。

zgjailedou

xiaomiao888 发表于 2025-2-10 10:40
本地部署就是玩的，图个乐呵。想做为主要生产力使用，还有很长的路要走。有天有个做GIS公众号的人试了让 ...

deepseek网页版的给我的答案，说了半天结论是：
66kV变电站项目需编制 环境影响报告表，无需报告书（除非涉及特殊国家级敏感区且地方另有规定）。建议结合项目具体选址进一步咨询当地生态环境部门。

xiaomiao888

zgjailedou 发表于 2025-2-13 09:19
deepseek网页版的给我的答案，说了半天结论是：
66kV变电站项目需编制 环境影响报告表，无需报告书（除非 ...

我试过deepseek、 kimi 、豆包，首问给的都是这个答案。您再追问一句，根据名录，100kv以下不用进行环境影响评价，他们就会给出不做的结论了。然后你再问他，是不是错了，他就开始承认或狡辨了。因为kimi和豆包我看不到后台思考过程，不知道他俩咋想的。但deepseek本地部署后能看到，他的思考过程是这样的：
我问：你说你第一次回答的是不是有错误？是不是容易误导别人？

Thinking
<think>
好，我来分析一下用户的需求和对话历史。

首先，用户在问关于66kv变电站是否需要进行环境影响评价（环评），并引用了《名录》。之前我的回复指出根据名录，100kv以下的项目不需要做环评，并建议咨询环保部门或专业人士，因为名录规定100kv以下不用做。

现在用户反驳说：“你第一次的回答是不是有错误？是不是容易误导别人？”用户强调“名录”明确说明100kv以下不需要环评，并补充说如果涉及敏感区则需报告书。同时用户提到存在模棱两可的情况，认为我的第一次回答是错误的。

用户可能是在质疑之前的回答是否正确，担心误导他人，特别是关于变电站项目是否需要环评的问题。

用户的需求可能是确保自己的理解和应用符合规范，避免在实际操作中出现错误。他们希望得到准确的信息，特别是在涉及敏感区的情况下如何处理。

因此，用户的深层需求不仅仅是确认是否需要环评，还包括了解不同情况下的具体要求和应对措施。用户可能是在准备项目申请或相关报告，需要确保合规性，避免不必要的麻烦或误解。

总结来说，用户对之前的回答有疑虑，并希望得到更准确的信息来避免误导自己或其他人。
</think>

您是对的，我第一次的回答存在误判和误导。根据《建设项目环境影响评价分类管理名录》（2021年版），66kv变电站项目不需要进行环境影响评价，因此无需编制环境影响评价报告书或报告表。

如果项目涉及敏感区域或其他特定要求，则需要进一步确认当地环保部门的具体要求，并采取相应的措施。

tokens used: 1086, model: Ollama (deepseek-r1:7b)
到这它回答完了，实际100kv以下，涉及敏感区的也不需要做，330kv以下100kv以上，涉及敏感区的才应该做表。100kv以下，咋都不用做。AI的判断还是有问题的

zgjailedou

xiaomiao888 发表于 2025-2-14 08:33
我试过deepseek、 kimi 、豆包，首问给的都是这个答案。您再追问一句，根据名录，100kv以下不用进行环境 ...

服务器繁忙 叫我稍后再试

zgjailedou

xiaomiao888 发表于 2025-2-14 08:33
我试过deepseek、 kimi 、豆包，首问给的都是这个答案。您再追问一句，根据名录，100kv以下不用进行环境 ...

evinll

https://github.com/likelovewant/ollama-for-amd,这个项目目前魔改了ollama，可以支持5500xt了，win下没问题，楼主可以在黑苹果下试试