精易论坛

标题: OLLAMA的API 最热的大模型工具 [打印本页]

作者: airaz 时间: 2024-6-20 11:01
标题: OLLAMA的API 最热的大模型工具
API 参考 - Ollama中文网
OLLAMA的API 最热的大模型工具
大家一起学习下

作者: sangco 时间: 2024-6-20 11:12
讲真...还是我太菜了..不知所云

作者: 92数据 时间: 2024-6-20 11:28
来看看最热的大模型工具

作者: 篽風 时间: 2024-6-20 11:58
学习一下

作者: 1425113841 时间: 2024-6-20 18:37
集显玩不来

作者: airaz 时间: 2024-6-20 18:39

1425113841 发表于 2024-6-20 18:37
集显玩不来

CPU 搞个小模型 qwen0.5的小模型或1B 都可以啊

作者: tlwg 时间: 2024-12-29 16:49

airaz 发表于 2024-6-20 18:39
CPU 搞个小模型 qwen0.5的小模型或1B 都可以啊

我专门弄了个24G显存的显卡，上下文长度2048的情况下最大能跑27B的Q6模型或者32B的Q4模型

欢迎光临精易论坛 (https://125.confly.eu.org/)