精易论坛

标题: OLLAMA POST问题 [打印本页]

作者: airaz    时间: 2024-6-21 12:46
标题: OLLAMA POST问题
对话补全 (非流式)[color=var(--md-accent-fg-color)]请求[color=var(--md-default-fg-color--lighter)][color=rgba(0, 0, 0, 0.87)] code" style="box-sizing: inherit; transition: color 0.25s ease 0s; -webkit-tap-highlight-color: transparent; background-image: initial; background-position: initial; background-size: initial; background-repeat: initial; background-attachment: initial; background-origin: initial; background-clip: initial; border-width: 0px; border-style: initial; border-color: initial; font-family: inherit; font-size: inherit; border-radius: 0.1rem; cursor: pointer; height: 1.5em; outline: none; outline-offset: 0.1rem; position: absolute; right: 0.5em; top: 0.5em; width: 1.5em; z-index: 1;">curl http://localhost:11434/api/chat -d '{  "model": "llama2",  "messages": [    {      "role": "user",      "content": "why is the sky blue?"    }  ],  "stream": false}'
响应[color=var(--md-default-fg-color--lighter)] code" style="color: var(--md-code-fg-color); font-family: inherit; font-size: inherit; font-variant-ligatures: none; box-sizing: inherit; transition: color 0.25s ease 0s; -webkit-tap-highlight-color: transparent; background-image: initial; background-position: initial; background-size: initial; background-repeat: initial; background-attachment: initial; background-origin: initial; background-clip: initial; border-width: 0px; border-style: initial; border-color: initial; border-radius: 0.1rem; cursor: pointer; height: 1.5em; outline: none; outline-offset: 0.1rem; position: absolute; right: 0.5em; top: 0.5em; width: 1.5em; z-index: 1;">[color=var(--md-code-fg-color)][size=0.85em]{[color=var(--md-code-fg-color)][size=0.85em]  "model": "registry.ollama.ai/library/llama2:latest",[color=var(--md-code-fg-color)][size=0.85em]  "created_at": "2023-12-12T14:13:43.416799Z",[color=var(--md-code-fg-color)][size=0.85em]  "message": {[color=var(--md-code-fg-color)][size=0.85em]    "role": "assistant",[color=var(--md-code-fg-color)][size=0.85em]    "content": "Hello! How are you today?"[color=var(--md-code-fg-color)][size=0.85em]  },[color=var(--md-code-fg-color)][size=0.85em]  "done": true,[color=var(--md-code-fg-color)][size=0.85em]  "total_duration": 5191566416,[color=var(--md-code-fg-color)][size=0.85em]  "load_duration": 2154458,[color=var(--md-code-fg-color)][size=0.85em]  "prompt_eval_count": 26,[color=var(--md-code-fg-color)][size=0.85em]  "prompt_eval_duration": 383809000,[color=var(--md-code-fg-color)][size=0.85em]  "eval_count": 298,[color=var(--md-code-fg-color)][size=0.85em]  "eval_duration": 4799921000[color=var(--md-code-fg-color)][size=0.85em]}[color=var(--md-code-fg-color)][size=0.85em]------------------------------------------------------------------------------------------------[color=var(--md-code-fg-color)][size=0.85em]
[color=rgba(0, 0, 0, 0.87)].版本 2.支持库 e2ee.支持库 spec.子程序 聊天2.参数 提问内容, 文本型.局部变量 HTTP_请求, 网站客户Duan.局部变量 HTTP_网址, 文本型.局部变量 HTTP_返回, 文本型.局部变量 HTTP_数据, 存取键值表.局部变量 HTTP_解析, 存取键值表.局部变量 消息列表, 存取列表HTTP_网址 = “http://localhost:11434/api/chat”HTTP_请求.置请求头 (“Content-Type”, “application/json”)HTTP_请求.置请求头 (“User-Agent”, “Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/38.0.2125.122 Safari/537.36 SE 2.X MetaSr 1.0”)HTTP_数据.创建 (“model”, “qwen2:0.5b”, “messages”, 消息列表, “stream”, “false”)消息列表.添加键值表 (创建键值表 (“role”, “user”, “content”, 提问内容))HTTP_请求.执行POST (HTTP_网址, HTTP_数据.到JSON (假, 真, , , ), HTTP_返回, 真, )HTTP_解析.从JSON载入 (HTTP_返回, , , )调试输出 (HTTP_解析.取文本 (“//choices[1].message.content”))

API 参考 - Ollama中文网每次都新打开个CMD。。。。。。。继续不下去。。。。。。



补充内容 (2024-6-21 13:16):
看下面清楚
作者: airaz    时间: 2024-6-21 12:48
对话补全 (非流式)¶
请求¶

curl http://localhost:11434/api/chat -d '{
  "model": "llama2",
  "messages": [
    {
      "role": "user",
      "content": "why is the sky blue?"
    }
  ],
  "stream": false
}'
响应¶

{
  "model": "registry.ollama.ai/library/llama2:latest",
  "created_at": "2023-12-12T14:13:43.416799Z",
  "message": {
    "role": "assistant",
    "content": "Hello! How are you today?"
  },
  "done": true,
  "total_duration": 5191566416,
  "load_duration": 2154458,
  "prompt_eval_count": 26,
  "prompt_eval_duration": 383809000,
  "eval_count": 298,
  "eval_duration": 4799921000
}
作者: airaz    时间: 2024-6-21 12:49
.版本 2
.支持库 e2ee
.支持库 spec

.子程序 聊天2
.参数 提问内容, 文本型
.局部变量 HTTP_请求, 网站客户Duan
.局部变量 HTTP_网址, 文本型
.局部变量 HTTP_返回, 文本型
.局部变量 HTTP_数据, 存取键值表
.局部变量 HTTP_解析, 存取键值表
.局部变量 消息列表, 存取列表

HTTP_网址 = “http://localhost:11434/api/chat”
HTTP_请求.置请求头 (“Content-Type”, “application/json”)
HTTP_请求.置请求头 (“User-Agent”, “Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/38.0.2125.122 Safari/537.36 SE 2.X MetaSr 1.0”)
HTTP_数据.创建 (“model”, “qwen2:0.5b”, “messages”, 消息列表, “stream”, “false”)
消息列表.添加键值表 (创建键值表 (“role”, “user”, “content”, 提问内容))
HTTP_请求.执行POST (HTTP_网址, HTTP_数据.到JSON (假, 真, , , ), HTTP_返回, 真, )
HTTP_解析.从JSON载入 (HTTP_返回, , , )
调试输出 (HTTP_解析.取文本 (“//choices[1].message.content”))


补充内容 (2024-6-21 12:50):


https://ollama.fan/reference/api/

每次都新打开个CMD。。。。。。。继续不下去。。。。。。
作者: airaz    时间: 2024-6-21 12:51
@萌新a  大哥帮忙看看 谢谢

补充内容 (2024-6-21 13:02):
@梦°
作者: 萌新a    时间: 2024-6-21 17:08
airaz 发表于 2024-6-21 12:51
@萌新a  大哥帮忙看看 谢谢

补充内容 (2024-6-21 13:02):

没懂你问的啥意思,我不懂易语言,https://github.com/ollama/ollama/releases,我之前用的是0.1.34给客户部署的多模型支持并发
作者: airaz    时间: 2024-6-22 01:02
萌新a 发表于 2024-6-21 17:08
没懂你问的啥意思,我不懂易语言,https://github.com/ollama/ollama/releases,我之前用的是0.1.34给客 ...

https://125.confly.eu.org/thread-14825880-1-1.html




欢迎光临 精易论坛 (https://125.confly.eu.org/) Powered by Discuz! X3.4