找回密码
 立即注册
查看: 10|回复: 0

4,本地部署大模型,Ollama常用命令

[复制链接]

189

主题

6

精华

193

金币

技术维护QQ:515138

积分
416
发表于 昨天 17:11 | 显示全部楼层 |阅读模式
1.jpg

https://ollama.com/download/windows

游客,如果您要查看本帖隐藏内容请回复


Ollama是一个模型管理工具,有点像Docker,而且命令也很像,比如:

  1.   ollama serve      # Start ollama
  2.   ollama create     # Create a model from a Modelfile
  3.   ollama show       # Show information for a model
  4.   ollama run        # Run a model
  5.   ollama stop       # Stop a running model
  6.   ollama pull       # Pull a model from a registry
  7.   ollama push       # Push a model to a registry
  8.   ollama list       # List models
  9.   ollama ps         # List running models
  10.   ollama cp         # Copy a model
  11.   ollama rm         # Remove a model
  12.   ollama help       # Help about any command
复制代码
  1. ollama run deepseek-r1:1.5b --stream=false
复制代码

http://localhost:11434/api/chat
  1. {   
  2.     "model":"deepseek-r1:1.5b",
  3.     "messages":[
  4.         {
  5.             "role": "user",
  6.             "content": "你是谁?"
  7.         }
  8.     ],
  9.     "stream":false
  10. }
复制代码
设置一个system角色:
  1. {   
  2.     "model":"deepseek-r1:1.5b",
  3.     "messages":[
  4.         {
  5.             "role": "system",
  6.             "content": "你是深圳市金黑网络技术有限公司开发的AI助手,你的名字叫做金黑,请以金黑身份回答用户问题"
  7.         },
  8.         {
  9.             "role": "user",
  10.             "content": "你是谁?"
  11.         }
  12.     ],
  13.     "stream":false
  14. }
复制代码

云端实践:
https://bailian.console.aliyun.c ... e_center/text/debug

1.jpg



上一篇:3,云服务部署AI大模型
下一篇:5,传统应用和大模型应用
网站建设,公众号小程序开发,系统定制,软件App开发,技术维护【联系我们】手机/微信:17817817816 QQ:515138

QQ|Archiver|自丢网 ( 粤ICP备2024252464号-1 )

GMT+8, 2026-2-15 07:34

专注于网站建设,公众号小程序制作,商城小程序,系统定制,软件App开发

【联系我们】手机/微信:17817817816 QQ:515138

快速回复 返回顶部 返回列表