本地模型服务协议（LMSP）

LMSP 解决什么问题

LMSP（Local Model Service Protocol，本地模型服务协议）是一套开放协议，面向在用户自己设备或局域网中运行语言模型的软件，以及使用这些软件的客户端。

常驻的本地服务会在约定地址上描述自己并列出模型，用 JSON 或服务器发送事件（SSE）回应生成请求，并把长时间的生成作为持久化任务来运行：任务可以取消，客户端断线后也可以重新接上。同一个服务还兼容 OpenAI API，因此今天已有的客户端可以继续使用。

LMSP 并不取代 OpenAI API、Ollama 或 MCP，而是把它们的优点组合成一个适合本地常驻服务的协议层。

概览

快速试用

如果你的机器上正运行着 LMSP 服务，完整流程如下。请先按第 10.2 节完成配对以获得令牌，并把它保存在 LMSP_TOKEN 中。

# 1. 发现服务
curl http://127.0.0.1:17832/.well-known/lmsp.json

# 2. 列出本地模型
curl http://127.0.0.1:17832/lmsp/v1/models \
  -H "Authorization: Bearer $LMSP_TOKEN"

# 3. 生成响应
curl http://127.0.0.1:17832/lmsp/v1/responses \
  -H "Authorization: Bearer $LMSP_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen3:14b-q4_k_m","input":[{"type":"message","role":"user","content":[{"type":"input_text","text":"Hello"}]}]}'

与其他协议的关系

资源

• 规范 1.0 版（草案）。
• OpenAPI 契约，提供 JSON 和 YAML 两种格式。
• 面向语言模型的 llms.txt 和 llms-full.txt。
• 每个页面都提供 Markdown 版本：把页面地址末尾的斜杠换成 .md 即可，例如 /zh-cn/lmsp/1.0/tasks.md。