传输与部署

2.1 默认部署

服务默认必须监听回环地址 127.0.0.1 和 ::1。约定端口为 17832,因此默认基础地址是 http://127.0.0.1:17832。

项目 取值
监听地址 127.0.0.1 和 ::1
传输 HTTP/1.1 或 HTTP/2,承载 JSON
流式传输 服务器发送事件,Content-Type: text/event-stream
核心接口前缀 /lmsp/v1
OpenAI 兼容接口前缀 /v1
服务描述 GET /.well-known/lmsp.json
机器可读契约 GET /lmsp/v1/openapi.json
可选的本机通道 Unix Domain Socket 或 Windows Named Pipe

请求和响应使用 UTF-8 编码的 JSON(Content-Type: application/json),流(text/event-stream)和错误(application/problem+json)除外。时间戳为整数:自 Unix 纪元起的秒数。标识符是不透明字符串;建议带上 resp_、task_ 之类的类型前缀。

接口契约是一份 OpenAPI 3.2 文档。OpenAPI 3.2 可以描述服务器发送事件、JSON Lines 和 JSON Sequence,因此流式接口与其余接口在同一份文档中定义。本版本的契约发布在 /lmsp/1.0/openapi.json。

服务可以另外在 Unix Domain Socket 或 Windows Named Pipe 上接受连接,HTTP 语义相同。在 1.0 中,这类端点如何对外声明交由扩展决定。

2.2 常驻运行

服务应由操作系统托管:macOS 使用 launchd,Linux 使用 systemd,Windows 使用 Windows Service。

服务进程与模型进程应分离。模型崩溃应只影响使用该模型的任务,不应导致服务发现、模型目录和历史任务查询同时失效。