什么是 ModelReady？

ModelReady 是一款高性能实用程序，旨在简化从本地存储或 Hugging Face 枢纽部署大语言模型（LLM）的过程。通过利用 vLLM 引擎，它能在数秒内将复杂的模型库转换为可访问的、兼容 OpenAI 的端点，从而允许在您的开发环境中进行即时交互。

作为 Openclaw Skills 的多功能组件，ModelReady 弥合了原始模型文件与交互式聊天界面之间的鸿沟。它允许开发人员保持对模型基础设施的完全控制，同时受益于简化的命令行界面进行管理和测试。

下载入口:https://github.com/openclaw/skills/tree/main/skills/carol-gutianle/modelready

安装与下载

1. ClawHub CLI

从源直接安装技能的最快方式。

2. 手动安装

将技能文件夹复制到以下位置之一

优先级：工作区 > 本地 > 内置

3. 提示词安装

将此提示词复制到 OpenClaw 即可自动安装。

ModelReady 应用场景

• 无需手动设置，即可使用特定的 Hugging Face 模型变体快速构建应用原型。
• 在本地运行敏感或专有模型，以确保数据隐私和安全。
• 实时测试不同的量化级别或张量并行配置，以进行性能调优。
• 将本地模型端点集成到由 Openclaw Skills 驱动的大型自动化工作流中。

1. 通过指定本地文件路径或 Hugging Face 仓库 ID 初始化模型服务器。
2. 配置张量并行和数据类型等性能参数，以匹配您的硬件。
3. 该技能利用 vLLM 在指定端口上托管一个兼容 OpenAI 的 API。
4. 直接通过聊天命令与模型交互，或从外部应用程序向本地端点发送请求。
5. 任务完成后监控服务器状态或停止进程，以释放系统资源。

ModelReady 配置指南

确保您的系统中安装了 bash 和 curl。要将其添加到您的环境中，请使用 Openclaw Skills 的标准安装命令：

openclaw install modelready

如果您针对的是远程主机，请配置环境变量：

export URL="http://your-server-ip"

ModelReady 数据架构与分类体系

该技能通过一组结构化参数管理模型的执行和连接：

name: modelready description: Start using a local or Hugging Face model instantly, directly from chat. metadata: {"openclaw":{"requires":{"bins":["bash", "curl"]}, "env": ["URL"]}}

ModelReady

ModelReady lets you start using a local or Hugging Face model immediately, without leaving clawdbot.

It turns a model into a running, OpenAI-compatible endpoint and allows you to chat with it directly from a conversation.

When to use

Use this skill when you want to:

• Quickly start using a local or Hugging Face model
• Chat with a locally running model
• Test or interact with a model directly from chat

Commands

Start a model server

/modelready start repo= port= [tp=] [dtype=]

Examples:

/modelready start repo=Qwen/Qwen2.5-7B-Instruct port=19001
/modelready start repo=/home/user/models/Qwen-2.5 port=8010 tp=4 dtype=bfloat16

Chat with a running model

/modelready chat port= text=""

Example:

/modelready chat port=8010 text="hello"

Check status or stop the server

/modelready status port=
/modelready stop port=

Set default host or port

/modelready set_ip   ip=
/modelready set_port port=

Notes

• The model is served locally using vLLM.
• The exposed endpoint follows the OpenAI API format.
• The server must be started before sending chat requests.