控制权限

Unsloth 与 Claude Code 和 Codex 一样，为任何使用工具调用的模型提供权限控制。这意味着未经你批准，模型和 Unsloth 都不能访问、修改或编辑你的文件，也不能使用互联网。

你可以选择你想要的访问级别：Unsloth 可以在安全环境中运行工具以保护你的系统；或者，如果你愿意，也可以允许它直接访问并编辑你的文件。

任意端点。所有工具。

Unsloth 打破���你的推理设置与工作流之间的壁垒。无论你的模型是通过 Unsloth 的推理运行，还是通过你自己的远程 OpenAI 兼容端点运行，你都可以让它使用 Unsloth 的全套工具，包括网页搜索、代码执行、深度研究等。

随处访问模型

通过 Unsloth 免费的 Cloudflare 隧道在本地或通过 HTTPS 提供服务。可从 你的手机、你的笔记本电脑，或你身处的任何其他地方查看运行情况。

使用以下方式将应用绑定到你的网络： -H 0.0.0.0，或打开一个免费的 Cloudflare 隧道以提供 HTTPS。

代码执行

通过可自动检测、修复并重试失败的自我修复工具调用，获得高出多达 50% 的工具调用准确率。

在安全环境中执行 Bash 和 Python。Unsloth 提供更可靠的调用终止，以减少循环、更好的修复和去重，防止 XML 泄漏。

在你的本地网络中提供服务

将 Unsloth 放到你的 Wi‑Fi 或有线网络上，并且 通过局域网提供 Unlosth 服务。流量永远不会离开你的网络，因此延迟很低，而且即使完全没有互联网也能工作。

按 启动 在 LAN 访问 卡片上，或使用 -H 0.0.0.0.

图像与视频生成

对于 NVIDIA B200 上的 MiniMax-H3 FP8，一个 960×544、124 帧、8 步的生成从 70 多秒降到了 13 秒。使用以下模型生成： Qwen-Image-2.1, FLUX、Z-Image、LTX、Wan 以及微调后的 LoRA 适配器。

转换、修补、扩展、放大、参考并编辑现有图像。

通过 API 提供模型服务

你可以使用 unsloth run 命令来提供类似 Qwen3.8 的模型服务，并更改任何设置，包括上下文大小、GPU 层数、线程、采样、网络以及工具配置。更多信息请参见我们的 API 文档.

下面是使用 Unsloth API 和 Qwen3.8 的示例：

使用最新模型

你几乎可以运行和训练每一个模型，包括即将发布的模型。像 Qwen3.8、Gemma、Meta、NVIDIA、GLM、Gemma 等模型及更多，都可在第一天就获得支持。这一切都要归功于 llama.cpp 和 Hugging Face，我们也很自豪能回馈这个生态系统。

深度研究

普通搜索会利用网络来回答问题，并且发生在模型仍在思考时。

深度研究会先制定计划，搜索最佳来源，然后生成包含所有引用的详细报告。

连接提供商

你可以直接将 Unsloth 连接到你的 ChatGPT/Codex 订阅。

运行来自 OpenAI、Anthropic、Ollama、llama.cpp、vLLM 等的模型。

使用相同的 Unsloth 聊天界面来管理本地和云端模型，并支持工具调用、图像生成、 提示缓存 以减少 token 使用，同时保留提供商原生功能，例如 OpenAI 的 网页搜索 以及 代码执行.

训练扩散模型

在你自己的图像上为 SDXL、FLUX.2、Qwen-Image 和 Z-Image 训练 LoRA 适配器。在 Unsloth 中为它们添加说明文字，选择一个 rank，然后点击训练。之后，你可以导出它，并在 Unsloth 中重新加载该模型进行推理。

无需代码即可训练

导入 PDF、CSV 或 JSON 即可开始。LoRA、全量微调、预训练。全部快 2 倍，显存占用减少 70%，且不损失准确率。支持多 GPU 和最新模型。

文本、扩散、 音频 以及 图像 模型均受支持！

转录/生成音频

完全在本地使用 Unsloth 生成、微调或转录音频。文本转语音、语音转文本、Whisper、Qwen3-ASR，应有尽有！

视频演示

常见问题

你们会收集我的数据吗？

不收集遥测数据。Unsloth 会检测你的 GPU 类型和设备，以便应用知道哪些功能可用。该应用可以完全离线运行。

我可以使用已经下载好的模型吗？

可以，它们会被自动找到。如果没有找到，你可以指定自己的自定义文件夹。

为什么推理有时会更慢？

网页搜索、代码执行和工具调用修复都会消耗时间。关闭它们后，速度应该与任何其他 llama.cpp 应用相当。还是很慢？请提交 GitHub issue。

只能用 GPU 吗？

不是。Unsloth 可在各种 CPU、Mac 等环境中运行。

它支持 OpenAI 兼容的 API 吗？

支持。请参见 API 指南。我们也支持连接到 云端模型 或其他 API，如 Anthropic 或 OpenAI。

Unsloth 支持哪些设备？

Unsloth 支持所有操作系统，包括 Mac、Windows、Linux 和 WSL，并支持 NVIDIA、Intel、AMD 以及 Mac 的 GPU/CPU。不过，较旧的硬件可能支持得不太好。

非常感谢 NVIDIA 和 Hugging Face 参与我们的发布。也感谢所有 Unsloth Desktop 的早期 Beta 测试者，我们非常感激你们的时间和反馈。我们还要感谢 Jan 的灵感，以及 llama.cpp、PyTorch、stablediffusion.cpp 和 open model labs 提供了让 Unsloth Desktop 成为可能的基础设施。