网盘里只放模型文件。模型动辄几十 GB,国内从 Hugging Face 下载经常失败,网盘可以省掉这一步。安装包、显卡引擎和源码请从 官方发布页 下载,新版安装包不再分显卡型号,每个系统只有一个。
Strata 模型文件(安装包请到官方发布页下载)
Strata 可以让电脑在本地运行大模型Qwen3.8-Flash-Next,模型能力和排行可以来👉这里查看,本地部署能提供基本的网页聊天,查询资料,识别图片,也能接入本地电脑agent智能体编程助手等,帮你干活整理资料等。新版已经变成有中文界面的桌面应用,还多了一个更大的模型 DeepSeek V4.1-Flash 可选。第一次安装,先检查配置,再按步骤操作;遇到问题可以直接跳到后面的 QA。
Niko1221/Strata · 向作者致敬
v0.1.44 源码安装方式与配套视频
本篇没有配套视频
这次新版只更新了图文教程,没有录制新视频。上一期视频演示的是 v0.1 的源码安装方式,和新版桌面应用的步骤不一样,想看可以去 旧版教程;安装请以本文的文字步骤为准。
AI 玩家交流群
不懂的可以进群问,大家一起交流 Strata 部署、硬件选择和 Agent 接入。群里没有任何收费项目,纯玩家交流。
11 月 2 日前有效
资料说明
这是 Strata v0.2 新版的教程,按官方文档和最新版 v0.2.7(2026 年 10 月 27 日发布)整理。项目从 v0.1.44 起变化很大:从“下载源码、运行 START-HERE.bat”变成了“下载安装包、打开应用”。还在用老方法、想看 v0.1.44 详细步骤的朋友,可以看 旧版教程。配置要求以官方说明为依据;QA 里也整理了上一期抖音视频评论中大家问到的问题。文中的新版说明来自官方文档和发布说明,不代表我已经逐台实测。
已部署用户:从 v0.1.44 到 v0.2.7 变了什么?
.exe、Linux .AppImage、Mac .dmg),应用有简体中文界面;首次启动时自动下载适合你显卡的引擎。喜欢命令行、要接编程助手的,用终端版的 strata launch。原来的 START-HERE.bat 还在,但官方已经把它归为开发者用的源码方式。.dmg 拖进“应用程序”就能用,官方要求已改成 M1 或更新芯片+macOS 15,并在 M1 Max 上实测过。旧版教程里“M1/M2/M3 先别装”的提醒可以不用再等了。先看 已经安装了?怎么升级。模型文件可以继续用,不用重新下载几十 GB。小白先用默认设置,跑通了再调参数。
安装前核对已知问题
完整清单见 v0.2.7 发布说明。
先认清几个词
显存是显卡自己的内存;系统内存是内存条容量;上下文是一次能处理的文字量;Agent是能调用工具、读文件或执行任务的 AI 助手;引擎是 Strata 里负责驱动显卡的那部分程序,新版会按你的显卡自动下载。
Windows/Linux 先看这张表,Mac 看表后单独的说明。Mac 的统一内存不能直接套用 PC 的“显存+内存”选择方式。
| 项目 | 要求、配置或模型选择 | 注意事项 |
|---|---|---|
| 显卡 · NVIDIA(英伟达) | RTX 20、30、40、50 系列;推荐 12GB 及以上显存 | 驱动 580 或更新用 CUDA 13 引擎;旧驱动、旧卡会用 CUDA 12 引擎,应用自动选 |
| 显卡 · AMD | RX 7700/7800/7900、RX 9060/9070、Radeon AI PRO R9700;推荐 12GB 及以上显存 | RX 6800/6900 为实验性;Windows 上的 AMD 测试最少 |
| 显卡 · 其他 | Intel Arc(仅 Linux、仅终端)、AMD Ryzen AI Max(Strix Halo)、苹果 M 系列 | 各有单独文档,不作为本文的小白安装方案(Mac 见下方) |
| 多卡 | 支持多张 NVIDIA 或 AMD 卡分担模型 | 新版每张卡可设“主卡 / 辅助 / 不用”;8GB 及以下的卡默认不用 |
| 系统内存 · 32GB | 先选 Coder | 适合代码,中文和通用能力较弱;配 24GB 大显存卡时,Q2_0/IQ2_XS 也能用低内存模式跑 |
| 系统内存 · 48GB | Q2_0 或 IQ2_XS | Q2_0 最快,IQ2_XS 质量稍好 |
| 系统内存 · 64GB | 按应用推荐项选;IQ3_XXS、IQ3_S 都能装下 | IQ3_S 质量最好但最慢,装下后余量很少,少开后台程序 |
| 系统内存 · 96GB 以上 | IQ3_S,或 Unsloth 的 4–8 bit 版本 | Unsloth 4–8 bit 要把全部专家放进内存,需要约 72–136GB |
| 更小的模型 | Qwen3.6-35B-A3B | 约 32–52GB 内存,参数更少、更省内存 |
| 系统 · PC | Windows 10/11 或 64 位 Linux | 桌面应用 Windows/Linux/Mac 都有 |
| 硬盘 | 优先 NVMe SSD;Q2_0 到 IQ3_XXS 下载约 66–76GB | 首次启动还会下载约 6GB 辅助文件,看图再加约 1GB;按所选版本预留空间 |
| 官方测试配置 · NVIDIA | RTX 5070 12GB+Ryzen 5 7600+64GB 系统内存 | 测试配置,不是最低要求 |
Strata 硬件要求与模型选择(Qwen3.8-Flash-Next)
不确定时怎么选
这些模型名称是不同压缩版本,官方推荐顺序是 ISTA-DASLab 原版 → Unsloth → Gyro → 其他。不确定就用应用推荐项。显存和系统内存是两回事,不能直接相加判断能否运行;官方的判断方法是:系统内存至少要装下模型的“专家”部分,再多留约 10GB 给系统。
苹果 M 系列芯片(M1 或更新)+macOS 15 或更新系统。在左上角苹果菜单点“关于本机”,就能看到芯片和内存。Intel Mac 不支持。官方实测过 M5 Max 128GB、M4 Mac mini 32GB 和 M1 Max 34GB 三台,其他芯片还缺实测。
| Mac 统一内存 | 起步选择 | 先知道这些 |
|---|---|---|
| 32–48GB | 读 SSD 模式,可先试 Q2_0 或 Gyro-S | 模型装不下内存,边读内置 SSD 边算,速度较慢;32GB M4 mini、34GB M1 Max 已实测 |
| 64GB | Q2_0 | 给 macOS 和其他程序留余量,不套用 PC 的 64GB 模型建议 |
| 96GB | IQ3_S | 官方推荐项,96GB 起默认就是它 |
| 128GB 以上 | IQ3_S,或 Unsloth UD-Q4_K_XL | 后者质量更高、更占内存;更大的 Q5/Q6 在 128GB 上也要读 SSD |
小内存 Mac 把模型放在内置 SSD,不要先拿移动硬盘试。Q2_0/IQ3 系列下载约 66–84GB,读 SSD 模式还可能另外生成约 34–40GB 的文件,不能只按压缩包大小留空间。Mac 一次只回答一个请求,暂不支持 DeepSeek。详细依据:官方 Mac 文档。
v0.2.4 起新增,v0.2.5 起桌面应用里也能直接选。它比 Qwen3.8-Flash-Next 大得多,内存放不下的部分直接从 SSD 读,所以对硬盘要求很高、速度也慢得多。
| 项目 | 要求 |
|---|---|
| 显卡 | NVIDIA RTX 30/40/50 系列 12GB 及以上(Windows、Linux);AMD Radeon AI PRO R9700(Linux);Ryzen AI Max(Windows) |
| 系统内存 | 至少 46GB,64GB 是官方测得比较舒服的容量 |
| 硬盘 | NVMe SSD;下载 239GB(1.75 bit)、257GB(2.00 bit)、274GB(2.25 bit),空闲空间要比下载量再多几 GB |
| 上下文 | 默认 8K;v0.2.7 可选到 1M,但 256K 以上官方标注“还没测” |
| 不支持 | Mac;RTX 20 系列不在支持列表里 |
官方 v0.2.5 实测(2.00 bit 版本):RTX 5070 12GB+64GB 内存,回答约 4–6 token/s;RTX 3060 12GB+46GB 内存约 9–11 token/s。CPU 核数和 SSD 速度影响很大,同一张卡在不同电脑上差别明显。应用里有个“速度”选项:“更快”只用 6 个专家中的 5 个,质量差别通常感觉不到,16GB 及以下显存的电脑默认就是它。
小白建议:先把 Qwen3.8-Flash-Next 跑顺,再考虑 DeepSeek。硬盘不够 300GB 空闲、或者是机械硬盘的,就不要试了。依据:DeepSeek 官方说明。
让本地 Agent 帮忙部署
可把下面这段话交给电脑上的 Agent,让它按官方 AI_SETUP.md 检查显卡、内存和磁盘,再选择合适模型:
帮我在这台电脑上部署 Strata 0.2.7。我在国内,请先阅读官方 docs/AI_SETUP.md,检查显卡、内存、可用空间和 GitHub、Hugging Face、魔搭 ModelScope 能否访问。优先用终端版 strata launch;下载模型前先用 --plan 给我看计划,模型从魔搭下载(设置环境变量 STRATA_SOURCE=modelscope)。装好后启动,并告诉我客户端怎么接入。官方项目:https://github.com/Niko1221/Strata 。
网盘里只放模型文件。模型动辄几十 GB,国内从 Hugging Face 下载经常失败,网盘可以省掉这一步。安装包、显卡引擎和源码请从 官方发布页 下载,新版安装包不再分显卡型号,每个系统只有一个。
Strata 模型文件(安装包请到官方发布页下载)
国内用户先看这里
新版有三样东西要下载:安装包、显卡引擎、模型。
strata-engine- 开头,选和应用里显示的名称一致的那个),再在应用里选 “I already have the file”(我已有文件) 导入。--model-path 指向它。终端版(推荐):用 --model-path 指向包含全部分片的文件夹,或单个 .gguf 文件。先加 --plan 看一眼计划,确认显示“需要下载 0”再正式启动:
strata launch --model-path "D:\models\IQ2_XS" --plan
strata launch --model-path "D:\models\IQ2_XS"Linux/Mac 把路径换成 /data/models/IQ2_XS 这样的格式即可。想先检查文件能不能识别,可以用 strata models import "D:\models\IQ2_XS" --plan,它只检查,不复制、不移动文件。
源码方式(START-HERE.bat):和以前一样,用 --gguf-dir 指向分片目录:
START-HERE.bat --setup --source modelscope --family qwen --model IQ2_XS --gguf-dir "D:\models\IQ2_XS"把路径和模型换成实际下载的版本。即使模型齐全,首次启动仍可能下载约 6GB 的 MTP 等辅助文件,下载了 GGUF 不等于已具备所有运行资源。
无审查版不是普通菜单选项
如果文件是 OrcaRouter Uncensored IQ3_XXS,需按 官方 ORCA.md 手动流程 转换并单独配置服务。不要改名冒充原版,也不要直接套用上面的命令。官方验证针对 IQ3_XXS,不能推及其他量化版本;转换也不会恢复原始模型精度。建议新手先跑通推荐的通用模型,再让 Agent 按该文档处理特殊版本。
安装时有哪一步看不懂、遇到报错,可以 扫码进群问,说清楚卡在哪一步,带上报错截图更方便大家帮你看。没有任何收费项目,纯玩家交流,不用担心进群后要买课或付费。
三种装法选一种就行:
START-HERE.bat 老方法,国内源命令最成熟,老用户可以继续用。下载安装包
去 官方最新发布页 下载 Strata-0.2.7-windows-x64-setup.exe。页面上那些 strata-engine-…、strata-control-… 压缩包是组件,不是安装包,不用点。
安装并打开
双击安装,不需要管理员权限。弹出“Windows 已保护你的电脑”时,点“更多信息”→“仍要运行”。打开后在设置里把语言选为简体中文(如果没有自动切换)。
下载显卡引擎
第一次打开,应用会显示适合你显卡的引擎、大小和一个下载按钮,支持断点续传。应用里下载失败,就在浏览器里从官方发布页手动下载应用显示的那个引擎包,再选 “I already have the file”(我已有文件) 导入。
选模型,等待下载
拿不准就选应用推荐的模型,存放位置默认是 文档\Strata\Models,C 盘空间不够就换一个盘。第一次要下载几十 GB,中断后再点下载会接着下。国内下载模型很慢或失败,看下面的“国内源”说明。
开始聊天
模型加载完就能在应用里直接聊天。首次加载可能让电脑卡顿 1–3 分钟,先耐心等一会儿。先发一句“你好”,确认能回答,再试长文和 Agent。
应用界面里没有切换下载源的选项。按官方源码,Strata 的下载程序会读取 STRATA_SOURCE 这个环境变量;应用会不会把它传过去,我还没有在桌面应用里实测,可以试试:
关闭 Strata 应用(包括任务栏右下角的托盘图标)。
按 Win+R,输入 cmd 回车,执行:
setx STRATA_SOURCE modelscope重新打开 Strata,再点模型下载。
不生效的话,改用右边的“终端版”页签,那条路的环境变量是确定会传给下载程序的。不想再走国内源时,执行 setx STRATA_SOURCE "" 清空。
以后怎么用:直接打开 Strata 应用,在“模型”里加载或换模型;关闭应用就会停止模型。
下载 AppImage
从 官方发布页 下载 Strata-0.2.7-linux-x86_64.AppImage。小白建议用 Ubuntu 22.04/24.04。
加上运行权限并打开
在文件所在目录打开终端,执行:
chmod +x Strata-0.2.7-linux-x86_64.AppImage
./Strata-0.2.7-linux-x86_64.AppImage如果提示缺少 FUSE,改用 ./Strata-0.2.7-linux-x86_64.AppImage --appimage-extract-and-run。
下载引擎和模型
和 Windows 应用一样:先下载显卡引擎(应用里下载失败就从官方发布页手动下载,选“I already have the file”导入),再选模型下载。
没有桌面的远程 Linux 机器,用终端版更方便。以国内源安装模型:
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh
STRATA_SOURCE=modelscope strata launch找不到 strata 命令时,用安装程序打印的完整路径,通常是 ~/.local/bin/strata。在远程机器上装好后,按第 3 节设置另一台设备访问。Linux AMD 用户先看 官方 AMD 说明。
先确认芯片
需要苹果 M 系列芯片(M1 或更新)+macOS 15 或更新系统。Intel Mac 不能用。Mac 暂不支持 Swift、Coder、Qwen3.6 和 DeepSeek,先选应用推荐的 Qwen3.8 模型。
国内下载模型:Mac 用终端版走国内源更稳。在“终端”里执行:
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh
STRATA_SOURCE=modelscope strata launch以后怎么用:打开 Strata 应用即可。Mac 目前一次处理一个请求,其他人排队;看图功能默认开启,在 GPU 上运行。依据:官方 Mac 文档。
适合想用命令行、接编程助手,或者需要国内源下模型的朋友。Windows、Linux、Mac 都能用,安装脚本本身要从 GitHub 下载。
一行命令安装
Windows:在开始菜单搜索“PowerShell”打开,执行:
irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex装好后关掉这个窗口,再开一个新的 PowerShell。
Linux / Mac:在终端执行:
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh用国内源启动
Windows PowerShell:
$env:STRATA_SOURCE="modelscope"
strata launchLinux / Mac:
STRATA_SOURCE=modelscope strata launch这样设置只对当前窗口有效,关掉窗口就失效。按界面一步步选模型、上下文、存放位置和访问方式,方向键选择、回车确认、? 查看说明。拿不准就接受推荐项。
等下载和启动完成
下载完会自动启动并打开监控界面。浏览器访问 http://127.0.0.1:8080 就能聊天;想让它自动打开网页,启动时加 --open。
以后怎么用:
| 想做什么 | 命令 |
|---|---|
| 先看计划,不下载、不改动 | strata launch --plan |
| 后台运行,不开监控界面 | strata launch --yes --no-tui |
| 查看运行状态 / 停止 | strata launch --status / strata launch --stop |
| 列出已有模型 | strata models list |
| 检查电脑和环境 | strata doctor --live |
更多参数见 官方终端指南。
就是 旧版教程 里的安装方法,官方现在把它归为开发者用的源码方式,但仍然可用,国内源参数也最成熟。已经这样装好的老用户,继续用就行。
下载并解压源码 ZIP
用 官方 ZIP 下载 获取最新源码。右键“全部提取”,进入能看到 START-HERE.bat(Linux/Mac 是 setup.sh)的那层文件夹。不要在压缩包里直接运行。
用国内源安装
Windows:在文件夹顶部地址栏输入 cmd 回车,执行:
START-HERE.bat --setup --source modelscopeLinux:右键“在终端打开”,执行:
chmod +x setup.sh
./setup.sh --setup --source modelscopeMac:先执行 xcode-select --install 装命令行工具(源码方式要在本机编译,约 1–15 分钟),再执行:
chmod +x setup.sh
STRATA_SOURCE=modelscope ./setup.sh --setupMac 不要照抄 --source modelscope 参数,用上面这种环境变量写法。
选模型,等待完成
拿不准就按回车接受推荐项。看不懂英文提示时,Images 是看图功能,只想先试文字聊天可以选 no。中断后在同一个文件夹重新执行命令即可继续,不要删已下载的文件,也不要同时开两个安装窗口。
打开聊天页面
在这台安装模型的电脑上访问 http://127.0.0.1:8080,先发一句“你好”。
注意:源码 ZIP 不是完整离线包。首次安装仍可能从 GitHub 下载引擎,并联网安装 Python 等运行组件。以后怎么用:Windows 双击 START-HERE.bat,Linux/Mac 运行 ./setup.sh;更换模型或设置时,再执行上面带国内源的命令。依据:官方源码安装说明。
先停掉模型,备份配置,原来的模型文件保留。按你当初的安装方式选:
Strata-data。若原来就放在程序文件夹旁边,新程序也放在同一父目录;自定义模型位置则用 --data-dir 指向原数据目录。运行 START-HERE.bat(Linux/Mac ./setup.sh)让新版完成准备。Git 安装的可以直接运行 UPDATE.bat 或 ./update.sh。strata models list 看能不能找到;找不到就用 strata launch --model-path 指向原来的模型文件夹。strata update,完成后用 strata --version 确认。新引擎有问题时,strata components rollback 可以退回上一个引擎。升级完先发短问题确认正常,再接 Agent。已经正常用的配置不用盲目追新,升级前先看文章顶部的已知问题。
STRATA_SOURCE=modelscope,源码方式确认命令里带 --source modelscope;检查能否打开 魔搭网站,网络恢复后重新运行同一条命令,已下载的部分会保留。还是装不上,在终端执行 strata doctor --live,把输出、报错截图、系统和硬件配置发出来,密钥记得遮盖。先看具体哪一步失败,不用一上来就删文件、重新下载整个模型。
先测速,再考虑调参数。终端版运行 strata bench run;源码方式 Windows 双击 BENCH.bat,Linux 运行 ./bench.sh。报告方便升级前后对比,或者发出来交流。详见 官方测速说明。
自动找最快设置:桌面应用里有“为这台电脑找到最快的设置”;终端版启动时可加 --tune quick(快速)或 --tune thorough(彻底),同一台电脑同样的选择会复用上次的结果,--retune 重新测。Mac 不支持这项校准。
多卡:新版每张卡可以设成“主卡 / 辅助 / 不用”,应用和 strata launch 都会问。命令行写法如 strata launch --gpu-roles 1=main,0=helper,没写到的卡就不用。v0.2.7 起,两张 NVIDIA 卡分层运行时读长提示词快了很多,官方两张 RTX A4000 上 32K 提示词的首字时间从约 142 秒降到约 28 秒。详见 官方多卡说明。
同一个问题,更新后回答稍有不同,不一定是装错了。v0.2.7 调整了多项默认加速,比如 12GB 显卡优先用已在显卡上的专家,模型选词会略有变化。日常用先保持默认,比较自己的常用任务能不能做好就行。
如果怀疑是新默认设置导致的问题,或者想做严格的版本对比,官方提供了一键退回 0.2.6 默认值的开关:
STRATA_DEFAULTS=026DS4_DEFAULTS=026;桌面应用里关掉“DeepSeek speed-ups”(DeepSeek 加速)开关也是同样效果终端版写法:strata launch --set STRATA_DEFAULTS=026。只想关掉 12GB 显卡那项优化,用 STRATA_ROUTE_PRIOR=0。你自己单独设置的参数仍然优先。这些开关用于排查和对比,不保证逐字一样,也可能变慢;小白不用改。详见 v0.2.7 发布说明。
Thinking · 思考强度
简单问题先用 off/low,复杂任务再提高。先保证短问题能正常回答,再发长文或接助手。
A 是部署模型的电脑,B 是用来聊天的电脑或手机。两者需要在同一可互通的局域网,B 不用再下载模型。开放给其他设备前,一定先设置 API 密钥。
先创建 API 密钥
在 A 的 Strata 应用里打开 API 服务相关设置,先“创建 API 密钥”,复制保存好。应用要求先有密钥才能共享给其他设备。
开启局域网共享
把访问方式选为“局域网”,然后点“复制局域网 URL”,得到类似 http://192.168.1.100:8080 的地址。v0.2.7 可以在设置里固定端口,更新后客户端不用改地址。
从 B 访问
B 打开复制的地址,填写密钥。
以局域网方式启动
strata launch --access lan也可以在启动界面的“访问”一步选“你的网络”。Strata 会自动生成密钥,并打印局域网地址;之后想再看密钥,运行 strata launch --show-key。
从 B 访问
B 打开打印出的地址,例如 http://192.168.1.100:8080,填写密钥。
不在同一个局域网时,终端版还支持 --access cloudflare(需要装 cloudflared)和 --access tailscale(需要装好并连接 Tailscale)。
关闭服务,备份配置
在 A 关闭服务,备份项目里的 strata-<model>.json 配置文件。
设置监听地址与密钥
Windows 在项目文件夹地址栏输入 cmd 并回车,执行下面命令。把密钥占位文字换成自己的长随机字符串:
START-HERE.bat --setup --host 0.0.0.0 --api-key "REPLACE_WITH_YOUR_LONG_RANDOM_SECRET"Linux 使用相同参数,把入口换成 ./setup.sh。按提示选择原来使用的模型和设置,等待启动。
找到 A 的局域网 IP,从 B 访问
在 A 执行 ipconfig(Windows)或 hostname -I(Linux),例如 192.168.1.100。B 打开 http://192.168.1.100:8080,填写刚才设置的密钥。
地址别填错
B 要填 A 的 IP。127.0.0.1 指当前设备自己,0.0.0.0 只是监听设置。
先检查 A 本机能否正常聊天、IP 是否正确、是否存在访客 Wi-Fi 隔离,再允许服务通过专用网络防火墙。不同地点的电脑需要另配远程访问方案。
终端版用户最省事:运行 strata connect,它会列出 OpenCode、Codex CLI、Claude Code、oh-my-pi、pi、Hermes Agent、OpenClaw 等工具,并把地址、密钥、模型名和上下文都填好,告诉你配置文件怎么写;strata connect --check 还能检查配好没有。桌面应用自带编程 Agent,也有“设置你的编程应用”的入口。
其他支持自定义模型的助手,手动填写:
http://127.0.0.1:8080/v1;另一台电脑填 http://A的IP:8080/v1。strata 或 /v1/models 返回的 ID。名称不会切换实际加载的模型。| 客户端协议 | 本机地址或请求路径 | 注意事项 |
|---|---|---|
| OpenAI Chat Completions | Base URL:http://127.0.0.1:8080/v1;请求:/v1/chat/completions | 普通聊天客户端通常选这一项 |
| OpenAI Responses | Base URL:http://127.0.0.1:8080/v1;请求:/v1/responses | Codex CLI 用这个;客户端需启用 Responses 协议 |
| Anthropic Messages | 请求:http://127.0.0.1:8080/v1/messages;Claude Code 的 ANTHROPIC_BASE_URL:http://127.0.0.1:8080 | Base URL 不要带 /v1,新版应用和 strata connect 显示的就是不带 /v1 的地址 |
另一台设备把 127.0.0.1 换成 A 的局域网 IP,并填写服务密钥。端口改过的话,地址里的 8080 也要一起改。Strata 的 Responses 实现是无状态的:客户端每次需发送完整历史,不支持 previous_response_id、后台任务或服务端保存回复。托管搜索等工具也不会由这个接口自动提供。详细限制见 官方 API 说明。
先验证,再接工具
先发短问题测试,再尝试读文件或改代码。聊天能连通但工具不能用时,还需检查助手是否支持对应的工具调用。
排错时附上这些信息
系统、CPU、显卡及显存、系统内存、模型名称、strata doctor --live 的输出和日志,密钥先遮盖。
点击问题标题展开答案,再次点击收起。
看完 QA 还是拿不准自己的配置能不能跑,或者有其他不懂的地方,可以 扫码进群问。群里没有任何收费项目,纯玩家交流,大家一起分享经验,少走弯路。
我自己是 5070 Ti+64GB DDR4,IQ3_S。上一期视频(旧版本)录屏约 50 多 token/s、日常约 90,属于个人体验,不代表同型号电脑都能达到;新版的速度我还没重新测。
Windows/Linux:32GB 优先选偏代码的 Coder(配 24GB 大显存卡时 Q2_0/IQ2_XS 也能跑低内存模式);48GB 可选 Q2_0/IQ2_XS;64GB 可以尝试 IQ3_XXS/IQ3_S。想聊天和处理中文,内存充足时优先通用版本。想要更小的模型,也可以试 Qwen3.6-35B-A3B。Mac 不套用这张选择表,尤其不能把 32GB Mac 直接理解成可以选 Coder;看 Q9 和前面的 Mac 配置说明。
有用,可以选择更多模型,减少内存不足带来的卡顿;想试 DeepSeek 也至少要 46GB。但容量翻倍不代表速度翻倍,CPU 和内存带宽也有影响。
显存不能直接替代系统内存。16GB 系统内存低于常规建议,可能需要频繁读硬盘;先换更省内存的版本,并查看内存占用。
8GB 卡能尝试,但较慢,官方推荐 12GB 及以上;多卡时 8GB 及以下的卡默认不用。按内存选版本、少发长文。看图功能在 24GB 以下显卡上默认用 CPU 处理,不占显存。
官方支持列表从 RTX 20 系列起,GTX 16 系列没有列出,不建议小白按这张卡准备部署。更老的显卡官方有 单独的实验说明。
先确认实际显存,笔记本 3060 不能套用桌面版规格。32GB 优先试 Coder,显存不足时体验可能受限。好消息是 v0.2.7 对 12GB 及以下的 NVIDIA 卡做了专门优化。
满足配置要求就能尝试,散热和功耗会影响速度。也可以让台式机运行模型,笔记本只负责访问。
新版支持 M1 或更新芯片的 Mac,要求 macOS 15 或更新系统,Intel Mac 不支持。下载 dmg 就能装,不用再自己编译。不想折腾的朋友,仍可以让 Mac 访问另一台已经部署好的电脑。
官方实测了 M4 Mac mini 32GB 的读 SSD 模式,Q2_0 大约 8–14 token/s;M1 Max 34GB 上 Q2_0 约 7.9 token/s。速度随可用内存变化,发长文需要等更久。36GB 等其他容量不能保证同样体验;16GB/24GB 机型也不要当成已经验证能顺畅运行。64GB Mac 可从 Q2_0 起步,96GB 再看 IQ3_S。步骤见 按操作系统安装 的 Mac 页签,依据:官方 Mac 文档。
可以,官方支持 Windows 10/11,还要满足显卡、驱动和内存要求。
在桌面应用或终端版里选好模型,会自动下载模型和依赖,不用自己到处找文件。国内网络看 国内用户先看这里 的说明。
模型经过压缩,并让显卡、CPU、内存和 SSD 一起工作,不是把全部参数装进显卡。常用的“专家”放在显卡上,其余放在内存里由 CPU 同时计算;约 29GB 的查表文件留在 SSD,每次只读几行。再加上一个小的草稿层先猜后面几个字、大模型一次验证,速度能快 1.6–1.8 倍。Coder 还减少了部分专家,通用能力会弱一些。
会读取 SSD,但读取不等于大量擦写。下载和系统换页会产生写入;内存不足时尤其要关注实际写入量、温度和卡顿。DeepSeek 大量从 SSD 读取,同样是读多写少。
有低内存模式,内存不够时会自动开启,但通常慢很多。硬盘不能等效替代内存,长期使用最好选适合现有容量的模型。v0.2.0 起 Linux 的读盘模式做了较大优化,官方在部分低内存测试中输出快了约 1.1–2.9 倍;这些是特定配置的结果,不代表你的电脑也一定翻倍。
官方 v0.2.7 在 RTX 3060 12GB 上用 IQ3_XXS 测到:写故事约 53 token/s,写代码约 62 token/s。更早的官方基准是 5070 12GB+Ryzen 5 7600+64GB 内存,短聊天 IQ2_XS 约 79、IQ3_S 约 53 token/s(引擎 0.1.26),Q2_0 约 94 token/s(引擎 0.1.36)。这些是官方在特定电脑上的结果,不是统一标准。token 是模型处理文字的单位,不等于汉字数;长文、思考模式和后台程序都会影响速度。
Mac 差别很大:官方 M5 Max 128GB 的 IQ3_S 约 75–100 token/s,32GB M4 mini 要读 SSD,Q2_0 约 8–14 token/s。DeepSeek 慢得多,RTX 5070+64GB 约 4–6 token/s。
我建议先测自己的电脑:终端版运行 strata bench run,源码方式用 BENCH.bat(Linux ./bench.sh)。升级前后比较时,模型和设置尽量保持一致。详见 官方测速说明。
先用短问题测试,再只发送相关代码、减少历史,把 Thinking(思考)调到 low。网页 Monitor(监控)或终端版的监控界面可查看是在读文字、思考还是输出。
先换更省内存的版本、关闭后台软件、减少上下文和同时进行的任务。虚拟内存可能避免部分报错,但频繁换页仍会很慢。
更强显卡也会受 CPU、内存和模型限制。项目没有一键叠加 ninfer 的官方流程,先按现有设置排查。另外 v0.2.7 的 RTX 40 系列速度表作者没有真卡实测,觉得变慢可以按 进阶说明 关掉试试,并向官方反馈。
可以。新版桌面应用自带编程 Agent,有“动手前先问你”(Manual)和“自由执行”(Bypass)两种模式,还支持网页搜索和 /loop 循环任务。也可以接入支持兼容接口的外部助手,终端版用 strata connect 配置。网页聊天也支持自行配置 MCP 工具,见 官方 MCP 配置。接入见第 4 节。
本地推理没有云端 token 费用,但有电费和硬件成本。搜索 API 等外部工具可能另收费。
功率(千瓦)×使用小时数×每度电价格。例如 250W 用 8 小时、电价 0.6 元,约 1.2 元;实际功率需要测量。v0.2.7 桌面应用的监控页能显示功耗,填上电价就能直接看电费。
适合离线使用、处理本地资料和大量重复任务。偶尔聊天、希望省事,也可以继续用云端。
先试整理笔记、分析一个代码文件或生成小工具,并人工检查。需要自动读文件、改代码时,再用应用自带的 Agent 或接外部助手。
参数大不代表每项任务都更强。用自己的常用任务比较正确率和完成时间,比只看参数量更有意义。
能辅助写游戏和网页代码,但仍需素材、测试与多轮修改。它不是原生视频生成模型,建议从一个小场景开始。
评论里的预测不能作为购买依据。先确定自己缺多少容量,再决定是否升级。
以下是安装和使用中常见的补充问题。
首次加载会把 35–55GB 放进内存,可能卡顿 1–3 分钟,这是正常现象。若十分钟仍无进展,检查可用内存和磁盘,终端版运行 strata doctor --live 看问题出在哪。
如果已经启动成功,却在发长文后一直卡住,或者服务自己重启,就别一直干等。先按 Q33 更新到新版,再发一个短问题确认正常,最后重试长文。仍有问题,把配置和日志一起发出来更方便排查。
先核对地址和密钥,再在助手里发一个短问题。401 通常查密钥,404 优先查接口路径和客户端选用的协议;连接失败查 IP、端口、防火墙。终端版可以用 strata connect --check 检查。
先检查是否已经启动一份 Strata。桌面应用 v0.2.7 遇到端口被占会自动换到下一个空闲端口并提示你,也可以在设置里固定端口;终端版用 --port 8081,源码方式同样加 --port 8081。客户端地址也要一起改。
不是。越长越占资源,读取也更慢;先用够完成任务的长度,长资料可以分段。超长上下文选项属于实验扩展,DeepSeek 256K 以上官方也标注了“还没测”。
Windows/Linux:能。终端版的 --parallel N 可设 1–8 个同时回答,默认按显卡自动决定;同时回答不等于每个人都一样快,12GB 卡上单个回答可能变慢。v0.2.7 起两张 NVIDIA 卡同时服务多人时也更快了。一个人用,先保持默认就好。Mac 当前只处理一个请求,多个用户排队,不支持这项并发设置。详见 官方并发说明。
桌面应用:模型默认在 文档/Strata/Models(可以换),聊天记录和应用状态在用户目录的 .strata 文件夹。终端版:用 strata models list 查看模型位置。源码方式:模型通常在项目旁的 Strata-data,配置和日志在项目目录。网页聊天的记录存在浏览器里,清除网站数据可能丢失。需要分别备份。
先停掉模型,备份自己改过的设置。更新程序就好,原来的模型文件保留,不用重新下载几十 GB。本文核对的最新版是 v0.2.7;已知问题见文章顶部,不是每台电脑都要立即升级。
strata update --check 看会更新什么,strata update 安装,strata --version 确认。新引擎不对劲就 strata components rollback 退回。UPDATE.bat,Linux/Mac 运行 ./update.sh,完成后再运行原启动入口。Strata-data;使用自定义目录时带上 --data-dir。git pull 可能失败。新版更新脚本会尽量迁移;遇到无法更新时,另下载最新版、保留原数据和配置,避免盲目重置。模型下载完后,Strata 本身可以断网运行;官方说明它不需要账号,也不发送使用数据、崩溃报告或统计信息。应用自带的编程 Agent 是单独组件,有自己的遥测开关,介意的话去设置里看一下。但网页搜索、Agent 工具和远程服务可能联网发送数据,使用敏感资料前要核对这些工具。官方把每一项会联网的情况列在 SAFETY.md。
不必须。源码方式仍然能用,国内源参数也最成熟。桌面应用的好处是有中文界面、更新方便、自带 Agent;想换的话,模型文件可以继续用,见 升级说明。
大多数人先选 Qwen3.8-Flash-Next。DeepSeek 要 240–280GB 硬盘、至少 46GB 内存,12GB 显卡上回答只有每秒几个 token,适合硬盘大、愿意等、想试更大模型的朋友。v0.2.7 起 DeepSeek 默认也能看图,首次多下载约 1GB。
按官方源码,STRATA_SOURCE=modelscope 对 DeepSeek 走的是同一套下载程序,前提是魔搭上有对应文件;DeepSeek 文件在魔搭的同步情况我还没核实。两百多 GB 的下载,建议先用 strata launch --family deepseek41 --model ist-das-2.00bpw --plan 看计划,确认来源和大小再开始。
还有不懂的地方,欢迎扫码进群问;跑通了也可以来分享你的配置和速度,给其他朋友参考。群里没有任何收费项目,纯玩家交流,大家一起玩、一起研究就好。
AI 玩家交流群
部署卡住了、配置不会选、Agent 不会接?不懂的可以进群问。没有任何收费项目,纯玩家交流,欢迎分享自己的玩法和经验。
11 月 2 日前有效
让世界充满爱,peace!
桌面应用、终端版安装要求与版本更新
strata launch、strata connect 全部参数
服务接口与日常使用
内存、硬盘需求与实测速度
遇到问题时查看官方排错说明
Apple Silicon、统一内存与当前限制