LM Studio 发布 Bionic:专门针对开源模型的 Codex,模型跑本地还是上云你自己定
- LM Studio 发布 Bionic,一个面向开源模型的 AI Agent,是原来那个 LM Studio 之外的一个独立新 app。
- 它能真正动手干活:Work 项目做研究、写作、文档处理,Code 项目在你本地的代码库里搜文件、改代码、跑命令。
- 招牌能力是模型跑在哪你自己选:本地跑(免费、数据不出设备)、云端跑前沿开源模型(默认零数据保留)、或用 LM Link 借局域网里另一台电脑的模型。
- 支持实时本地语音转录,说话转文字全程在设备上完成,语音不上传。
- 本地和 LM Link 模型免费、不用登记账单,只有用云端模型才按用量扣 credits;Mac 和 Windows 今天推出预览版。
LM Studio 出了个能替你干活的助手
本地大模型工具 LM Studio 最近发布了 Bionic,一个专为开源模型打造的 AI Agent。
过去几年,想在自己电脑上跑开源大模型的人,第一个装的往往就是 LM Studio。它把下载模型、本地推理这些麻烦事包成了一个好用的桌面 app。但它一直更像一个聊天框加模型管理器,你能和模型对话,却很难指望它替你把一件真事从头做到尾。
想让 AI 真帮你干活,以前得二选一
要一个能动手做事的 AI 助手,过去基本躲不开一道取舍。
假设你想让 AI 帮你读一堆调研笔记、写份对比总结,或者在一个项目代码里找出超时的 bug 顺手修掉。要它真能读你的文件、改你的代码,它就得拿到这些东西。今天最顺手的那批助手,处理的时候会把你的资料送到厂商的云端跑一圈。活是干得漂亮,但你的合同、代码、录音,都在别人的服务器上过了一遍。
另一条路是自己在本地跑开源模型,隐私是守住了,可这类工具大多停在聊天层面,你问它答,真要它去动文件、跑一串命令、把结果存下来,往往力不从心。
能干重活、效果好,但你的文件、代码、语音要上传到厂商云端才处理。
数据守在自己电脑里,隐私好,但大多只能聊天,干不了成套的真活。
Bionic 想同时占住这两头:既能真正动手干活,又让你自己决定数据要不要出设备。
两种项目:一种管文档,一种管代码
Bionic 把活分成两类项目,你按要做的事挑一种进去。
- 创建和编辑文档、幻灯片、PDF
- 把文件、文件夹拖进去当资料
- 它生成的文件都归到项目里,自动保存
- 自带文件、搜索、Git、命令行工具
- 能翻整个仓库、一次改好几个文件
- 能在本地跑命令,改动前给你看 diff
一个项目里可以开好几个独立 session(会话),各干各的任务;跨项目还能同时跑多个,让几件活并行推进。它生成或改动的文件会集中放在项目文件区,同一个项目里的所有 session 共享这些文件。代码项目里它跑命令、改文件,改动保留前会先把 diff 和命令输出摆给你看,由你决定要不要留。
模型跑在哪,你自己说了算
这是 Bionic 和大多数 AI 助手最不一样的地方:同一个任务,你可以决定让它用的模型跑在哪。
一个 Bionic 的 session 有三个去处可选,隐私和花费也跟着这三条路分开。
三条路里有两条完全免费、数据不出你的地盘:本地模型用自己电脑的算力,LM Link 用你局域网里另一台机的算力。只有当你要动用最强的前沿开源模型、干最重的活时,才走云端那条付费路,而这条路默认也是零数据保留。隐私和花费,都被拆成了你能一眼看清、随手切换的选项。
先把这条路上的两个新词讲清楚。
ZDR 是 Zero Data Retention 的缩写。意思是你发到云端服务器的内容,模型处理完就立刻丢掉,服务器上不会存你的数据副本。云推理服务器都设在美国,全线默认开启这个策略。
LM Link 让 Bionic 借用你局域网里另一台电脑上的模型。比如家里的台式机插着一块大显卡,你的笔记本算力不够,就让笔记本连过去用台式机的模型算,模型和数据都还在你自己的设备之间,没有出门。这条路和本地一样免费,不耗 credits。
对着它说话,字不出你的电脑
除了打字,Bionic 也能听你说。它带了本地实时语音转录,你自然地对它讲话,说的话会实时转成文字。
关键在于处理的地方:你的语音和音频全程在设备本地转写,不会离开你的电脑。这和打字走本地模型是同一个思路,把最私密的那部分数据留在自己这边。
底子还是 LM Studio,Mac 和 Windows 现在能装
能在本机顺畅跑各种开源模型,靠的是 Bionic 底下这套已经磨了很久的推理技术。
要说清楚的是,Bionic 是一个独立的新 app,和原来的 LM Studio 分开。如果你还想做那些更底层的高级配置,原来的 LM Studio 可以继续和 Bionic 一起用。
要花钱吗
本地模型和 LM Link 远程模型都免费,不耗 credits,也不用先登记账单。只有当一个 session 用到云端模型时才扣 credits,扣多少看你选的模型和处理的字数。账户分 Personal(个人)和 Organization(团队)两种。目前没有公布固定的每次任务单价,只在用量页看到累计消耗。
AI 替你干活,从「资料必须交给云端」→「跑本地还是上云,你自己定」
LM Studio 出了个叫 Bionic 的干活助手:能改文档、能改代码,本地跑免费、数据不出门,Mac 和 Windows 今天上线预览版,一页带图讲完。
↓ 一页读完 · 有一张会动的图
想在自己电脑上跑开源大模型的人,第一个装的往往就是 LM Studio,它把下载模型、本地运算这些麻烦事,包成了一个好用的桌面软件。
但它一直更像一个聊天框加模型管理器:你能跟模型对话,却很难指望它替你把一件真事从头做到尾。
✘ 干不了成套的真活,自己翻文件、改代码、跑命令、把结果存下来
它擅长「把模型跑起来」,但基本止步于聊天;真要它动手做完一整件事,往往力不从心。
Bionic 是 LM Studio 之外的一个独立新软件,把它从「聊天工具」升级成了能真正动手的助手。而它要解决的,是过去一道躲不开的取舍。
过去想让 AI 帮你干活,基本得二选一:用云端助手,活干得漂亮,但你的文件、代码、录音都要先传到厂商的服务器;用本地工具,隐私守住了,可大多只能陪你聊天,干不了真活。
要么把资料传到厂商云端换来能干活,要么用本地工具保住隐私但只能聊天。二选一。
两头都要:既能真干活,又让你自己定数据出不出门。活分两类,Work 项目管文档研究,Code 项目管本地代码库。
→ Bionic 翻仓库 · 改多个文件 · 跑命令,改完先给你看改动对照(diff)再决定留不留
它还能听你说话,本地实时把语音转成文字,语音全程不离开你的电脑。那「既要能干活、又要数据你做主」到底怎么做到的?关键在下面这张图。
Bionic 跟大多数 AI 助手最不一样的地方:同一个任务,模型跑在哪由你选,隐私和花费也跟着这三条路分开。
普通人对「能跑三种模型」没感觉,对「要不要花钱」有感觉。Bionic 的账很好算:日常活不花钱,只有请出最强模型的重活才付费。
- × 交给云端:活干得好,文件全传走
- × 留在本地:守住隐私,只能陪你聊
又让你定数据出不出门
数据不出门
处理完就删 · 付费
数据还在你手
不花钱、不用记账单