前言

最近看一些AI相关的咨询的时候,总是能看到一些博主在推崇使用AI语音输入法,说是在跟AI聊天,使用Agent的工具时会更加顺手。确实无论是跟AI聊天也好,使用Agent工具也好,遇到一些比较复杂的表达,长Prompt这类的场景,用键盘输入确实是不够迅速,所以我也就决定试试这一类产品,详细了解之后发现,市面上这一类产品还是比较多的,经过一段时间的使用之后,就想着写篇博文分享一下。

AI语音输入法的work flow

首先让我们来了解一下AI语音输入法,语音输入法并不是什么很新鲜的东西,我印象中一几年的时候,国内像讯飞这种厂商的语音输入法在纯中文场景就已经非常可用了,本质上就是一个语音转文字的模型,一般称之为ASR模型。

作为一个优秀的ASR模型,我们对他的要求自然时候精准的转录,将用户说的每一个字都精准的转化为文字。但是,人在说话的时候,是会有一些口癖,比如:嗯,啊,而且如果是长文本输入,还有可能出现说错话的情况,临时修改的情况。对于传统的语音输入法来说,面对这种情况只能手动对识别出的文字进行手动修改。

而在LLM爆发之后,大家就想到了让LLM来进行这种修改,整理工作,也就是ASR模型先将用户说的话转换为精准的文本,然后交给LLM进行去口癖,理解用户本意,甚至格式化改写这种工作,具体要求可以通过提示词来进行设计,并且这种文字工作本身就是LLM擅长的,以现在的LLM技术,成本非常的低廉,这就是AI语音输入法的work flow。

主流产品对比与个人选择

了解了AI语音输入法的工作原理,现在让我们来了解一下市面上有哪些主流的产品,这里我也只能分享我用过的,我大致将其分为三类

海外产品

这一类的代表产品自然是Typeless,我自己用过的有Wispr Flow、Typeless,准确度上表现不错,单一语言基本上不会出错,博主测试了普通话,粤语,英语,日语,中英混说的场景表现也不错,但是表现肯定没有单一语言好,至于中日混说这种小众场景表现就很一般了,基本处于不可用的状态。

然后使用的模型上,上述两款产品都采用的闭源模型,LLM提示词上,Wispr Flow提供了多种整理强度的设置,不过提示词本身也是闭源的,无法进行彻底的控制,而Typeless则是强制性的高整理强度,不过经过Typeless整理的文本确实非常适合vibe coding的场景。

这里的整理强度是指,LLM在对文本进行整理的时候,是只是简单的去除口癖,尽可能保留原始文本,还是将其进行彻底的重新整理,使用结构化输出,只要原始含义正确即可,这也是目前多数AI语言输入法产品的逻辑,给几个不同的整理强度,让用户自行选择。

最后是价格上,海外产品的价格那自然是几乎不可用的状态,例如Typeless每个月的订阅费是12刀,每周的免费额度是8000个词,如果使用强度比较高是肯定不够的,所以虽然Typeless很好用,但是我的钱包确实不允许我用。

国内产品

国内产品的代表应该是豆包输入法,除此之外还有例如千问输入法,微信输入法等产品,我只试用了豆包输入法,因此就谈谈豆包输入法。准确度上表现跟海外产品差不多,单一语言没什么问题,多语言有待提高,文本整理则是强制性的轻度整理,模型跟提示词自然也都是闭源的。价格上,国内产品自然是先免费抢占市场的逻辑,所以目前上述三款产品都是完全免费的,且目前没有收费项目。

国内产品最大的不同在于产品形态,国外产品都是一个单独的语言输入法,放在后台运行,用快捷键触发,而国产的豆包输入法与微信输入法则都是完整的键盘输入法,只是包含了语言输入的功能,千问我了解到是千问app的一部分,属于大杂烩app。

我没有选择国内产品的原因也是因为,我想要一个独立的语言输入法,而不是把我的文字输入法一并换掉,而且我是坚决不使用国产的文字输入法的,隐私方面没有保障,社区中也有人监测到豆包输入法在闲时进行数据上传,对于隐私敏感人群来说,这些产品显然不是一个好的选择。

框架产品

最后一类产品,我称之为框架产品,也就是搭建一个AI语言输入法的框架,并且完全开放整个work flow中的所有可设置项,包括ASR模型,LLM,以及LLM的提示词,这一类产品我用过闪电说openless

其中,闪电说属于闭源商业产品,他们有自己的模型与订阅套餐,但同时也允许用户自己配置ASR模型与LLM,不过LLM的提示词不能完全自定义,并且官方也推荐用户自己配置,闪电说的官方文档中有一篇开发者写的最佳实践,选用了豆包的流式语言输入2.0作为ASR模型,以及Doubao-Seed-2.0-mini作为LLM,确实是一个经济实惠且效果不错的方案,社区还有一个主流方案是用Deepseek-flash,我使用下来感觉两者没有明显差别,主要还是看提示词。

这一套方案在准确度上跟上述产品一样,毕竟接的就是豆包的ASR嘛,整理效果上则是主要看提示词质量了,我对闪电说最不满意的点也是这一个,因为提示词无法完全自定义,只能在原有的提示词上加提示词,我在使用的时候感觉闪电说自带的轻度整理回车用的太频繁了,然后我在附带提示词中写了不要滥用回车,然而收效甚微。

最后是openless,这也是我最后选择的主力产品,这是一个完全开源免费的软件,ASR模型,LLM,提示词都完全开放设置,并且提供了本地ASR模型的选项,还有提示词社区,可以在社区中下载别人设计好的提示词直接平替Typeless,配置上我用的也是豆包流式语言输入2.0 + Deepseek-flash的方案,效果跟闪电说基本一样,不过得益于可以完全自定义的提示词,整理效果会更好。

还有一个我很刚需的功能就是快速切换整理风格,因为Typeless这种结构化整理风格不是万用的,在回消息,跟AI闲聊这种场景,我还是更喜欢用轻度整理,只有在给agent提长需求的时候,我才需要结构化的整理,而openless允许为常用风格设置快捷键,快速切换,深得我心。

不过openless也是有缺点的,那就是目前还处于高速开发更新阶段,软件的方方面面都不是很完善,比如说刚才提到的提示词社区功能,居然是把提示词下载下来之后在自己导入,包括一些不稳定性问题,我自己是没有遇到过,但是反馈群中有时会有人反馈软件闪退等问题,软件界面目前也比较简陋,录音的胶囊球也不够好看等等。

最后就是价格问题,由于是用户自己配置,因此价格主要取决于配置方案,以我使用的方案为例,主要成本是豆包的ASR模型,目前定价是¥1/1h,预付费会便宜一点点,而LLM的成本反而是很低了,基本上一个月不太可能超过一块钱,无论是Doubao-Seed-2.0-mini还是Deepseek-flash,如果使用本地部署的ASR模型的话,那使用成本就可以压到很低了,一个月不太可能超过一块钱。

博主本人的使用强度不算高,一个月不超过10个小时,计算下来的总费用也就在一个月10块钱左右,还是可以接受的,由于火山引擎的模型基本都有试用额度,所以如果使用上面的配置方案,ASR模型的前20小时是不需要付费的,Doubao-Seed-2.0-mini也有一定的免费额度,Deepseek-flash确实没有免费额度,博主的ds账号里还剩一些钱,就顺便拿来用了。