在开始体验之前,我觉得我有必要介绍下Jev是个什么

其实就是一个前OpenAI创始人出来做的所谓system one模型,什么?你问我什么是system one模型?他的官网是这么说的,不管你信不信,反正我是信了.jpg

说他是一个LLM,倒也不完全是,因为他输出不是随机的,只要固定上下文和选项,输入结果就一定一致(有点像temperature=0),并且他的速度特别快,效率这么快的同时,又比那些分类器更强(毕竟没那么死板),算是他们的集合体

具体表现就是你只能输入结构化的数据,不能像传统LLM那样自由地进行自然语言对话。

在这里,结构化数据又表现为他只能接受三种形式的输入,分别是Choice,Socre,Noul,分别对应着几种选择中选择哪个(当然这个几种选择是你自己定义的),在某个维度中处于哪一档,以及某个条件是否成立(gork is that true?)

既然如此,我就有一个大胆的想法,既然jev有选择几个选项中概率的功能,那我岂不是可以给他加上词库,让他强行能说话?

说干就干,我直接给他加了一个n-gram词库,原理大概就是:当你输入第一个字的时候,他就会根据这个字去词库里面找这个字后面可能会出现的字。

我再把返回的字作为结果,输入到jev里面去,让他根据上下午选一个字,形成一个循环,直到我想要的长度为止,并且为了防止他瞎说话,我还在第一个字的时候加入了个语境预设,让他自己来选择语境

效果如下:

当然,如果你也想试的话也可以直接到这里,我已经”开源“了代码(指代码是gpt一把梭的)

试了几轮之后,我感觉jev最大的优势在于便宜和快,智能程度目前远远比不上主流的”大“模型,很多时候他做的一些决策远远不如主流模型思考后的结果,但是速度要快的多,在类似游戏等需要及时反应的场景会比较有用,说不定让LLM指定好todo之后,让jev去根据这个上下文来作为执行层会是一个不错的选择