Jev 模型不说话的判断器

来源:笔记 / 时间:2026-09-23

Jev 是 TypeSafe AI 的旗舰“System One”模型,定位不是聊天/生成式大模型,而是 结构化决策模型:提交待判断内容(state)和若干个类型化问题(questions),并行评估后返回 _machine消费的答案: 选项 分数 概率 置信度

只做判断,不写文章 不生成自由文本 不适合写稿/对话/代码生成
适合路由、分类、风控、审核、Agent 决策网关

Jev 这个名字 取自 19 世纪英国经济学家威廉·斯坦利·杰文斯(William Stanley Jevons)
杰文斯悖论说的是蒸汽机效率越高,煤反而烧得越多
TypeSafe 赌的是同一件事:当一次判断便宜到接近免费,开发者会在以前根本舍不得用的地方,疯狂往里塞 AI。

经济学上著名的「杰文斯悖论」指出,当技术的进步提高了某种资源的利用效率,导致其使用成本大幅下降时,该资源的总消耗量不但不会减少,反而会呈现爆发式增长
TypeSafe AI 给 Jev 定下的价格是每百万输入 token 仅需 0.042 美元,输出免费。按照这个资费,一天进行 1 万次业务决策,单月成本在 120 美元左右
而在以往,如果使用同等准确率的顶级推理大模型做这套流程,每月账单会直奔 3.5 万美元
暴跌的成本 激活了此前被判定为「毫无商业价值」的边缘场景
「判断」和「生成」分家
过去 AI 主线 是「大模型越来越大、越来越聪明、越来越全能」
一个模型既能聊天,又能写代码,还能看图做表,什么都会
整个行业默认「智能」是一块铁板,不可拆分
Jev 撕开了这块铁板。 证明了有些工作需要推理和表达,有些只需要快速判断
把两者绑在一起,是一种结构性的浪费

Jev 催化新范式
AI 系统不再只有「一个大脑」,而是开始出现分工
海量的毫秒级判断交给便宜到像自来水一样的直觉模型
只有在真正需要向人类输出成段文字、起草复杂文档的少数节点,才唤醒那个昂贵的生成式模型
这不是降本增效,这是 AI 基础架构从「中央集权」,走向「分布式分工」的起点

Quick start
https://docs.typesafe.ai/introduction/quickstart
Here’s everything you need to get started immediately.
第一步:在 Playground 试用并申请 API Key
Jev 目前处于早期访问阶段,使用流程分三步:
登录 Playground
https://docs.typesafe.ai/introduction/quickstart
打开 console.typesafe.ai/playground
粘贴任意一段文本作为状态,添加一个 Noul 问题如"Does this message express urgency?"
即可看到返回的概率
申请 API Key
在控制台的 Keys 页面创建密钥
官方文档写明"Get your API key from the dashboard"。
设置环境变量
SDK 默认读取 TYPESAFE_API_KEY
无需在代码中硬编码

export TYPESAFE_API_KEY=“你的密钥”
pip install typesafe-sdk # Python 3.10 以上
npm install @typesafe-ai/sdk # Node.js 20 以上


第二步:用 curl 发起调用
Jev 全部模型共用一个端点
请求体只有三个顶层字段:state、model、questions

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "Hi, I have been trying to connect my Stripe account for 3 days and the integration keeps failing. I am losing sales. Please help ASAP.",
    "model": "jev-latest",
    "questions": {
      "urgency": {
        "type": "noul",
        "instructions": "Does this message express urgency?"
      }
    }
  }'

返回体的顶层字段为 model、answers、usage
model 字段返回实际作答的版本号,即使请求里写的是别名,便于日志记录

{
  "model": "jev-1.13.0",
  "answers": {
    "urgency": { "type": "noul", "noul": 0.99 }
  },
  "usage": { "input_tokens": 360, "output_tokens": 39 }
}

第三步:理解三种问题类型

Jev 只有三种问题原语,可在同一次请求中任意混用,所有问题针对 同一状态 并行独立评估,官方称"增加问题几乎不改变响应时间"

原语

用途

请求字段

返回字段

Choice

从固定选项中选一个

instructions、criteria(选项名到描述的映射,最多 255 项)

choice、probabilities、confidence

Score

按有序等级打分

instructions、criteria(从低到高的等级描述数组,2 到 10 级)

score、probabilities、confidence、legend

Noul

判断是非

instructions,可选 criteria 说明 true 与 false 各指什么

noul(0 到 1 的"是"概率)

三个字段的设计细节:

  • 问题 id 不会发给模型。字典键只用于回传答案,模型看到的是 instructions 和 criteria 的内容,因此选项描述必须能彼此区分

  • Score 的分值等于 等级在数组中的下标
    三级量表返回 0 到 2 之间的加权均值,如 0.57 概率落在第 1 级、0.43 落在第 2 级则 score 为 1.43。官方建议"描述情境而非程度",纯数字等级会导致概率分散

  • Noul 没有 confidence 字段
    二元分布用一个数即可完整描述,接近 1 为强"是",接近 0 为强"否"

from typesafe_sdk import Choice, Noul, Score, TypeSafeClient

ticket = "Hi, I have been trying to connect my Stripe account for 3 days and the integration keeps failing. I am losing sales. Please help ASAP."

with TypeSafeClient() as client:
    response = client.system_one(
        state=ticket,
        questions={
            "department": Choice(
                instructions="Which team should handle this",
                criteria={
                    "billing": "Payments, invoices, refunds",
                    "technical": "Integration errors, API failures, bugs",
                    "sales": "Pricing questions, upgrades, new purchases",
                },
            ),
            "frustration": Score(
                instructions="How frustrated is the customer",
                criteria=[
                    "Neutral or polite, no complaint",
                    "Annoyed, mentions a problem but stays civil",
                    "Angry, threatens to leave or uses hostile language",
                ],
            ),
            "is_urgent": Noul(instructions="Does this message express urgency?"),
        },
    )

print(response.answers["department"].choice)       # technical
print(response.answers["frustration"].score)       # 1.0
print(response.answers["is_urgent"].noul)          # 1.0

状态字段可是字符串,也可是 JSON 对象或数组
官方建议多数请求用对象,把工单、订单、退款政策等相关信息放进同一个 state 并各自命名,模型只读取一次状态再并行回答所有问题。

第四步:用 confidence 做三档路由
confidence 是从概率分布形状压缩出的 0 到 1 单值,全部概率集中在一个选项时为 1.0,分布越平均越低
官方给出的三选项 近似公式为最大概率乘 3 减 1 再除 2
它只描述模型输出的分布形状,官方明确"不是答案正确的保证"
官方推荐的用法是 把 confidence 作为第二个决策维度,按操作风险设不同门槛

from typesafe_sdk import Choice, TypeSafeClient
with TypeSafeClient() as client:
    response = client.system_one(
        state=user_message,
        questions={
            "action": Choice(
                instructions="What does the user want to do",
                criteria={
                    "check_balance": "View account balance",
                    "approve_transfer": "Approve a pending withdrawal",
                    "support": "Get help with something else",
                },
            )
        },
    )
# route_to_human、show_balance 等为业务侧自定义函数
answer = response.answers["action"]
if answer.confidence < 0.5:
    route_to_human(user_message)            # 模型确实不确定,不要猜
elif answer.choice == "check_balance":
    show_balance(account_id)                # 低风险、可恢复,直接执行
elif answer.choice == "approve_transfer":
    if answer.confidence > 0.9:
        confirm_then_execute(account_id)    # 高风险操作要求更高门槛
    else:
        ask_user_to_confirm(account_id)

官方文档 命名为 Confidence-Gated Routing
另外三种官方模式是
Speculative Fan-Out(一次发出多个推测性问题、由代码决定用哪些)
Composite Scoring(多个原子 Score 在代码中加权合成)
Intent Routing(分类后分别交给确定性逻辑、专用大模型或人工)
阈值的原则是先保守、用自己的数据测、再调整

第五步:用开源适配器和大模型做对照

TypeSafe 开源了 system-one-adapter-python
是 TypeSafeClient 的替代实现,用同一套 Choice、Score、Noul 接口调用大模型,方便在成本、速度、准确率上做同题对比


pip install 'system-one-adapter[openai]'
from system_one_adapter import SystemOneAdapterClient, Noul
from system_one_adapter.providers.openai import OpenAIProvider

client = SystemOneAdapterClient(
    structured_outputs=True,
    llm_answer_mode="probabilities",
    normalize_probabilities=True,
)

response = client.system_one(
    state="This book was a delight to read.",
    questions={"positive": Noul(instructions="The book review is positive.")},
    model=OpenAIProvider("模型名", base_url="https://你的兼容端点/v1"),
)
print(response.answers["positive"].noul)
print(response.usage.latency, response.usage.input_tokens_total)

适配器的 OpenAIProvider 接受任意 OpenAI 兼容端点作为对照组,响应对象额外带 latency、重试次数和每次请求的原始记录

第六步:落地前必须知道的限制
据 TypeSafe 模型页与独立测试者 Emil Lindfors 报告,Jev 有六项限制:

速率限制动态调整
官方警告在 GPU 供给到位前限制"可能不经通知变化",SDK 默认按 retry-after 头退避重试,Python 中超限抛出 TypeSafeRateLimitError

上下文预算双重约束
64K 覆盖状态加全部问题,32K 覆盖状态加最长单个问题,超长文档需先切分

英语优先
官方称中日韩文字"可以处理但准确率较低",Lindfors 的挪威语测试发现每 Token 约 2.06 字符,32K 只能装约 6.4 万字符

按字面读指令
测试者发现问题写得越谨慎间接,与参考标签的一致率越低,官方建议措辞直接、让高值对应"是"

不可微调
同一套权重服务所有账户,领域知识只能通过 state 和 criteria 注入

不解释理由
输出只有选项与概率,需要推理链的合规场景不适用

官方另提供 Agent Skill
在 Claude Code 中运行 claude plugin marketplace add typesafe-ai/skills
后可让 AI 编程助手按官方规范生成集成代码,据 GitHub 数据该仓库有 1270 个星标

常见问题
Jev 现在可以直接注册使用吗?
需登录 console.typesafe.ai 加入候补名单后获得 API Key
Playground 登录后可直接体验
第三方网关 OpenCode Zen 已上架 jev-1.13 与免费版 jev-1.13-free,可作为试用入口。

model 字段填 jev-latest 还是 jev-1.13.0?
官方建议开发阶段用 jev-latest,生产环境若已按某版本调好 confidence 阈值则锁定版本号
因为别名随新版本发布会自动迁移。响应中的 model 字段始终返回实际版本号,可用于日志核对。

Jev 会记录我的数据吗?
官方模型页写明 Jev 不使用客户请求与响应训练,企业客户可申请零数据保留
服务部署于美国西海岸,跨境数据传输需自行评估合规

一次请求最多能问多少个问题?
官方未给出问题数上限,约束来自 64K 总上下文
每个 Choice 最多 255 个选项,每个 Score 最多 10 级
官方推荐把可能用到的问题一次全发出去,代码只读需要的答案,代价是全部问题都计入输入 Token。

Jev 输出的 score 是 1.0,能说明什么?
只能说明加权均值为 1.0,不能说明分布
可能是全部概率集中在第 1 级
也可能是第 0 级和第 2 级各占一半
官方要求 score 必须和 probabilities、confidence 一起读

总结
Jev 的核心步骤是
在控制台申请 API Key
向 api.typesafe.ai/v1/systemone 发送 state 与 questions,
用 Choice、Score、Noul 三种原语把复杂判断拆成原子问题
再用 confidence 阈值在代码中决定自动执行、请用户确认或转人工
价值在于毫秒级延迟和校准过的概率,前提是任务能被表述为选择、评分或是非题,且输入以英语文本为主

延伸阅读
TypeSafe 官方快速开始
https://docs.typesafe.ai/introduction/quickstart

TypeSafe 模型与限制页
https://docs.typesafe.ai/models

TypeSafe 置信度文档
https://docs.typesafe.ai/confidence

TypeSafe Python SDK
https://github.com/typesafe-ai/typesafe-sdk-python

TypeSafe JavaScript SDK
https://github.com/typesafe-ai/typesafe-sdk-js

开源适配器 system-one-adapter-python
https://github.com/typesafe-ai/system-one-adapter-python



客服