面向 Demo 演示的完整操作脚本:从基础功能讲到核心能力,每一步给出操作 → 看点 → 讲解词 → 背后原理,照着念即可完成一场 15–30 分钟的演示。
所有步骤均已在 Qwen3.8-27B(llama.cpp)环境实测通过(2026-08-27)。
| # | 检查项 | 命令 / 操作 | 预期 |
|---|---|---|---|
| 1 | 服务已启动 | TrueAGT.exe(项目根目录) | 终端出现 http://127.0.0.1:8765 |
| 2 | 健康检查 | curl http://127.0.0.1:8765/healthz | {"ok": true, "version": "0.9.233"} |
| 3 | 模型已接入 | curl http://127.0.0.1:8765/api/status | "demo": false,model 为实际模型名 |
| 4 | 浏览器打开 | 访问 http://127.0.0.1:8765 | 聊天页面正常加载 |
TrueAGT.exe --demo 离线演示(Mock 模型,回复为预设脚本,页顶有「演示模式」标识)。demo: false 是演示的加分项——当着观众面确认这是真模型在跑。操作:在网页输入框发送——
你好,请用两句话介绍一下你自己。
看点:回答逐字出现,不是等全部生成完才显示。
讲解词: 「回答是一个字一个字蹦出来的,这不是动画效果——服务端用 SSE(Server Events)把每个 token 实时推给浏览器。用户感知到的就是『模型在边想边说』,长回答不用干等。」
背后原理:POST /api/chat 返回 text/event-stream,每个事件形如 data: {"type": "llm_delta", "delta": "..."}。前端按事件渲染。
开发者加演(可选,另开终端):
curl -N -X POST http://127.0.0.1:8765/api/chat \
-H "Content-Type: application/json" \
-d '{"session_id": "<会话ID>", "message": "你好"}'
终端会直接打印原始 SSE 事件流——观众能看到 llm_delta → usage → final_answer → done 的完整事件序列。
操作:发送——
帮我算一下 (123+456)*7 等于多少,顺便告诉我现在几点。
看点:回答上方出现执行过程面板,能看到模型自主决定调用 calculate 和 current_time 两个工具,参数与结果一目了然。
讲解词: 「我没有写死任何『遇到算术就调计算器』的规则。是模型自己读了工具清单(共 7 个内置工具),判断这道题需要计算器,自己生成调用参数——注意表达式是它自己从我的自然语言里提取的。算完拿到结果,它再组织语言回答。这就是 ReAct 循环:思考 → 调工具 → 看结果 → 再思考。」
背后原理:SSE 流中的 llm_response 事件携带 tool_calls,服务端执行后以 tool_result 事件回传,模型进入下一轮迭代,直到产出 final_answer。计算器采用 AST 白名单求值,不是 eval,任意表达式不会执行系统命令。
操作一:发送——
请记住:我的项目代号是 TrueAGT。
看点:执行过程里出现 note 工具调用,提示「已记入长期记忆 #编号」。
操作二:点左侧「新会话」,换一个全新会话,发送——
我的项目代号是什么?
看点:新会话对这个信息毫不知情,但回答正确:「TrueAGT(TrueAGT)」。
讲解词: 「注意,我开了一个全新的会话——会话之间互相隔离,短期记忆不可能带过来。它能答对,是因为刚才把信息写进了长期记忆库:按用户隔离、落盘持久化、支持标签和关键词检索。模型在需要时会用 recall 工具检索相关记忆。重启服务它也还记得,因为记忆在磁盘上。」
进阶加演(可选):
data/trueagt.key,永不上传)。操作:发送一个多步任务——
帮我调研流式输出的几种实现方案,写一份对比总结。
看点:系统不直接执行,先弹出执行计划(如:检索资料 → 记录候选方案 → 估算指标 → 输出总结文档),等用户点「批准」后才逐步执行。
讲解词: 「Agent 最大的风险是不受控地乱跑。TrueAGT对复杂任务的处理方式是:先拆解成计划给用户看,人确认了再动手——工具权限、执行边界都在人的监督之下。每一步的执行过程同样实时可见。」
背后原理:plan_first: true 时先走 POST /api/plan 生成步骤;用户批准后前端携带 plan 数组调 /api/chat,跳过规划直接执行。周期性 reflection 事件让长任务及时收敛,不无限循环。
操作:左侧栏切换回第三幕的旧会话。
看点:历史消息完整回放,包括当时的工具调用过程。
讲解词: 「所有会话、消息、执行事件全部持久化在本地数据库中,随时回溯。数据库里的内容同样是加密的——文件被拷走了也读不出对话。」
背后原理:会话按用户隔离;GET /api/sessions 列表、GET /api/sessions/{id} 回放;schema 带版本管理,升级自动迁移。
| 演示项 | 操作 | 一句话讲解 |
|---|---|---|
| 账号注册登录 | 登录页注册首个账号 | 首个用户自动成为管理员;口令经加盐哈希后存储,库里不存明文 |
| 登录锁定 | 故意输错密码 5 次 | 连续失败自动锁定 15 分钟,防暴力破解 |
| 可视化设置 | 齿轮 → 模型页签 | 内置模型预设,填 Key 点「测试连接」,保存即热更新不重启 |
| 授权体系 | 设置 → 授权页签 | RSA-2048 离线授权码:试用 90 天(功能完整)→ 激活,无宽限期,适合对外分发 |
| 审计日志 | 管理员调 GET /api/audit | 注册/登录/重置密码等敏感操作全量留痕 |
| 运维告警 | GET /api/alerts | 内置看门狗巡检磁盘/内存/异常,可推送企微/钉钉/飞书 |
| 监控指标 | curl http://127.0.0.1:8765/metrics | Prometheus 格式全量指标,直接接入现有监控体系 |
| 时间 | 环节 | 核心记忆点 |
|---|---|---|
| 0–2 min | 开场 + 健康检查 | 「真模型,不是录屏」 |
| 2–5 min | 第一幕:流式输出 | 「SSE 逐 token 推送」 |
| 5–9 min | 第二幕:工具调用 | 「模型自主决定调工具」 |
| 9–14 min | 第三幕:长期记忆 | 「跨会话、落盘、加密」——全场高潮 |
| 14–17 min | 第四幕:计划确认 | 「先批准后执行,可控」 |
| 17 min+ | 会话回放 / 第六幕选讲 | 按观众兴趣取舍 |
万一现场断网或模型服务不可用:立即改用 TrueAGT.exe --demo 离线模式,功能链路(工具调用/记忆/规划)全部可演示,只有回复内容是预设的。
Q:演示中模型回复很慢? A:检查 GET /api/usage 的 token 统计与模型服务负载;llama.cpp 本地部署建议 Q4 量化 + 独立 GPU。
Q:新会话里模型不记得之前的信息? A:确认信息当初是通过 note 工具写入的(执行过程面板可见),而不是只在对话里提过——只有写入长期记忆的内容才会跨会话。
Q:想重置演示数据? A:停止服务后删除 data/ 目录(含数据库与记忆),重启即全新状态。删除前注意备份——旧记忆无法恢复。
Q:服务被占用 / 端口冲突? A:netstat -ano | grep 8765 找到旧进程再终止;确认 /healthz 返回的版本号与代码一致(旧实例会报旧版本号)。