演示手册

面向 Demo 演示的完整操作脚本:从基础功能讲到核心能力,每一步给出操作 → 看点 → 讲解词 → 背后原理,照着念即可完成一场 15–30 分钟的演示。

所有步骤均已在 Qwen3.8-27B(llama.cpp)环境实测通过(2026-08-27)。

演示前检查清单(开场前 5 分钟)

#检查项命令 / 操作预期
1服务已启动TrueAGT.exe(项目根目录)终端出现 http://127.0.0.1:8765
2健康检查curl http://127.0.0.1:8765/healthz{"ok": true, "version": "0.9.233"}
3模型已接入curl http://127.0.0.1:8765/api/status"demo": false,model 为实际模型名
4浏览器打开访问 http://127.0.0.1:8765聊天页面正常加载

第一幕:基础对话与流式输出(约 3 分钟)

操作:在网页输入框发送——

你好,请用两句话介绍一下你自己。

看点:回答逐字出现,不是等全部生成完才显示。

讲解词: 「回答是一个字一个字蹦出来的,这不是动画效果——服务端用 SSE(Server Events)把每个 token 实时推给浏览器。用户感知到的就是『模型在边想边说』,长回答不用干等。」

背后原理:POST /api/chat 返回 text/event-stream,每个事件形如 data: {"type": "llm_delta", "delta": "..."}。前端按事件渲染。

开发者加演(可选,另开终端):

curl -N -X POST http://127.0.0.1:8765/api/chat \
  -H "Content-Type: application/json" \
  -d '{"session_id": "<会话ID>", "message": "你好"}'

终端会直接打印原始 SSE 事件流——观众能看到 llm_delta → usage → final_answer → done 的完整事件序列。


第二幕:工具调用(约 4 分钟)

操作:发送——

帮我算一下 (123+456)*7 等于多少,顺便告诉我现在几点。

看点:回答上方出现执行过程面板,能看到模型自主决定调用 calculate 和 current_time 两个工具,参数与结果一目了然。

讲解词: 「我没有写死任何『遇到算术就调计算器』的规则。是模型自己读了工具清单(共 7 个内置工具),判断这道题需要计算器,自己生成调用参数——注意表达式是它自己从我的自然语言里提取的。算完拿到结果,它再组织语言回答。这就是 ReAct 循环:思考 → 调工具 → 看结果 → 再思考。」

背后原理:SSE 流中的 llm_response 事件携带 tool_calls,服务端执行后以 tool_result 事件回传,模型进入下一轮迭代,直到产出 final_answer。计算器采用 AST 白名单求值,不是 eval,任意表达式不会执行系统命令。


第三幕:长期记忆——跨会话记得你(约 5 分钟,核心卖点)

操作一:发送——

请记住:我的项目代号是 TrueAGT。

看点:执行过程里出现 note 工具调用,提示「已记入长期记忆 #编号」。

操作二:点左侧「新会话」,换一个全新会话,发送——

我的项目代号是什么?

看点:新会话对这个信息毫不知情,但回答正确:「TrueAGT(TrueAGT)」。

讲解词: 「注意,我开了一个全新的会话——会话之间互相隔离,短期记忆不可能带过来。它能答对,是因为刚才把信息写进了长期记忆库:按用户隔离、落盘持久化、支持标签和关键词检索。模型在需要时会用 recall 工具检索相关记忆。重启服务它也还记得,因为记忆在磁盘上。」

进阶加演(可选):


第四幕:规划与确认——复杂任务先出计划(约 4 分钟)

操作:发送一个多步任务——

帮我调研流式输出的几种实现方案,写一份对比总结。

看点:系统不直接执行,先弹出执行计划(如:检索资料 → 记录候选方案 → 估算指标 → 输出总结文档),等用户点「批准」后才逐步执行。

讲解词: 「Agent 最大的风险是不受控地乱跑。TrueAGT对复杂任务的处理方式是:先拆解成计划给用户看,人确认了再动手——工具权限、执行边界都在人的监督之下。每一步的执行过程同样实时可见。」

背后原理:plan_first: true 时先走 POST /api/plan 生成步骤;用户批准后前端携带 plan 数组调 /api/chat,跳过规划直接执行。周期性 reflection 事件让长任务及时收敛,不无限循环。


第五幕:会话管理与持久化(约 2 分钟)

操作:左侧栏切换回第三幕的旧会话。

看点:历史消息完整回放,包括当时的工具调用过程。

讲解词: 「所有会话、消息、执行事件全部持久化在本地数据库中,随时回溯。数据库里的内容同样是加密的——文件被拷走了也读不出对话。」

背后原理:会话按用户隔离;GET /api/sessions 列表、GET /api/sessions/{id} 回放;schema 带版本管理,升级自动迁移。


第六幕(选讲):安全、运维与对外发布与运维能力(约 5 分钟,按观众身份取舍)

演示项操作一句话讲解
账号注册登录登录页注册首个账号首个用户自动成为管理员;口令经加盐哈希后存储,库里不存明文
登录锁定故意输错密码 5 次连续失败自动锁定 15 分钟,防暴力破解
可视化设置齿轮 → 模型页签内置模型预设,填 Key 点「测试连接」,保存即热更新不重启
授权体系设置 → 授权页签RSA-2048 离线授权码:试用 90 天(功能完整)→ 激活,无宽限期,适合对外分发
审计日志管理员调 GET /api/audit注册/登录/重置密码等敏感操作全量留痕
运维告警GET /api/alerts内置看门狗巡检磁盘/内存/异常,可推送企微/钉钉/飞书
监控指标curl http://127.0.0.1:8765/metricsPrometheus 格式全量指标,直接接入现有监控体系

15 分钟标准演示脚本(时间分配)

时间环节核心记忆点
0–2 min开场 + 健康检查「真模型,不是录屏」
2–5 min第一幕:流式输出「SSE 逐 token 推送」
5–9 min第二幕:工具调用「模型自主决定调工具」
9–14 min第三幕:长期记忆「跨会话、落盘、加密」——全场高潮
14–17 min第四幕:计划确认「先批准后执行,可控」
17 min+会话回放 / 第六幕选讲按观众兴趣取舍
万一现场断网或模型服务不可用:立即改用 TrueAGT.exe --demo 离线模式,功能链路(工具调用/记忆/规划)全部可演示,只有回复内容是预设的。

常见问题

Q:演示中模型回复很慢? A:检查 GET /api/usage 的 token 统计与模型服务负载;llama.cpp 本地部署建议 Q4 量化 + 独立 GPU。

Q:新会话里模型不记得之前的信息? A:确认信息当初是通过 note 工具写入的(执行过程面板可见),而不是只在对话里提过——只有写入长期记忆的内容才会跨会话。

Q:想重置演示数据? A:停止服务后删除 data/ 目录(含数据库与记忆),重启即全新状态。删除前注意备份——旧记忆无法恢复。

Q:服务被占用 / 端口冲突? A:netstat -ano | grep 8765 找到旧进程再终止;确认 /healthz 返回的版本号与代码一致(旧实例会报旧版本号)。

本文档随 TrueAGT 安装包一同发布;如与软件实际行为不一致,以软件当前版本为准。