Agent建设助手

管理智能体

1.智能体概述

“交小智”的智能体(Agent)是一种基于人工智能技术的虚拟助手,可以帮助用户完成各种任务,例如回答问题、提供建议、执行操作等。智能体可以通过自然语言处理技术理解用户的需求,并根据用户的指令执行相应的任务。

l支持智能体的创建和管理。

l支持智能体发布后,用户互动及消息数看板,提供日志和内容审核的数据查阅。

l支持智能体的web服务,可提供公开访问URL;支持后端服务API,可集成到智能体后端服务。

l发布后的智能体将在智能体中心中查阅使用

2.智能体中心

智能体中心是智能体提交发布后的管理窗口。在这里,你不仅仅可以看到自己提交发布的智能体,也可以看到或搜索到其他创建者发布的各类智能体,可以任选其中的智能体进行体验使用收藏、分享和智能体创建参考(前提该智能体设置为“公开配置”)。

1.登录“交小智”。

2.在探索智能体中心进入。

3.可使用智能体和收藏智能体。

页面功能

l默认展示全部智能体、可选择我的收藏、我的提交查阅。

l支持按所有分类、教育、科研、医疗健康、法律、金融、制造业、商业助手、文本创造、工作助手等分类筛选。

l支持按公开配置、私有配置筛选。

l支持对智能体的收藏和取消收藏。

l支持输入智能体名称关键词模糊搜索智能体。

l可点击任意一个智能体进行体验,每段对话都支持对召回内容的点赞、踩、复制,重新生成、删除单轮对话操作。

3.智能体广场

智能体广场是智能体在提交发布后,并且备案、审核通过后的管理窗口,是“交小智”公开提供给全校师生的所有精选智能体的集合。

4.智能体创建、编排、发布

快速入门

5.智能体统计

已发布的智能体,可通过数据分析看板,跟踪和分析智能体运行情况,你可以通过这些数据来定向优化智能体,使其更好地满足用户所需。

1.登录“交小智”。

2.进入目标工作空间内的具体智能体,选择进入顶部导航中的统计

3.可查阅分析日志和标注内容审核的看板数据。

分析:

l数据分析看板,跟踪和分析智能体运行情况,其中包括全部消息数、互动用户数、平均会话互动数等。你可以通过这些数据来定向优化智能体,使其更好地满足用户所需。

l可选择近1天、近7天、近14天、近30天、近60天等不同时间段,查阅分析看板数据情况,支持自定义查询指定时间范围的分析指标。

配置项

说明

全部消息数

l智能体在每个计算时间段的互动总次数,每回答用户一个问题算一次互动。仅针对对话型智能体。

l计算时间段根据所选时间确定,可能是每分钟、每小时、每两小时或每天。

互动用户数

l与智能体的有效互动,即有一问一答的唯一用户数。仅针对对话型智能体。

平均会话互动数

l每个会话用户的持续沟通次数,每一轮问答算为一次沟通,该指标反映了用户粘性。仅针对对话型智能体。

费用消耗

l每个计算时间段,该智能体请求LLM(大语言模型)的Tokens费用消耗,用于成本控制。

Token输出速度

l衡量LLM(大语言模型)的性能。统计LLM从请求开始到输出完毕这期间的Tokens输出速度。

用户满意度

l每1000条消息的点赞数。反映了用户对回答满意的比例。仅针对对话型智能体。

日志和标注

l日志记录了智能体的运行情况,并标注用户和智能体之间的交互,针对交互记录查阅,可以不断提高智能体的准确性。

l可选择近1天、近7天、近14天、近30天、近60天等不同时间段的智能体回复日志,可点击查询详细信息,支持自定义查询指定时间范围的分析指标。

l支持查看用户对答复的反馈情况,涉及点赞和踩数据。

l点击某会话/切换会话,可以查看当前会话的所有对话内容,以对话列表的方式呈现。

l支持在智能体日志详情页查阅召回内容后,进行点赞,踩和重新编辑内容,优化智能体,使其更好地满足用户所需。

l支持点击任意消息记录后,点击对话,查看当前的召回内容的耗时时长,开始结束时间,输入输出代码。

l可查看调用树不同节点的输入输出信息;火焰图,不同节点耗时时长,分析节点执行的频率,是否存在阻塞。

内容审核

l通过维护敏感词库来使模型更安全的输出。可查阅命中敏感词后的会话信息。

l可选择近1天、近7天、近14天、近30天、近60天等不同时间段的内容审核数据,支持自定义查询指定时间范围的分析指标。

l支持按关键词模糊搜索、支持标题模糊搜索。

l命中方式支持按输入匹配,输出匹配筛选。

6.智能体概览

6.1.对话型智能体

1.概览页

l展示该智能体的基本信息,包括:智能体名称,描述、智能体类型、使用的大语言模型、智能体所有者,创建时间,web公开访问的URL,API访问凭据。

注意:智能体访问需要将当前智能体发布后,才可使用web服务和后端服务API

2.预览

l点击预览,可跳转到该智能体的预览页面进行对话,支持在对话框上传文件对智能体进行提问,并让智能体通过文件进行总结、对比等答复。

上传文件格式支持:pdf、doc、docx、ppt、pptx、txt、csv、xls、xlsx、png、jpg、jpeg,最多支持 10 个文件/图片混合上传。每个文件大小不超过10Mb

l支持对召回内容的点赞、踩、复制,重新生成、删除单轮对话操作。

3.API密钥

l在后端服务API卡片中,单击API密钥,可以选择创建不同有效期的密钥。

l可对密钥编辑描述和删除操作。

4.查看API密钥

l在操作栏点击复制icon

l输入当前用户的登录密码。

l可查看和复制API密钥信息

6.2.流程编排型智能体

l创建流程编排型智能体,可直接将当前空间下已发布的工作流作为智能体创建使用。

l创建完成后进入概览页面,可以查看工作流参数和跳转到工作流详情页。

l支持后端服务API的启用和停用。

l在后端服务API卡片中,单击API密钥,可以选择创建不同有效期的密钥。

l可对密钥编辑描述和删除操作

查看API密钥

1.在操作栏点击复制icon

2.输入当前用户的登录密码。

3.可查看和复制API密钥信息。

7.智能体限流

l限流作用范围:所有对话接口,包括:

n调试与预览、概览的web查看、后端服务API、应用中心对话、主页对话、评测任务等。

n因触发限流会导致新的请求调用失败。

nQPS值:每秒发送的请求数,空值表示不限制,输入范围:【165535】。