PC Agent是什么
PC Agent是上海交通大学和Generative AI Research Lab (GAIR)联合推出的先进AI系统。系统基于模拟人类认知过程，执行如组织研究材料、起草报告和创建演示文稿等复杂数字工作。PC Agent集成了PC Tracker用在高效收集人机交互数据，用两阶段认知完成流程将原始数据转化为认知轨迹。PC Agent采用多智能体系统架构，结合规划智能体和定位智能体，实现精准的视觉定位和决策制定。系统在少量高质量认知数据训练下，能处理多达50步的复杂工作流程，展现了卓越的数据效率和实际应用潜力。
PC Agent的主要功能
- 任务自动化：自动化执行复杂的数字任务，如组织研究材料、起草报告和创建演示文稿。
- 人机交互数据收集：基于PC Tracker，收集用户与计算机交互的详细轨迹和认知上下文。
- 认知轨迹转化：用两阶段认知完成流程，将原始交互数据转换为富含认知信息的轨迹。
- 复杂工作处理：处理涉及多个应用程序的复杂工作流程，如在PowerPoint和浏览器间切换收集资料。
- 多智能体协作：结合规划智能体和定位智能体，实现决策制定和精确的视觉定位。
- 少量数据训练：在只有少量认知轨迹数据的训练下，执行复杂的工作流程。
PC Agent的技术原理
- PC Tracker：
- 数据收集：在后台运行，记录用户的键盘和鼠标活动，捕获屏幕截图，收集人机交互数据。
- 事件跟踪：基于事件的跟踪策略，记录关键的用户操作事件，而非连续的视频流，减少存储需求。
- 动作空间统一：将键盘和鼠标操作封装成统一的动作空间，简化AI对人类行为的理解。
- 认知完成流程：
- 数据精炼：基于轨迹过滤、动作过滤和标准化，优化原始交互数据的质量。
- 动作语义完成：为点击相关动作补充语义信息，生成点击目标的高质量描述。
- 思维过程重建：基于动作语义信息，重建每个动作背后的隐含推理过程。
- 多智能体系统：
- 规划智能体：负责行动决策制定，基于学习人类认知轨迹获得有效规划能力。
- 定位智能体：负责执行点击相关动作，并具有自验证机制，实现接近人类的精确度。
- 错误修正机制：当定位智能体发现规划智能体尝试点击的目标在屏幕上不存在时，规划智能体会被提示重新制定行动计划。
PC Agent的项目地址
- 项目官网：gair-nlp.github.io/PC-Agent
- GitHub仓库：https://github.com/GAIR-NLP/PC-Agen
- arXiv技术论文：https://arxiv.org/pdf/2412.17589
PC Agent的应用场景
- 办公自动化：创建和编辑文档、表格和演示文稿，自动化日常办公任务，提高工作效率。
- 研究与学术：整理和分析研究数据，自动生成文献综述，辅助撰写学术论文。
- 内容创作：自动排版布局，提高内容创作的效率和质量。
- 项目管理：自动更新项目报告，协调团队任务，优化项目管理流程。
- 客户服务：管理客户数据，提供快速、个性化的客户支持。
