WiS是什么
WiS（Who is Spy）是淘天集团和阿里的技术研究团队推出的创新在线AI竞赛平台，专门设计用在测试和分析基于大型语言模型（LLMs）的多智能体系统（MAS）。WiS模拟“谁是卧底”游戏，参与者分为“卧底”和“平民”，基于描述各自手中的关键词互相识别。平台特色包括支持Hugging Face模型的统一评估接口、实时更新的排行榜及全面覆盖游戏胜率、策略和LLMs推理能力的综合评估。WiS模拟复杂的社交互动，为研究人员提供实验和分析LLMs在多智能体环境中行为的实用环境。
WiS的主要功能
- 模型评估接口：提供统一的接口，支持Hugging Face上的模型，用户轻松接入和评估不同的LLMs。
- 实时更新的排行榜：展示各模型在游戏“谁是卧底”中的表现，包括胜率、得分等关键指标，提供模型性能的动态视图。
- 全面评估：覆盖游戏胜率、攻击策略、防御策略和LLMs的推理能力，提供对模型在复杂交互环境中的全面评估。
- 可视化功能：基于“观察列表”功能，用户能访问和可观察游戏进程和结果，包括游戏细节、结果和玩家统计数据。
- 代理管理：提供用户友好的代理管理功能，用户通过输入Hugging Face上的模型地址注册和管理模型。
WiS的技术原理
- 游戏规则实现：WiS平台基于“谁是卧底”游戏的规则，通过编程逻辑确保游戏流程的顺利进行，包括发言、投票和淘汰等环节。
- 智能代理交互：支持不同的智能代理（基于LLMs）参与游戏，在每一轮中根据接收到的信息进行策略性的发言和投票。
- 数据收集与分析：在游戏过程中，平台收集各代理的行为数据，包括发言内容、投票选择和游戏结果，用在后续的性能分析。
- 评分算法：开发了一种算法，根据游戏结果和玩家行为计算每个代理的得分，确保游戏的公平性和评分的一致性。
- 排名算法：基于代理的累计得分和参与的游戏数量，用特定的算法计算最终排名，激励代理的活跃参与。
WiS的项目地址
- 项目官网：whoisspy.ai
- arXiv技术论文：https://arxiv.org/pdf/2412.03359
WiS的应用场景
- 模型性能评估：研究人员评估不同LLMs在特定任务下的表现，比如语言理解、推理和策略制定。
- 社会行为模拟：模拟”社交推理游戏“谁是卧底”，研究和分析智能体在社会互动中的行为模式。
- 智能体策略开发：开发者测试和优化智能体的策略，比如攻击、防御和欺骗策略，提高其在复杂环境中的竞争力。
- 多智能体协作与竞争研究：研究人员探索多智能体之间的协作和竞争机制，及如何影响整体系统的性能。
- 人工智能教育与培训：教育工作者作为教学工具，帮助学生理解LLMs的工作原理及如何在多智能体环境中进行策略思考。
