aisuite – 吴恩达发布开源Python库，一个接口调用多个大模型

import aisuite as ai
client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20241022"]
messages = [
    {"role": "system", "content": "Respond in Pirate English."},
    {"role": "user", "content": "Tell me a joke."},
]
for model in models:
    response = client.chat.completions.create(
        model=model,
        messages=messages,
        temperature=0.75
    )
    print(response.choices[0].message.content)

aisuite是什么

aisuite是开源的Python库，吴恩达（Andrew Ng）发布的，旨在提供一个统一的接口来调用多个大型语言模型（LLM）服务。支持包括OpenAI、Anthropic、Azure等在内的11个模型平台，开发者能轻松切换和测试不同提供商的模型。通过aisuite，用户可以便捷地获取API密钥并设置环境变量，实现对不同语言模型的访问和调用。简化了多模型管理和测试的工作，促进了人工智能技术的应用和发展。

aisuite的主要功能

• 统一接口设计：aisuite提供了一个统一的接口，开发者能以相同的方式调用不同大型语言模型（LLM）平台的模型。
• 支持多个模型平台：aisuite 支持包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama 在内的多个模型平台。
• 简化模型切换：用户只需通过更改一个字符串，即可选择不同提供商的模型，极大地简化了模型切换和对比测试的过程。
• 易于安装和配置：aisuite的安装过程简便，用户只需准备Python环境和所需的API密钥，可通过简单的命令安装框架。
• 主要关注聊天功能：目前，aisuite主要关注于增强聊天功能，未来计划扩展到更多使用场景。
• 扩展性：aisuite计划增加更多功能模块，例如函数调用等，以进一步丰富其实用性。
• 使用HTTP端点或SDK调用：为了确保稳定性，aisuite使用HTTP端点或SDK来与提供商进行调用。

aisuite的项目地址

• Github仓库：https://github.com/andrewyng/aisuite/pulse

如何使用aisuite

• 安装aisuite：可以通过pip命令来安装aisuite。
  • 只安装基础包，不涉及任何提供商的SDK，使用命令pip install aisuite。
  • 需要特定提供商的支持，比如Anthropic，可以使用命令pip install 'aisuite (anthropic)'。
  • 要安装所有特定于提供商的库，使用命令pip install 'aisuite (all)'。
• 获取API密钥：安装后，需要为所选的提供商获取API密钥，通过环境变量进行配置。
• 编写Python客户端：配置好API密钥后，可以使用标准的Python客户端来请求聊天补全等功能。例如，以下是使用aisuite生成聊天补全响应的Python客户端示例代码：

aisuite的应用场景

• 聊天补全功能：目前，aisuite主要集中在聊天补全功能上，支持开发者通过统一的接口调用不同模型来生成聊天回复。
• 模型对比测试：aisuite支持快速在不同模型间切换，只需更改一个字符串，例如从“openai:gpt-4o”切换到“anthropic:claude-3-5-sonnet-20241022”，进行模型对比测试变得简单。
• 个性化推荐和服务：aisuite能通过对用户行为和偏好的分析，为用户提供个性化的推荐和服务，如电商平台的商品推荐和社交媒体的社交推荐。
• 构建聊天UI界面：搭配Streamlit等工具，可以使用aisuite构建简单的聊天UI界面，进一步扩展其在用户交互领域的应用。