NewLife.AI

NewLife.AI 是统一 AI 网关基础库，支持 48 个主流 AI 服务商的接入与编排。 NewLife.ChatAI 是基于 NewLife.AI 构建的完整 AI 对话应用，提供对话 Web 前端、API 网关路由、使用量统计等全套业务能力。

核心特性

• 48 个服务商支持：OpenAI、Azure OpenAI、AWS Bedrock、Anthropic（Claude）、Google Gemini、阿里百炼（通义千问）、DeepSeek、Kimi、豆包、智谱、百度、讯飞、腾讯混元、Ollama（本地）等
• 统一接口 IChatClient：屏蔽协议差异，流式与非流式双模式，对标 Microsoft MEAI 规范
• AiClientRegistry 自动注册：通过 [AiClient] 特性标注，反射扫描自动发现所有服务商
• ChatClientBuilder 中间件管道：UseFilters() + UseTools() 链式组装，灵活扩展
• 原生函数调用（Function Calling）：[ToolDescription] 特性 + ToolSchemaBuilder 自动生成 JSON Schema，ToolChatClient 多轮调用循环
• MCP 协议支持：HttpMcpServer 工具调用，NewLife.AI.Extensions 快速将 ASP.NET 应用扩展为 MCP Server
• 思考模式（Thinking Mode）：Auto / Think / Fast 三档，支持交错思考（think–tool–think）
• 多模态：图像理解（Vision）、图像生成、图像编辑（Inpainting）
• Planner 规划器：FunctionCallingPlanner 将目标拆解为工具调用步骤并执行
• MultiAgent 框架：GroupChat 多 Agent 轮询、ParallelGroupChat 并行协作、AgentAsTool 嵌套
• 语义记忆抽象：ISemanticMemory + IVectorStore 接口，内存版实现开箱即用

支持的协议与服务商

通信协议（6 种）

国内服务商（18 个）

国际主流服务商（7 个）

国际聚合 / 新兴平台（16 个）

本地 / 私有部署（4 个）

★ 为各类别内最常用服务商。完整服务商列表见 BuiltinChatClient.cs。

快速开始

安装 NuGet 包

# 核心基础库
dotnet add package NewLife.AI

# ASP.NET Core DI 扩展（可选）
dotnet add package NewLife.AI.Extensions

IChatClient 四种使用模式

模式一：直接 new（命令行 / 脚本 / 单文件，最简）

// 所有 6 个客户端均提供 (apiKey, model?, endpoint?) 便捷构造
var client = new DashScopeChatClient("your-api-key", "qwen-plus");

// 可选：替换底层 HttpClient（设置代理、超时等）
client.HttpClient = new HttpClient { Timeout = TimeSpan.FromSeconds(30) };

// 发送单条消息
var reply = await client.ChatAsync("你好，请介绍一下你自己");
Console.WriteLine(reply);

// 多角色消息（元组数组，无需构造 ChatMessage）
var reply2 = await client.ChatAsync([
    ("system", "你是一名专业的 C# 开发助手"),
    ("user", "请解释什么是依赖注入"),
]);

可用的便捷构造：

模式二：AiClientRegistry（配置驱动 / 动态切换服务商）

// 通过服务商编码 + 选项创建（适合从数据库/配置文件读取参数）
var client = AiClientRegistry.Default.CreateClient("DashScope", "your-api-key", "qwen-plus");

// 从 AiClientOptions（含 Code 属性）批量创建
var opts = new AiClientOptions { Code = "OpenAI", ApiKey = "sk-xxx", Model = "gpt-4o" };
var client2 = AiClientRegistry.Default.CreateClient(opts.Code!, opts);

模式三：ChatClientBuilder（中间件管道）

// MEAI 风格：先设置服务商，再链式叠加中间件
var client = new ChatClientBuilder()
    .UseDashScope("your-api-key", "qwen-plus")   // UseOpenAI / UseAnthropic / UseGemini / UseOllama / UseNewLifeAI
    .UseFilters(new MyAuditFilter())               // 日志 / 审计 / 速率限制（IChatFilter 实现）
    .UseTools(toolRegistry)                        // 自动多轮 Function Calling
    .Build();

模式四：DI 注入（ASP.NET Core，需 NewLife.AI.Extensions）

// 单服务商 —— 专属便捷注册（推荐）
services.AddDashScope("your-api-key", "qwen-plus");
// 注入：IChatClient

// 多服务商（.NET 8+，Keyed Services）
services.AddKeyedDashScope("fast",   "sk-xxx", "qwen3.5-flash");
services.AddKeyedOpenAI  ("strong", "sk-xxx", "gpt-4o");
// 注入：[FromKeyedServices("fast")] IChatClient fastClient

全部专属 DI 方法：AddOpenAI / AddDashScope / AddAnthropic / AddGemini / AddAzureAI / AddBedrock / AddOllama / AddNewLifeAI，均有对应 AddKeyed* 变体（.NET 8+）。

多模态流式输出（视觉理解）

var message = new ChatMessage
{
    Role = "user",
    Contents = [
        new ImageContent { Uri = "https://example.com/image.jpg" },
        new TextContent("请描述这张图片的内容"),
    ]
};
await foreach (var chunk in client.GetStreamingResponseAsync([message]))
{
    var text = chunk.Text;
    if (!String.IsNullOrEmpty(text))
        Console.Write(text);
}

自定义工具（原生 .NET 方法）

// 用 [ToolDescription] 标注工具方法，ToolRegistry 通过反射自动扫描注册
public class WeatherService
{
    [ToolDescription("get_weather")]
    public async Task<String> GetWeatherAsync(
        [Description("城市名称")] String city)
    {
        return $"{city} 今天晴，25°C";
    }
}

// 非 DI 场景：直接构建
var toolRegistry = new ToolRegistry();
toolRegistry.AddTools(new WeatherService());

// DI 场景：注册为 IToolProvider
services.AddSingleton<IToolProvider>(_ =>
{
    var registry = new ToolRegistry();
    registry.AddTools(new WeatherService());
    return registry;
});

MultiAgent 协作

var toolRegistry = new ToolRegistry();
toolRegistry.AddTools(new WebSearchService());

var researcher = new ConversableAgent("researcher", researchClient)
{
    Tools = [..toolRegistry.Tools],
};
var writer = new ConversableAgent("writer", writingClient);

// 默认使用 RoundRobinSelector 轮询调度
var groupChat = new GroupChat([researcher, writer]);
await foreach (var msg in groupChat.RunAsync(new TextMessage { Content = "分析人工智能行业趋势并写一篇报告" }))
{
    if (msg is TextMessage text)
        Console.WriteLine($"[{msg.Source}] {text.Content}");
}

项目结构

NewLife.AI.sln
├── NewLife.AI/               # 核心基础库（netstandard2.1）
│   ├── Clients/              # IChatClient 实现（OpenAI/Anthropic/Gemini 等）
│   ├── Providers/            # AiClientRegistry + ChatClientBuilder
│   ├── Filters/              # IChatFilter 过滤器体系
│   ├── Tools/                # 工具注册 + 内置工具（搜索/天气/翻译）
│   ├── Agents/               # MultiAgent 框架
│   ├── Planner/              # FunctionCallingPlanner
│   ├── Memory/               # ISemanticMemory + IVectorStore
│   └── ModelContextProtocol/ # MCP 协议实现
│
├── NewLife.AI.Extensions/    # ASP.NET Core 扩展（net6/8/10）
│   └── AspNetMcpServer.cs   # 将 ASP.NET 应用扩展为 MCP Server
│
├── NewLife.ChatAI/           # 完整 Web 应用（net8/10）
│   ├── Controllers/          # 16 个 API 控制器
│   ├── Services/             # 业务服务层
│   ├── Entity/               # XCode 实体类（8 张表）
│   └── wwwroot/              # React 前端（内嵌到 DLL）
│
└── Web/                      # 前端源码（React 19 + TypeScript + Vite）

NewLife.ChatAI 完整应用

主要功能

部署方式

独立可执行文件（推荐）

# 从发布包启动
dotnet NewLife.ChatAI.dll

# 或直接运行
./NewLife.ChatAI

从源码运行

git clone https://github.com/NewLifeX/NewLife.AI.git
cd NewLife.AI
cd Web
pnpm install
pnpm build
cd ../NewLife.ChatAI
dotnet build
dotnet run --framework net8.0

应用启动后访问 http://localhost:5000。首次启动通过魔方管理后台（/Admin）配置服务商与模型。

API 网关端点

所有网关端点通过 Authorization: Bearer sk-xxxx AppKey 认证。

自定义扩展

新增 AI 服务商

[AiClient("myai", "MyAI", "https://api.myai.com/v1")]
[AiClientModel("myai-latest", FunctionCalling = true, Vision = true)]
public class MyAiChatClient : DelegatingChatClient
{
    // 实现协议转换逻辑
}
// AiClientRegistry 启动时自动发现，无需手动注册

新增 IChatFilter

public class ContentAuditFilter : IChatFilter
{
    // 洋葱圈模式：调用 next 前后分别处理请求和响应
    public async Task OnChatAsync(ChatFilterContext ctx,
        Func<ChatFilterContext, CancellationToken, Task> next,
        CancellationToken ct)
    {
        // before — 内容检测、敏感词过滤（可修改 ctx.Request）
        await next(ctx, ct);
        // after — 读取 ctx.Response，写审计日志
    }

    // 流式结束后回调，可触发自学习分析
    public async Task OnStreamCompletedAsync(ChatFilterContext ctx, CancellationToken ct)
    {
        // 审计日志、学习触发
    }
}

文档

依赖

• NewLife.Core：基础工具库（字符串扩展、配置、序列化）
• NewLife.Cube（ChatAI 应用）：Web 框架，提供权限、管理后台、配置中心
• XCode（ChatAI 应用）：ORM 数据库框架，支持 SQLite / MySQL / SQL Server 等

License

MIT © NewLife Dev Team