肥仔教程网

SEO 优化与 Web 开发技术学习分享平台

开发代理达到v1.0版本,包含AI故障模拟、令牌速率限制和集成增强

Dev Proxy 在发布版本1.0后达到了一个重要的里程碑,引入了一系列旨在帮助开发人员构建更可靠的AI驱动应用程序的新功能。根据公告报道,此次更新的重点是语言模型行为的逼真模拟、高级资源跟踪以及集成工具的改进。

这标志着Dev Proxy的第一个主要版本,团队描述为:

我们很高兴地宣布Dev Proxy的第一个主要版本!在过去的几年里,我们推出了我们认为有助于开发人员构建更强大的应用程序的功能。在最近的重构之后,我们达到了我们认为是我们未来工作的坚实基础。话虽如此,我们不断改进代码库,并且欢迎任何更改。向前看,我们将使用 SemVer 来传达每次发布的变化范围。我们会继续发布常规版本,如果发布一些重大更改,我们会清楚地沟通发生了什么变化以及它如何影响您。

最显著的新增功能之一是LanguageModelFailurePlugin,它使开发人员能够测试其应用程序如何应对不可预测的AI输出。正如所述,该插件可以模拟15种常见的故障类型,包括幻觉、偏见、误解、矛盾的陈述和模棱两可的响应。需要注意的是,开发人员还可以定义自定义的故障场景,以确保其系统在处理不可靠的AI生成内容时是健壮的。

另一个关键增强是LanguageModelRateLimitingPlugin,它引入了基于令牌的速率限制模拟。该功能反映了大型语言模型提供商如何通过在可配置的时间段内为输入和输出令牌设置不同的阈值来实施限制。根据开发团队的说法,这种能力有助于模拟AI集成的现实性能边界和预算限制。

(模拟超出LLM请求的令牌限制,来源:微软官方公告)

OpenAI Telemetry Plugin 也得到了改进,现在支持从流式响应中跟踪令牌使用情况。该插件可以生成Markdown、JSON或纯文本格式的详细成本和使用总结,使开发人员能够更好地监控测试活动并预测生产费用。

OpenAPI规范生成已经通过更新OpenApiSpecGeneratorPlugin进行了改进。增强功能包括能够排除响应类型——这对忽略此类元数据的AI代理特别有用——以及捕获默认参数值,从而提高AI工具自动使用API的准确性。

(从拦截的请求和响应中生成JSON格式的OpenAPI规范,来源:微软文档)

除了主要的应用程序之外,几个Dev Proxy工具已经更新。 Dev Proxy Toolkit,一个Visual Studio Code扩展,现在支持v1.0.0模式,包含新的语言模型插件配置片段,为诊断添加了JSONC支持,并提供快速操作来设置基本配置标志。

Visual Studio Code Tasks的集成已经增强,可以在调试会话期间自动启动和停止Dev Proxy。 GitHub Actions的集成已经简化,使CI/CD工作流程更易操作, .NET Aspire扩展已经更新,支持.NET 8。

此次发布还包含了一个改进的开发代理MCP服务器,它为编码代理提供了直接访问更新的文档、模式和构建配置的最佳实践指南。根据团队的说法,这些新增内容已经使使用AI辅助配置编辑的结果得到了改善。

其他更改包括在 Chrome DevTools 中增强的流式响应处理、通过自定义 OIDC 元数据 URL 扩展的认证兼容性、简化的 Linux 安装默认值、改进的配置验证和更健壮的错误处理。

对于有兴趣的读者,完整的发布说明,包含完整的功能、改进和错误修复列表,可以在官方公告中找到。

控制面板
您好,欢迎到访网站!
  查看权限
网站分类
最新留言