Use AI responsibly with Microsoft Foundry Content Safety: 点评

我正在为一个小型应用评估内容审核方案，想看看微软的 Foundry Content Safety 能提供什么。这个模块介绍了四种主要的有害内容类别——仇恨、色情、暴力和自残，以及严重性评分的概念。这些术语还算有用。其中“何时使用 Content Safety”那一节，给了几个基础的架构图，展示了过滤器可以放在哪个位置：LLM 前面、LLM 后面，或者两头都放。这大概是整个模块里最有用的五分钟。

剩下的部分感觉就像一个带点儿互动的产品营销页面。那个所谓的“练习”很让人失望。就是一段描述场景的文字，然后跟一个单选题问你该怎么做。没有 API 调用，没有沙箱，没有代码。全程就是阅读加点击。这里完全没有深度。你到底该怎么实现这个东西？延迟有多少？大规模使用时成本几何？它怎么处理对抗性提示或那些模棱两可的灰色地带？模块一个字都没提。全是高阶概念和带箭头的图表。学完后，我只对这个服务的市场宣传口号有了个模糊的印象，外加一个官方文档的链接——说实话，我一开始就该直接去看文档的。