MY Database

保护敏感数据
为了保护那些选择既阻止敏感数据输入公共服务又阻止公共或私人托管的 LLM 输出不必要类型的公司的利益，管理员必须拥有识别此类数据并对其采取行动的机制。LLM Mesh 提供了可用于查询和响应的内容审核技术，利用专用的内容审核模型来过滤输入/输出。它可以帮助检测 PII 并采取行动、识别和过滤禁用术语、防止毒性、创建自定义钩子以及通过审计跟踪密切关注问题。

由于 LLM 使用会产生各种不同的成本，IT 团队和管理员需要一种轻松监控 LLM 成本和性能的方法，以便他们能够主动预测和管理财务影响。LLM Cost Guard（Dataiku LLM Mesh 的一部分）为团队提供了一种监 哥伦比亚 WhatsApp 数据 督和控制成本（按应用程序、服务、用户或项目）以及诊断问题的方法。Dataiku 提供全面的审计日志，使管理员能够轻松查明谁在做什么，性能监控可帮助管理员跟踪 LLM 服务和提供商的使用情况和成本，使用 LLM Mesh 缓存常见查询的响应的选项可避免重新生成响应（节省成本并提高性能），以及成本和资源使用情况报告，以主动识别团队花费最多的地方。

LLM Mesh 与 Dataiku 一样，与基础设施无关且独立于供应商，可在越来越多的模型和提供商之间实现选择和灵活性。与其他与特定云基础设施或模型提供商产品保持一致的平台不同，如果您选择使用开源模型和自托管，Dataiku 可连接到所有主要商业 LLM 提供商的最新 AI 服务以及 Hugging Face 等模型中心。