Agent Cloud for AI Chatbot

我一直在思考如何构建一个真正尊重我们公司隐私规则的内部人工智能聊天机器人。不再有“将数据发送到 OpenAI”的废话了。这就是为什么我最终尝试使用 Agent Cloud for AI Chatbot - 老实说，这是第一个不会让我感觉自己正在将数据保险库密钥移交给的工具。

好东西

真正的胜利？它可以让您插入自己的本地法学硕士。我在内部的一台小型服务器上运行了 Mistral 模型，然后，所有对话都位于我们的防火墙后面。无泄漏，无第三方处理。另外，它会自动从 300 多个数据源中提取数据，这节省了我编写脚本的时间。我将它连接到我们的内部文档、Slack 档案，甚至 PostgreSQL 数据库，而无需担心 API。由 Airbyte 提供支持的 ELT 管道刚刚……发挥了作用。 Qdrant 作为载体数据库？干净、快速、没有戏剧性。

我也喜欢它的模块化感觉。如果我以后想将 RabbitMQ 换成其他东西，我可以。未锁定在一堆中。事实上，它同时支持开源模型和 OpenAI 等云模型，这意味着您不必在隐私和权力之间做出选择。

不太好的

对于初学者来说，这并不完全是“即插即用”。设置整个事情花了我一个完整的周末。 Docker、环境变量、配置文件——如果你对开发操作不熟悉，这会感觉像是在泥泞中跋涉。是的，缺乏官方下载或明确的版本控制很奇怪。不知道背后是谁，这使得信任变得棘手。此外，除了基本的 Web 仪表板之外，没有任何 GUI - 一切都以 CLI 或 API 为主。如果您习惯使用 Kaya 等拖放工具，那就不太好。

如果您的团队没有 DevOps 能力，您可能想跳过这一步。它是为团队构建的，而不是为试图快速构建原型的单独黑客而构建的。

底线

如果您是一家公司或技术团队，在构建智能、数据感知的聊天机器人时认真考虑保持数据私密性，那么适用于 Web 应用程序的 AI 聊天机器人的 Agent Cloud 是一个不错的选择。这并不容易，但它可以让你控制其他人无法控制的地方。免费、开源，并且切实履行其承诺。如果您想要快速演示，请跳过它。但如果你正在构建一些真实的东西呢？一定要尝试一下。