Ollama for Mac - Download

好东西

在本地运行 Llama 3？完毕。即刻。我启动了 CLI，运行了一个命令，然后突然——我正在与一个知道我在说什么的模型聊天。即使您不是终端向导，界面也很简单。我确实必须首先通过命令行安装它，但一旦设置完毕，管理模型就变得很容易。在不同版本（例如 phi3 或 Mistra）之间切换就像输入名称一样简单。事实上它是开源的？巨大的胜利。您可以窥视幕后，相信正在发生的事情，甚至可以根据需要进行调整。我已经在 Python 脚本中使用它来在测试期间自动汇总日志。没有 API 密钥，没有速率限制。就可以了。

不太好的

好吧，所以它并不完美。如果您讨厌命令行，一开始可能会觉得很笨拙。 GUI 应用程序已经存在，但它们仍然非常基础——更多的是“概念验证”而不是完善的工具。另外，我在从 0.1 版本升级到 0.2 版本时发生了一次崩溃。没什么大不了的，但这让我停了下来。是的，模型尺寸很大 - Llama 3 8B 需要超过 5GB 的 RAM 才能加载。因此，如果您使用的是较旧的 Mac 或低端笔记本电脑，请不要指望有什么神奇的作用。它也不是为生产工作负载而构建的。如果没有经过大量测试，我不会将其部署在面向客户的应用程序中。但是，嘿，它是免费的。并且开源。这已经超过了大多数工具提供的功能。

底线

如果您是一名开发人员，想要在本地试验 AI、保持数据私密性并避免经常性成本 - Ollama for Mac - 下载 Windows 版绝对值得尝试。它并不花哨，但它可以完成工作。只是不要指望马上就有一个流畅的桌面应用程序。如果您只进行快速聊天，CLI 实际上比大多数 Web 界面更快。底线：下载它，试一试，看看拥有你的人工智能感觉有多好。自由、灵活、诚实。这很难被击败。