RepoPicks Radar

每天约 23:30 UTC 更新

指南

LocalAI

mudler/LocalAIAI 已审核

RepoPicks Radar 检查于

LocalAI 是什么?

LocalAI 是一个你自己运行的服务器,它加载 AI 模型,并以和 OpenAI、Anthropic、ElevenLabs 在线服务相同的格式响应请求,因此原本为这些服务编写的程序可以改为指向你的电脑。它涵盖聊天、转录、语音、图像、视频、嵌入向量和物体检测,可以运行在 NVIDIA、AMD、Intel 或 Apple 芯片上,也可以只用处理器运行,还带有网页界面、保存的带有智能体和工具的对话、用户账户和集群模式。有一个 macOS 安装程序;大多数人用 Docker 启动它。

LocalAI 免费开源(MIT),可以替代 ChatGPT和OpenRouter。

LocalAI 安装有多容易?

C · 需要安装 1–2 个工具 · macOS

  • macOS C
  • Linux C

最简单的方式是从发布页面下载 macOS 的 LocalAI.dmg,但 README 警告说 "The DMG is not signed by Apple",并要求在打开之前运行 `sudo xattr -d com.apple.quarantine /Applications/LocalAI.app`,之后再选择并下载一个模型。在 Linux 上有一个启动器 AppImage 和一个普通的二进制文件,而 README 自己的快速开始教程是一条 `docker run` 命令,每种显卡对应不同的镜像。

LocalAI 的 GitHub 数据

星标
50,2962026年11月10日
下载量
223,696本周 2,728
增长
+1157 天内新增星标

星标变化

50,20050,22550,25050,27550,300 11月4日11月6日11月8日11月10日 50,20050,22550,25050,27550,300 11月4日11月7日11月10日

事实

可运行于
macOS, Linux
需要安装
只需程序本身
从源码编译需要
Docker, NVIDIA 显卡, Go
磁盘空间
未确定
账号或密钥
无
费用
免费 · 免费且采用 MIT 许可证;作者接受赞助。真正的成本在于用自己的硬件或租用的服务器来运行大型模型。
许可证
MIT (宽松型)
GitHub 上的最近改动
2026年11月10日

LocalAI 的风险信号 (5)

  • 注意未签名的 Mac 安装程序

    README 写道:"**Note:** The DMG is not signed by Apple. After installing, run: `sudo xattr -d com.apple.quarantine /Applications/LocalAI.app`",这意味着要用管理员命令关闭 macOS 对这个应用的一项保护。

    AI 审核

  • 信息运行时下载后端

    "Backend Gallery — Install/remove backends on the fly via OCI images" 和 "Automatic Backend Detection: LocalAI automatically detects your GPU capabilities and downloads the appropriate backend":60 多个引擎中的大多数,以及所有模型,都是在你启动之后从网上获取的。

    AI 审核

  • 信息内置智能体可执行命令

    README 在介绍终端智能体时写道:"It answers questions, reads your files and runs commands on your machine, asking you to approve anything that changes state."

    AI 审核

  • 信息示例配置自带默认密码

    `docker-compose.distributed.yaml` 设置了 `POSTGRES_PASSWORD: localai`、`LOCALAI_REGISTRATION_TOKEN: "changeme"` 以及固定的存储密钥;文件本身也写道:"All credentials below are examples: change them for anything beyond a local test."

    AI 审核

  • 信息包含人脸和声音生物识别

    后端列表中有 `face-detect.cpp`,用于 "face detection, recognition, demographics and anti-spoofing",还有 `voice-detect.cpp`,用于带年龄、性别和情绪的说话人识别,因此服务器可以根据照片和录音识别出具体的人。

    AI 审核

证据以原始语言显示。

Radar 无法验证的 LocalAI 相关内容

  • 下载完后端和模型之后,需要多少磁盘空间和内存,而发行文件本身并不包含这些
  • 某个模型是否真的能在你的显卡上运行,还是只能用处理器运行,速度又如何
  • macOS 和 Linux 的启动器是否像 Docker 方式那样顺畅
  • 众多第三方后端是否保持更新,各自又下载了什么
  • "your data never leaves your infrastructure" 这个说法,对所有插件和连接器是否都成立

类似项目

RepoPicks 应用

即将推出:用 RepoPicks 应用一键安装。

下载之前

在 GitHub 上查看版本页面