LocalAI
mudler/LocalAIAI 已审核
RepoPicks Radar 检查于
LocalAI 是什么?
LocalAI 是一个你自己运行的服务器,它加载 AI 模型,并以和 OpenAI、Anthropic、ElevenLabs 在线服务相同的格式响应请求,因此原本为这些服务编写的程序可以改为指向你的电脑。它涵盖聊天、转录、语音、图像、视频、嵌入向量和物体检测,可以运行在 NVIDIA、AMD、Intel 或 Apple 芯片上,也可以只用处理器运行,还带有网页界面、保存的带有智能体和工具的对话、用户账户和集群模式。有一个 macOS 安装程序;大多数人用 Docker 启动它。
LocalAI 免费开源(MIT),可以替代 ChatGPT和OpenRouter。
LocalAI 安装有多容易?
C · 需要安装 1–2 个工具 · macOS
- macOS C
- Linux C
最简单的方式是从发布页面下载 macOS 的 LocalAI.dmg,但 README 警告说 "The DMG is not signed by Apple",并要求在打开之前运行 `sudo xattr -d com.apple.quarantine /Applications/LocalAI.app`,之后再选择并下载一个模型。在 Linux 上有一个启动器 AppImage 和一个普通的二进制文件,而 README 自己的快速开始教程是一条 `docker run` 命令,每种显卡对应不同的镜像。
LocalAI 的 GitHub 数据
- 星标
- 50,2962026年11月10日
- 下载量
- 223,696本周 2,728
- 增长
- +1157 天内新增星标
星标变化
事实
- 可运行于
- macOS, Linux
- 需要安装
- 只需程序本身
- 从源码编译需要
- Docker, NVIDIA 显卡, Go
- 磁盘空间
- 未确定
- 账号或密钥
- 无
- 费用
- 免费 · 免费且采用 MIT 许可证;作者接受赞助。真正的成本在于用自己的硬件或租用的服务器来运行大型模型。
- 许可证
- MIT (宽松型)
- 可以替代
- ChatGPT Plus, ElevenLabs, OpenRouter, Veo 3
- GitHub 上的最近改动
- 2026年11月10日
LocalAI 的风险信号 (5)
- 注意未签名的 Mac 安装程序
README 写道:"**Note:** The DMG is not signed by Apple. After installing, run: `sudo xattr -d com.apple.quarantine /Applications/LocalAI.app`",这意味着要用管理员命令关闭 macOS 对这个应用的一项保护。
AI 审核
- 信息运行时下载后端
"Backend Gallery — Install/remove backends on the fly via OCI images" 和 "Automatic Backend Detection: LocalAI automatically detects your GPU capabilities and downloads the appropriate backend":60 多个引擎中的大多数,以及所有模型,都是在你启动之后从网上获取的。
AI 审核
- 信息内置智能体可执行命令
README 在介绍终端智能体时写道:"It answers questions, reads your files and runs commands on your machine, asking you to approve anything that changes state."
AI 审核
- 信息示例配置自带默认密码
`docker-compose.distributed.yaml` 设置了 `POSTGRES_PASSWORD: localai`、`LOCALAI_REGISTRATION_TOKEN: "changeme"` 以及固定的存储密钥;文件本身也写道:"All credentials below are examples: change them for anything beyond a local test."
AI 审核
- 信息包含人脸和声音生物识别
后端列表中有 `face-detect.cpp`,用于 "face detection, recognition, demographics and anti-spoofing",还有 `voice-detect.cpp`,用于带年龄、性别和情绪的说话人识别,因此服务器可以根据照片和录音识别出具体的人。
AI 审核
证据以原始语言显示。
Radar 无法验证的 LocalAI 相关内容
- 下载完后端和模型之后,需要多少磁盘空间和内存,而发行文件本身并不包含这些
- 某个模型是否真的能在你的显卡上运行,还是只能用处理器运行,速度又如何
- macOS 和 Linux 的启动器是否像 Docker 方式那样顺畅
- 众多第三方后端是否保持更新,各自又下载了什么
- "your data never leaves your infrastructure" 这个说法,对所有插件和连接器是否都成立