开发指南

安装先决条件:ollama.cadn.net.cn

  • go语言
  • C/C++ 编译器,例如 macOS 上的 Clang、TDM-GCC (Windows amd64) 或 llvm-mingw (Windows arm64)、Linux 上的 GCC/Clang。

然后从仓库的根目录构建并运行 Ollama:ollama.cadn.net.cn

go run . serve

macOS (Apple Silicon)

macOS Apple Silicon 支持内置于 Ollama 二进制文件中的 Metal。无需执行其他步骤。ollama.cadn.net.cn

macOS (英特尔)

安装先决条件:ollama.cadn.net.cn

  • CMakebrew install cmake

然后,配置并构建项目:ollama.cadn.net.cn

cmake -B build
cmake --build build

最后,运行 Ollama:ollama.cadn.net.cn

go run . serve

Windows

安装先决条件:ollama.cadn.net.cn

[!重要] 确保先决条件PATH在运行 CMake 之前。ollama.cadn.net.cn

[!重要] ROCm 与 Visual Studio CMake 生成器不兼容。用-GNinja配置项目时。ollama.cadn.net.cn

[!重要] CUDA 仅与 Visual Studio CMake 生成器兼容。ollama.cadn.net.cn

然后,配置并构建项目:ollama.cadn.net.cn

cmake -B build
cmake --build build --config Release

最后,运行 Ollama:ollama.cadn.net.cn

go run . serve

Windows (ARM)

Windows ARM 目前不支持其他加速库。ollama.cadn.net.cn

Linux

安装先决条件:ollama.cadn.net.cn

[!重要] 确保先决条件PATH在运行 CMake 之前。ollama.cadn.net.cn

然后,配置并构建项目:ollama.cadn.net.cn

cmake -B build
cmake --build build

最后,运行 Ollama:ollama.cadn.net.cn

go run . serve

Docker

docker build .

ROCm

docker build --build-arg FLAVOR=rocm .

运行测试

要运行测试,请使用go test:ollama.cadn.net.cn

go test ./...

文库检测

Ollama 在以下路径中查找相对于ollama可执行:ollama.cadn.net.cn

  • ./lib/ollama(Windows)
  • ../lib/ollama(Linux的)
  • .(macOS)
  • build/lib/ollama(用于开发)

如果未找到这些库,Ollama 将不会与任何加速库一起运行。ollama.cadn.net.cn

结果 匹配 ”"

    没有匹配 “ 的结果"