Ollama Windows

本文内容均由Ollama官方文档翻译,仅供个人学习,如有差异请以官网文档为准(https://ollama.com)ollama.cadn.net.cn

欢迎使用 Ollama for Windows。ollama.cadn.net.cn

不再需要 WSL!ollama.cadn.net.cn

Ollama 现在作为本机 Windows 应用程序运行,包括 NVIDIA 和 AMD Radeon GPU 支持。 安装 Ollama for Windows 后,Ollama 将在后台运行,并且 这ollama命令行在cmd,powershell或您的最爱 终端应用程序。像往常一样,Ollama api 将在http://localhost:11434.ollama.cadn.net.cn

系统要求

  • Windows 10 22H2 或更高版本、家庭版或专业版
  • NVIDIA 452.39 或更高版本的驱动程序(如果您有 NVIDIA 卡)
  • AMD Radeon 驱动程序 https://www.amd.com/en/support 您是否有 Radeon 卡

Ollama 使用 unicode 字符进行进度指示,在 Windows 10 中,这些字符可能会在某些较旧的终端字体中呈现为未知方块。如果您看到此内容,请尝试更改终端字体设置。ollama.cadn.net.cn

文件系统要求

Ollama 安装不需要 Administrator,默认情况下安装在您的主目录中。您至少需要 4GB 的空间来进行二进制安装。安装 Ollama 后,您将需要额外的空间来存储大型语言模型,其大小可能为数十到数百 GB。如果您的主目录没有足够的空间,您可以更改二进制文件的安装位置和模型的存储位置。ollama.cadn.net.cn

更改安装位置

要将 Ollama 应用程序安装在主目录以外的位置,请使用以下标志启动安装程序ollama.cadn.net.cn

OllamaSetup.exe /DIR="d:\some\location"

更改模型位置

要更改 Ollama 存储下载模型的位置而不是使用您的主目录,请设置环境变量OLLAMA_MODELS在您的用户帐户中。ollama.cadn.net.cn

  1. 启动设置 (Windows 11) 或控制面板 (Windows 10) 应用程序并搜索环境变量ollama.cadn.net.cn

  2. 单击 Edit environment variables(编辑您账户的环境变量)。ollama.cadn.net.cn

  3. 为您的用户帐户编辑或创建新变量OLLAMA_MODELS您希望存储模型的位置ollama.cadn.net.cn

  4. 单击 确定/应用 保存。ollama.cadn.net.cn

如果 Ollama 已在运行,请退出托盘应用程序并从 Start 菜单重新启动它,或者在保存环境变量后启动新终端。ollama.cadn.net.cn

API 访问

这是一个快速示例,显示了 API 访问powershellollama.cadn.net.cn

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

故障 排除

Windows 上的 Ollama 将文件存储在几个不同的位置。您可以在 通过点击 资源管理器 窗口<Ctrl>+R并输入:ollama.cadn.net.cn

  • explorer %LOCALAPPDATA%\Ollama包含日志和下载的更新
    • app.log 包含来自 GUI 应用程序的大多数重新发送的日志
    • server.log 包含最新的服务器日志
    • upgrade.log 包含升级的日志输出
  • explorer %LOCALAPPDATA%\Programs\Ollama包含二进制文件(安装程序将此添加到您的用户 PATH)
  • explorer %HOMEPATH%\.ollama包含模型和配置
  • explorer %TEMP%在一个或多个ollama*目录

卸载

Ollama Windows 安装程序注册一个卸载程序应用程序。下Add or remove programs在 Windows 设置中,您可以卸载 Ollama。ollama.cadn.net.cn

[!注意] 如果您更改了OLLAMA_MODELS位置,安装程序将不会删除您下载的模型ollama.cadn.net.cn

独立 CLI

在 Windows 上安装 Ollama 的最简单方法是使用OllamaSetup.exe安装。它安装在您的帐户中,不需要管理员权限。 我们会定期更新 Ollama 以支持最新的模型,此安装程序将 帮助您了解最新情况。ollama.cadn.net.cn

如果您想将 Ollama 安装或集成为一项服务,可以使用独立的ollama-windows-amd64.zipzip 文件仅包含 Ollama CLI 以及 Nvidia 和 AMD 的 GPU 库依赖项。这允许嵌入 Ollama 的 Pod 中,或者通过ollama serve使用 NSSM 等工具。ollama.cadn.net.cn

[!NOTE]
如果要从以前的版本升级,则应先删除旧目录。ollama.cadn.net.cn

结果 匹配 ”"

    没有匹配 “ 的结果"