ollama在mac上的安装使用

发表于

Ollama 是一个专为本地化部署和运行大型语言模型（LLM）设计的开源框架，其核心功能与特点如下：

一、核心功能

  1. ‌便捷部署‌

  2. 提供预训练模型库（如 Llama、Mistral、Gemma 等），用户可直接调用‌。

  3. 支持从 PyTorch、Safetensors 等框架导入自定义模型，并允许调整参数（如 temperature
    ）进行个性化配置‌。

  4. ‌轻量化与扩展性‌

  5. 以轻量级架构实现低资源占用，同时具备良好的硬件适应性，适用于不同规模项目‌。

  6. ‌开发支持‌

  7. 提供简洁的 API，便于开发者创建、管理和交互模型实例‌。

二、典型应用场景

  • ‌本地实验与开发‌
    ：研究人员和开发者可快速测试、微调模型（如 Llama 3、DeepSeek），构建个性化 AI 助手‌。

  • ‌私有化模型部署‌
    ：支持在企业内部服务器运行模型，但需注意部分版本存在未加密传输等安全风险‌。

三、安装

首先下载安装包 
https://ollama.com/download/mac

点击【Download for macOS】下载得到【Ollama-darwin.zip】

解压后把【Ollama】拖到【应用程序】目录中

然后打开，点击【Next】

提示安装，点击【Install】

安装完成后，可以输入提示的代码，运行llama3.2模型：

ollama run llama3.2

命令运行的输出如下图：

它会自动拉取模型部署，整个流程太丝滑啦！

江达小记