开源模型 | 有序

开源模型

2篇文章

首页 › 文章标签 "开源模型"

本地跑开源模型：显存估算、量化档位与隐私边界怎么核对

Accelerate bitsandbytes Ollama VRAM 开源模型效率工具显存本地大模型量化隐私

本地跑开源模型：显存估算、量化档位与隐私边界怎么核对

本站 Ollama 入门文讲过安装与粗算表。本文换核对线：用 Hugging Face Accelerate 的 estimate-memory 估权重占用；对照 fp16 / int8 / int4…

用 Ollama 在自己电脑上跑大模型：安装、选模型、显存估算与本地 API

AI工具 Ollama 开源模型本地大模型隐私

用 Ollama 在自己电脑上跑大模型：安装、选模型、显存估算与本地 API

Ollama 是在自己电脑上运行开源大模型最省事的工具，macOS、Windows、Linux 都能装，一条命令就能下载并运行模型。本文讲安装、怎么按内存或显存挑模型尺寸、常用命令、本地 API 调用…