Ollama | 有序

Ollama

3篇文章

首页 › 文章标签 "Ollama"

本地跑开源模型：显存估算、量化档位与隐私边界怎么核对

Accelerate bitsandbytes Ollama VRAM 开源模型效率工具显存本地大模型量化隐私

本地跑开源模型：显存估算、量化档位与隐私边界怎么核对

本站 Ollama 入门文讲过安装与粗算表。本文换核对线：用 Hugging Face Accelerate 的 estimate-memory 估权重占用；对照 fp16 / int8 / int4…

个人知识库接 AI：本地笔记向量化与引用核对注意（2026）

Chroma Ollama RAG 个人知识库向量化嵌入引用核对效率工具本地笔记

个人知识库接 AI：本地笔记向量化与引用核对注意（2026）

本地笔记接上大模型后，最容易翻车的不是「能不能答」，而是答出来却对不上出处。本文按 Ollama 嵌入说明、LlamaIndex 查询三阶段、Chroma 检索能力与 Anthropic Citati…

用 Ollama 在自己电脑上跑大模型：安装、选模型、显存估算与本地 API

AI工具 Ollama 开源模型本地大模型隐私

用 Ollama 在自己电脑上跑大模型：安装、选模型、显存估算与本地 API

Ollama 是在自己电脑上运行开源大模型最省事的工具，macOS、Windows、Linux 都能装，一条命令就能下载并运行模型。本文讲安装、怎么按内存或显存挑模型尺寸、常用命令、本地 API 调用…