中文每日更新

按日期追踪“更新了什么、发布了什么、今天是否稳定运行”。

每日专题 · Daily Blog

阅读完整文章:模型选择、部署排障与成本决策。日期为文章发布日期,测速时间请以正文记录为准。

qwen3 14B VRAM: VRAM Fit and Quantization Plan (2026)

本页面面向需要具体本地与云端决策而非通用模型公告的读者,目标是“qwen3 14b vram”。有用的答案是,在24GB RTX 3090上测试 qwen3 14B VRAM 是否值得,需要注意哪些失败边界,以及如果模型未达目标该怎么办。

阅读全文

Vramcalculator: GPU and VRAM Sizing Guide (2026)

本页面面向需要具体本地与云端决策而非通用模型公告的读者,目标是“vramcalculator”。有用的答案是 Vramcalculator 是否值得在 24GB RTX 3090 上测试,需要注意哪些失败边界,以及如果模型未达目标该怎么做。

阅读全文

qwen3:8B RTX 3090 Local Benchmark VRAM Fit: GPU and VRAM Sizing Guide (2026)

This page targets "qwen3:8b rtx 3090 local benchmark vram fit" for readers who need a concrete local-vs-cloud decision, not a generic model announcement. The useful answer is whether qwen3:8B RTX 3090 Local Benchmark VRAM Fit is worth testing on a 24GB RTX 3090, what failure boundary to watch, and w(英文原文,中文翻译待补齐)

阅读全文

gpt-oss:20B RTX 3090 Ollama Benchmark: VRAM Fit and Quantization Plan (2026)

This page targets "gpt-oss:20b rtx 3090 ollama benchmark" for readers who need a concrete local-vs-cloud decision, not a generic model announcement. The useful answer is whether gpt-oss:20B RTX 3090 Ollama Benchmark is worth testing on a 24GB RTX 3090, what failure boundary to watch, and what to do (英文原文,中文翻译待补齐)

阅读全文

Local LLM VRAM Calculator: VRAM Fit and Quantization Plan (2026)

本页面面向需要具体本地与云端决策而非通用模型公告的读者,目标是“本地 LLM VRAM 计算器”。有用的答案是,在 24GB RTX 3090 上测试本地 LLM VRAM 计算器是否值得,需要关注哪些失败边界,以及如果模型未达目标该怎么办。

阅读全文

ministral-3:14b:RTX 3090 历史测速与使用边界

ministral-3:14b 是一个在 24GB RTX 3090 上运行的中等速度通用模型 (77.0 tok/s)。对于批处理或离线工作负载,它值得在本地进行测试。对于实时交互使用,在投入使用前,请使用您典型的提示长度测量端到端延迟。

阅读全文

llama4:16x17b:RTX 3090 历史测速与使用边界

llama4:16x17b 在 24GB RTX 3090 上以 16.8 tok/s 的速度运行——属于“审慎”范围。该模型优先考虑质量或参数数量而非原始速度。请先在离线或后台任务上测试它,如果交互响应时间很重要,请考虑使用更小的量化版本。在目前测量的 RTX 3090 模型中,它的吞吐量排名 18 个模型中的第 14 位。下一个更快的模型是 qwq:32b (36.0 tok/s,快 115%)。下一个更慢的模型是 glm-4.7-flash:bf16 (11.2 tok/s,慢 49%)。

阅读全文
查看全部专题文章
自动任务运行记录