以下部分引用 AI 总结,现阶段 AI 仍然有幻觉。请以内容的原文为准。
数据新鲜度群聊 07-14 ✓卖方 07-14 ✓Wrap 断档15天 ✕News 07-15 ✓X 断档12天 ✕页面生成 07-15
M3 Ultra 512GB
4 atoms · 跨 2 天 · 首见 2026-05-03 · 最近 2026-06-13
三色: 🟦 fact 4 · 🟥 take 0 · stance ▲0/▼0/◆2
来源: X 4
时态: fresh:4
标签: 好数字:4
事实 (fact) (4)
- 2026-06-13 · 运行tps
Tested on M3 Ultra 512GB running at 24 tps with peak memory ~240GB.
tags: 好数字 · → daily
value: qty=24 tps
- 2026-06-13 · 峰值内存使用
peak memory ~240GB.
tags: 好数字 · → daily
value: qty=~240GB
- 2026-05-03 · prefill speed at 32K prompt with dflash-mlx vs llama.cpp
prefill 2-3x slower. 32K prompt: ~220 vs 676 tok/s
tags: 好数字 · → daily
value: qty=220 vs 676 tok/s
- 2026-05-03 · end-to-end latency at 16K prompt + 300 token reply with dflash-mlx vs llama.cpp
end-to-end at 16K + 300 tok reply: 66.8s vs 46.3s. 32K: 2.5x slower
tags: 好数字 · → daily
value: qty=66.8s vs 46.3s
时间轴 (近 20)
- 2026-06-13 ·
fact · 运行tps · → daily
- 2026-06-13 ·
fact · 峰值内存使用 · → daily
- 2026-05-03 ·
fact · prefill speed at 32K prompt with dflash-mlx vs llama.cpp · → daily
- 2026-05-03 ·
fact · end-to-end latency at 16K prompt + 300 token reply with dfla · → daily
← 实体目录 · 系统日志