TAGS / TERM
LLM推理
共 15 篇
- 通义千问3.6 27B：本地开发的最佳选择 2026-06-30 · HACKER_NEWS
- P-EAGLE：vLLM集成并行推测解码加速LLM推理 2026-03-17 · BLOGS_PODCASTS
- P-EAGLE：vLLM集成并行推测解码加速LLM推理 2026-03-17 · BLOGS_PODCASTS
- P-EAGLE：vLLM 集成并行推测解码加速 LLM 推理 2026-03-16 · BLOGS_PODCASTS
- P-EAGLE：vLLM集成并行推测解码加速LLM推理 2026-03-16 · BLOGS_PODCASTS
- P-EAGLE：vLLM集成并行推测解码加速LLM推理 2026-03-16 · BLOGS_PODCASTS
- P-EAGLE：vLLM 集成并行推测解码加速 LLM 推理 2026-03-15 · BLOGS_PODCASTS
- P-EAGLE：vLLM集成并行推测解码加速LLM推理 2026-03-14 · BLOGS_PODCASTS
- P-EAGLE：vLLM集成并行推测解码加速LLM推理 2026-03-13 · BLOGS_PODCASTS
- Taalas HC1 定制芯片实现 Llama 3.1 8B 推理速度 1.7 万 token/s 2026-02-24 · BLOGS_PODCASTS
- 通往普及AI之路：实现每秒1.7万tokens推理 2026-02-20 · HACKER_NEWS
- 纯C语言实现Mistral Voxtral 4B语音模型CPU推理 2026-02-10 · HACKER_NEWS
- RRAttention：基于轮询移位的动态块稀疏注意力机制 2026-02-06 · ARXIV
- EWSJF：面向混合负载LLM推理的自适应调度器 2026-01-30 · ARXIV
- David Patterson重磅：LLM推理硬件的挑战与研究🚀！ 2026-01-25 · HACKER_NEWS