Unsloth 发布 Qwen3.8-Flash-Next GGUF

Unsloth 发布 Qwen3.8-27B 的 Dynamic V3.1 GGUF 量化版本，称在 DeepSWE v1.1、Terminal Bench 2.1 等智能体基准上平均准确率领先 5–10%，支持 256K 上下文。可在 12GB RAM 上运行，模型见 https://huggingface.co/unsloth/Qwen3.8-27B-GGUF，博客见 https://unsloth.ai/docs/models/qwen3.8，团队还在为 Qwen4 …

Hugging Face 宣布 transformers vLLM 后端现与手写原生 vLLM 实现速度相当甚至更快。模型作者无需移植代码，即可自动利用 transformers 获得超快推理。测试使用 Qwen3-4B（单 GPU）、Qwen3-32B（张量并行）和 Qwen3-235B-A22B-FP8 MoE（数据+专家并行）三种配置，吞吐量均达到或超过原生。该后端通过 torch.fx 静态分析图、AST 重写代码实现动态层融合，支持张量/管道/专家并行及 torc…

Nvidia GEAR 实验室开源机器人视频标注数据引擎 Flora，由三个微调 Qwen3.5 模型组成，覆盖动作分段、执行评分和结果判定三类标注，模型已上架 Hugging Face，并已用于 GR00T 训练，在 512 块 GB300 GPU 上每天可标注 20 万小时视频。

Liquid AI 发布 LFM2.5-24B-A2B，为 LFM2.5 系列最大成员，现已在 OpenRouter 上线。该模型为 24B 总参数、每 token 2B 激活的 MoE 推理模型，上下文扩展至 131K tokens，词表 128K，使用 33T 预训练 tokens，面向笔记本和 PC 本地运行 Agent 与工具调用多步任务；在 agentic 和 tool-use 任务上可与总参数和激活参数多约 50% 的 Qwen3.6-35B-A3B 竞争，开源…

Viggle 九月动态：在 @huggingface 上发布了 3 个开放权重模型 🤗 • Viggle-Animate：本周精选 Space • Meridian：本周精选 Space • Qwen-Image-2.1-viggle-turbo：趋势 Space 第 4 名，趋势模型第 9 名 900+ 点赞。260K+ 下载量。50+ 社区 Space。 感谢你们与我们一同构建。 以下是我们发布的内容——以及你们用它构建的作品 ↓

Pruna-Qwen-Image-2.1 是一组少步数 LoRA 适配器，可将 Qwen-Image-2.1 的图像生成与编辑速度提升至多 6.3 倍。生成或编辑图像只需 5 或 8 步而不用 40 步，选 5 步追求最快速度，选 8 步兼顾效果与速度。HF 工作流：https://huggingface.co/spaces/akhaliq/Pruna-Qwen-Image-2.1

Unsloth 发布 Mistral Le Chonk（Mistral Large 4，1T 参数 MoE，52B 激活）的 Dynamic 1-bit GGUF，可在 Mac Studio 上本地运行，保留 91% top-1 准确率，体积约 233GB（较 1.1TB FP8 小 80%）。图为各量化档位给出硬件需求，1-bit 需 256-270GB 内存，最小 UD-IQ1_S 约占 233GB 磁盘，并支持文本与图像输入、1M 上下文和 160+ 语言。GGUF …

Unsloth 发布 MiniMax-M3.1-Flash 的量化 GGUF，2-bit 版在缩小 45% 体积的同时保留 91.5% top 1 精度，可在 150GB 内存上本地运行，1-bit 版约 89.9%，4-bit UD-Q4_K_XL 达 98.0%。作者称其为同尺寸最强开源模型之一，并给出 Hugging Face 权重链接与本地运行指南。

Unsloth 通过 MTP（Multi-Token Prediction）让 Qwen3.8-Flash-Next 本地推理提速约 1.3 至 1.7 倍且精度不变，GGUF 在单张 RTX PRO 6000 上可达 170 tokens/s（基线 100 tokens/s）。

你的本地 LLM 现在可以通过 Unsloth 接管浏览器并自主完成任务！ Qwen3.8-27B 成功操控浏览器完成了下棋、绘画等任务，全程无需人工干预。 GitHub：https://github.com/unslothai/unsloth 指南：https://unsloth.ai/docs/basics/browser-use