AI圈报
模型发布 / 更新普通

MiniCPM-o 4.5 经 TyloQuant MFQ 量化登陆苹果芯片

信息来源:X:面壁智能 OpenBMB (@OpenBMB)·
原始标题:MiniCPM-o 4.5 now runs efficiently on Apple Silicon with TyloQuant MFQ! 🥰 The team at @Tylogi_ai h…

内容摘要

面壁智能 MiniCPM-o 4.5 现可通过 TyloQuant MFQ 量化版在 Apple Silicon 上高效运行,支持本地多模态推理。TyloQuant MFQ 采用神经元感知的混合格式量化,在降低内存占用的同时保留视觉、音频与实时交互能力,并提供多种量化等级及 Metal/CUDA 内核加速。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:面壁智能 OpenBMB (@OpenBMB)
站内情报编号intel-b03771600c423c85a062469a