观点 / 方法精选
在 8 美元的 ESP32-S3 微控制器上运行 28.9M 参数大语言模型
原始标题:在8的微控制器上运行一个拥有28.9M个参数的大语言模型
内容摘要
开发者成功在售价约 8 美元的 ESP32-S3 微控制器上运行了一个 28.9M 参数的大语言模型,完全在芯片本地运行,无需连接服务器,生成速度约 9.5 tok/s。
内容分类AI 观点与方法
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Hacker News 热门(buzzing.cc 中文翻译)
站内情报编号intel-c22b4e53557cf4e07fb16d81