一场讲透大模型「瘦身术」:从 16bit 到 4bit
匠人 TV

一场讲透大模型「瘦身术」:从 16bit 到 4bit

发布

视频简介

本次免费线上公开课将从低比特量化的核心原理出发,系统梳理大模型量化的主要技术路线、代表性方法与工程挑战,并介绍 INT4、INT2 及更低比特量化、混合精度、向量量化等前沿方向。 既讲清底层逻辑,也关注真实部署中的方法选择,帮助你建立对大模型低比特量化的整体认识

常见问题

这个视频主要讲什么内容?
本次免费线上公开课将从低比特量化的核心原理出发,系统梳理大模型量化的主要技术路线、代表性方法与工程挑战,并介绍 INT4、INT2 及更低比特量化、混合精度、向量量化等前沿方向。 既讲清底层逻辑,也关注真实部署中的方法选择,帮助你建立对大模型低比特量化的整体认识
在哪里可以观看这个视频?
可以在匠人学院官网观看;本页还提供 YouTube 和 Bilibili 播放入口。