6月17日,阿里巴巴通义团队宣布开源了全新的千问3量化模型,完成基于苹果硬件的MLX框架的全系模型深度适配。据介绍,MLX框架是专为苹果芯片优化的机器学习框架。
此次千问3一次性推出32个官方MLX量化模型,包含4bit、6bit、8bit 和 BF16 等不同精度,可最大程度满足开发者在Mac Studio、Macbook、iPhone等不同苹果硬件上部署大模型的需求。
在千问3发布时,苹果机器学习科学家Awni Hannun还称第一时间用苹果硬件部署千问3。
6月17日,阿里巴巴通义团队宣布开源了全新的千问3量化模型,完成基于苹果硬件的MLX框架的全系模型深度适配。据介绍,MLX框架是专为苹果芯片优化的机器学习框架。
此次千问3一次性推出32个官方MLX量化模型,包含4bit、6bit、8bit 和 BF16 等不同精度,可最大程度满足开发者在Mac Studio、Macbook、iPhone等不同苹果硬件上部署大模型的需求。
在千问3发布时,苹果机器学习科学家Awni Hannun还称第一时间用苹果硬件部署千问3。