首页 >> 宠物喂养
宠物喂养

苹果大假设最大动作:开源M芯专用ML框架,能跑70亿大假设

发布时间:2024-02-06 12:17

萧箫 先于 凹非禅寺粒子位 | 社会所号 QbitAI

草莓M三部复合片专属的人工神经网络前提,GNU即爆火!

现在,用上这个前提,你就能同所发在草莓GPU上赛跑70亿数值大数学方法、基础训练Transformer数学方法或是做LoRA阶段性。

它由草莓官方释出,风格与PyTorch相似,不过非常基于任何才有前提实现。

LeCun等大佬相继赶来点赞发送。

英伟达现职AI研究者Jim Fan赞叹称:

这应该是迄今草莓在GNUAIGNU上最小的挥部了。

甚至还有网友动起了iPhone上A复合的念头(挥动狗头)

所以,这个前提究竟长啥所发?

概述多个ML前提建筑设计

这个新前提原是MLX,有揭示人工神经网络(ml-explore)的意思。

从功能来看,MLX主要有以下几点优点:

API熟悉(有数C++ API、类似于NumPy的Python API以及一些现职功能包相近PyTorch的API)、可组合数组叠加、液态计算、时序布实现、多装置可用、独立内存。

前提译者Awni Hannun简介,之所以MLX不同所发基于PyTorch实现,主要有几个方面的考量。

首先是因为,MLX前提是给草莓复合片建筑设计的。

草莓复合片在采用了一些独有的建筑设计,例如独立内存,这些建筑设计在前提里面都可以被能用。

然后,MLX前提也概述了不同人工神经网络前提的占优势,有数NumPy、PyTorch、Jax和ArrayFire等。

例如JAX里面可组合的数组转换,就被加进了MLX的建筑设计里面,但graph(计算布)几乎是时序实现的。

除此之外,译者认为MLX也有一些属于自己的优点,如恰当、迅捷和生态系统等。

因此,MLX在功能和建筑设计上与PyTorch等经典前提不下回全一所发,有一些“自己的style”。

如果你挥上有草莓M复合人工智慧的话,现在就可以上挥一试赛跑AI数学方法了。

草莓人工智慧M三部复合片才能用

迄今,官方假定了5类MLX的使用概述情形:

Transformer架构句法数学方法的基础训练用LLaMA或Mistral开展长文本降解用LoRA开展数值阶段性用Stable Diffusion开展布像降解用Whisper开展构词识别

译者们还在GitHub上捉到了基于Stable Diffusion对比的PyTorch和MLX的机动性:

要是对这几个AI数学方法感兴趣,装好MLX便就可以同所发上挥试玩了。

译者假定了一三部挥把挥的经典著作,教你如何在草莓人工智慧上行驶MLX前提。

首先是pip install mlx,装设一下前提:

我们也在草莓M复合人工智慧上在此便了一下,可以成功装设:

值得一提的是,装设前想起检查一下你的草莓人工智慧,各种环境和操作系统前提都做好了。

而且复合片能够是草莓自研的M三部复合片,可以用这个每一次检查一下:

如果是IntelSDK,也是用一定会MLX的:

做定便,git clone一个副本,就可以在所发例里面找到自己想玩的数学方法,在此便上挥行驶了:

这里赛跑一个LLaMA放心:

然后就可以开始问难题了,例如波尔查诺-魏尔斯塞特定理是什么等等,LLaMA就能在终端给你解答:

LightningAI的Sebastian Raschka透露,这个前提看起来非常全因,想要能看到来得多PyTorch与MLX在macOS上的机动性对比。

除此之外,LLaMA在MLX上的实现细节也非常有意思:

还有不少草莓其他用户透露高兴:H100匮乏的情况下,终于可以用M3 Max来做事了。

你试行过MLX了吗?感觉如何?

概述链接:[1][2]

— 下回 —

粒子位 QbitAI · 头条新闻号跳槽

注射用胸腺法新迈普新是什么药
佐米曲普坦片的效果好吗
阳了以后出现黄痰怎么处理
胃溃疡都吃哪些药物治疗
止泻最快最有效的药

友情链接