Mythic公司公布模拟AI芯片战略,把所有东西放在内存里

2019-10-14来源: 半导体行业观察关键字:Mythic  AI芯片
说到人工智能硬件,我们向来事无巨细。WikiChip密切关注的一家公司是Mythic。这家公司还没有完全公开他们的架构和产品,但一些细节已经开始慢慢浮出水面。在最近的人工智能硬件峰会上,该公司的创始人兼首席执行官Mike Henry绍了该芯片的最新情况。


这家位于奥斯汀的初创公司由Mike Henry和Dave Fick于2012年创立,最近完成了7000万美元的B轮融资,总融资额刚刚超过8500万美元。如今,公司员工已增至110人。

Mythic是一家模拟公司。但是,在我们探讨细节之前,必须指出,它们目前仅专注于推理,无论是在数据中心还是在边缘。到2024年,这两个市场的TAM(Total Available Market总体有效市场)

预计将达到250亿美元,这就是为什么这里有如此多的关注点的原因。从长远来看,Mythic计划针对大众市场的消费品和汽车产品。

把所有东西都放在芯片上,放在闪存里


随着模型准确性的提高,其大小也会随之增加。如今,模型达到了数亿个参数,甚至达到数十亿。最重要的是,通常实时地需要确定性行为,例如一致的帧速率和延迟。这就是Mythic的作用。Mythic的论点很简单:将足够的存储与大量并行计算单元打包在芯片上,以最大化内存带宽并减少数据移动的能力。但是有一个转变——这就是Mythic的原始方法的闪光点——该公司抛弃了传统的SRAM,转而使用更密集的闪存,此外,Mythic还计划在模拟环境下直接在内存中进行本地计算。

但是为什么是闪存?答案很简单:因为它密度大,功耗低,而且便宜,几乎比SRAM的密度大两个数量级。


理论上,Mythic的芯片更像内存,而不是传统的CMOS。从更长的路线图来看,随着SRAM  bit cell的扩展变得越来越困难,它带来的好处也越来越深远。总的来说,从每美元的性能、每单位成本的密度和每瓦特的性能来看,这是一个潜在的巨大胜利。


多年来,我们看到了一大堆路线图,当他们开始谈论未来10年的时候,很容易忽视它。但对Mythic来说,有一些不同之处。值得特别指出的是,目前Mythic正在研究40纳米的嵌入式闪存。他们有一个相当清晰的28nm和22nm的路径,因此,粗略地说,这个图的一半是基于今天已经发布的现有节点。


Mythic公司的首席执行官Mike Henry似乎相信他们可以继续这样做,但是尽管正在进行一些工作以继续扩展到16/14纳米节点,还不清楚它是否会上市。


许多业内人士认为,嵌入式闪存在22纳米的时候遭遇了瓶颈。在与Mythic的一次简短交谈中,他们告诉我们,他们并没有与嵌入式闪存结合,如果其中一项新兴技术(如多位ReRAM、PCM或NRAM)作为一种强大的替代技术出现,他们肯定会考虑迁移到这种技术。



IPU


Mythic的芯片被称为IPUs或智能处理单元。在外设方面,该芯片非常简单,由PCIe的x4通道和DNN平铺网格组成,PCIe是负责整个芯片管理的基本控制处理器。由于芯片的设计是为了存储整个模型,没有DRAM。

Mythic表示,由于这是一个基于tiles的设计,如果有需求,他们可以通过添加直接的音频/视频和各种其他接口来进一步定制。在去年的Hot Chip上,Mythic谈论的是一款5000万权值(weights)的初始产品。在最近的人工智能硬件峰会上,Mike Henry表示,初始产品权值将达到1.2亿,这比最初的计划要多很多。在富士通的40nm制程中,近标线全尺寸芯片应具有约300M权值的容量,因此120M仍然是一个相当大的芯片。

IPU的作用是作为一个连接到主机的PCIe加速器。对于大型模型或多个模型,可以使用多个IPU。模型最初被加载到IPU中,并保持静止。没有DRAM和编程闪存相对较慢,因此模型应该能够适应芯片与多个应用映射到同一芯片。这对于许多边缘应用程序来说非常典型。在正常操作下,主机CPU将数据发送到IPU,并通过PCIe端口接收结果。

IPU总体设计(WikiChip)


该芯片由DNN tiles构成网格。在一个tiles里面是一个模拟矩阵乘法器,它建立在一个巨大的嵌入式闪存池的顶部,用来计算权值。嵌入式闪存单元使用浮动栅极通过存储电荷、控制阈值电压来存储位。晶体管支持256级电导(G=1/R)之间的完全关闭和打开状态,Mythic用它来表示8位值。


通过将所有神经元的权值映射到闪光晶体管上,他们可以利用欧姆定律自然地进行矩阵乘法运算。实现的方法是使用闪光晶体管将权值表示为可变电阻。这在计算之前执行一次。使用8位DAC,输入矢量作为一组电压通过可变电阻。根据欧姆定律,输出电流是输入数据与权值向量(I = V x G)相乘的结果。最后,一组adc将产生的电流转换回数字值,成为输出矢量。ReLu和其他各种非线性操作也由adc在那个时间点完成。


围绕这个组件还有一些额外的逻辑。不管工作条件如何,DAC/ADC封装器都会进行补偿和校准,以获得精确的8位计算—类似于今天的图像传感器所做的工作。

模拟矩阵乘法(wikichip)


需要指出的是,这个方案没有实际的内存访问。矩阵相乘是在内存中完成的,利用欧姆定律,所以没有权值访问能量。使用固定权值时,也没有批量大小或其他特殊处理。虽然固定容量可能会带来一些问题。顺便说一下,它们支持神经元稀疏,但不支持权值稀疏性。


有趣的是,Mythic说,对于他们的第一代,为了加快开发和上市时间,他们不会使用DAC作为输入。相反,他们使用一个数字近似电路,由此分别计算每个输入位,然后累加结果。他们将在将来用DAC消除这种情况,这有望为他们提供一些很好的改善。
关键字:Mythic  AI芯片 编辑:muyan 引用地址:http://news.pyfle.com/mndz/ic477010.html 本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:当电子元件性能下降:如何保护您的模拟前端
下一篇:ADI全新集成24位ADC、有效降低成本并加快产品上市时间

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

边缘AI芯片市场2024年将达76亿美元 竞争激烈
   多样性是游戏的名称,当谈到边缘人工智能(AI)芯片组产业。在2019年,人工智能行业见证了人工智能工作负载的不断迁移,特别是人工智能推断,转向边缘设备,包括前提服务器、网关、终端设备和传感器。基于人工智能在17个垂直市场的发展, ABI Research预计,边缘AI芯片组市场将从2019年的26亿美元增长到2024年的76亿美元,没有一家厂商占据40%以上的市场份额。这个市场的领跑者是NVIDIA,2019年上半年收入占39%。GPU供应商在关键的人工智能垂直领域有很强的影响力,目前在人工智能部署方面处于领先地位,例如汽车、相机系统、机器人和智能制造。“面对不同的用例,NVIDIA选择发布具有不同计算
发表于 2019-10-18
特斯拉AI芯片部署计划曝光
特斯拉为了实现全自动驾驶目标,积极开发相关硬件。今年8 月,马斯克在Hot Chips 大会上,分享特斯拉自行开发的AI 芯片设计细节,并称其为「全球最强芯片」。特斯拉先前采用的是NVIDIA的芯片。根据cnet等外媒报导,特斯拉自行开发的AI芯片效能是先前NVIDIA芯片的21倍,成本还更低,但离全自动驾驶的目标,特斯拉还有一段很长的路要走。每台特斯拉都会搭载两个AI 芯片,设计师:可以提升安全性根据特斯拉的官方介绍,新款电脑的主机板会搭载这种AI 芯片,其周围都设有DRAM 记忆体,同时配有电源来保证供电。上面还有感测器感知讯号输入功能,包括雷达、GPS,甚至是转向角度等等。特别的是,每台特斯拉都会搭载两颗AI 芯片,每个芯片
发表于 2019-10-05
AI芯片竞争进入落地下的半场?
用“一半是海水一半是火焰”来形容现在的AI芯片市场或不为过。早期进场的AI芯片玩家虽然在加快落地,但商用看起来并没有预期平顺,毕竟考验不止涉及芯片本身,还需要强大的工程力和服务力。而新进场的AI玩家仍在前赴后继,据悉目前已有100多家芯片企业,在陆续尝试自己的差异化路线。而被认为最易落地的语音AI芯片和视觉AI芯片俨然已进入蓝海市场,入局的AI芯片企业如何根据目标场景和商业模式进行产品规划,如何经受产业化、规模化落地的检验,这将成为未来格局的分水岭。架构的“变革”而全面竞争脱不开芯片行业竞争的本质,那就是产品力,而产品力的灵魂就是架构。探境科技CEO鲁勇认为,芯片是一个技术密集型的产品,从架构设计、代码实现、功能仿真到封装、测试
发表于 2019-09-27
上海发新政策:将要打造一流AI芯片高地
商贸、医疗诊断等领域应用的算法瓶颈,以及芯片、软件框架等关键基础技术,加大支持力度,推进复旦、交大、同济等高校和科研院所与企业合作建立10个重点联合实验室。实施开源开放社区建设计划。重点支持新兴芯片企业参与算力平台建设项目,吸引汇聚国内外AI芯片企业,打造一流AI芯片高地。上海将扩大“科技创新券”“四新券”覆盖范围,集成社会创新服务资源,提升人工智能企业创新能力,按照创新活动支出给予最高200万元补贴。支持符合条件的企业申报高新技术企业、技术先进型服务企业,按规定享受15%的企业所得税优惠政策。支持符合条件的人工智能创新产品,享受首台套、首版次、首批次产品政策支持,符合规定的最高可按照专项支持比例30%上限给予支持。按照企业
发表于 2019-09-27
上海发新政策:将要打造一流AI芯片高地
平头哥半导体发布首款AI芯片含光800
平头哥半导体有限公司于2018年10月31日成立,法定代表人刘湘雯,是阿里巴巴旗下半导体公司。平头哥半导体将打造面向汽车、家电、工业等诸多行业领域的智联网芯片平台。前期由阿里扶持,后期平头哥将会独立化运作,自负盈亏。在2019年杭州云栖大会上,平头哥半导体发布了阿里的首款AI芯片——含光800,该芯片是一款云端AI芯片,也是全球最高性能的AI推理芯片。 据悉,含光800AI芯片是阿里巴巴第一款正式流片的芯片,主要应用于云端视觉处理场景,性能打破了现有AI芯片记录,性能及能效比全球第一。  据了解,平头哥用7个月完成了前端设计,之后用3个月就成功流片。 早前,在今年7月的阿里云上海
发表于 2019-09-26
平头哥半导体发布首款AI芯片含光800
小广播
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 pyfle.com, Inc. All rights reserved
快乐飞艇计划有软件吗 快赢彩票 博乐彩票 快乐飞艇怎么赢钱 快乐飞艇是国家发行的吗 快乐赛车规律公式 全天快乐赛车人工计划 快乐飞艇平台注册 百万彩票 快乐赛车作弊器