在5G、AI、IoT可说是近几年半导体产业最热门的议题的情况下,为因应5G时代AI边缘运算需求持续增加,如何提升IoT芯片AI运算效率却不增加功耗,已成为IC设计产业难题。对此,力积电董事长黄崇仁表示,透过力积电新开发的AI芯片,可以有效降低AIoT应用服务设备开发成本。
黄崇仁20日于2019日本嵌入式&物联网技术大展(ET&IoT Technology 2019)上进行专题演讲时表示,力积电开发中的AI芯片(AI Memory)技术,是将MCU与DRAM整合到单一芯片上,并让存储器资料可依照需求进行非循序存取,进而提升影像神经网路运算10倍处理效率,让IC设计业者开发出体积更小的单芯片电脑(Single Chip Computer),进而降低AIoT应用服务设备开发成本。
黄崇仁进一步指出,人类大脑有大约10的11次方个神经元(neuron)与10的15次方个突触(synaptic),形成一个连接线路高达数千英里的立体性神经网路架构。但是,整个大脑的耗电量只有25瓦,可说是非常省电。力积电在研究分析大脑神经元运作架构之后,耗费许久开发出AI芯片(AI Memory,AIM)技术,协助IC设计业者可以开发出给AI运算用的AI芯片,不仅低耗电,AI运算效率也能符合应用需求。
他还表示,IC设计业者可以透过AIM Innovation Service Platform架构,与力积电、智成电子、爱普科技合作,将CPU与DRAM相关IP放在同一颗芯片中。如此一来,MCU到DRAM的资料传输,可以从常用的32位元大幅提升至4096位元,不仅增加资料传输频宽,并且达到低延迟与低耗电效果。甚至,还可以把Wi-Fi芯片功能包进去,让单一芯片可以获得相当于单芯片电脑所需功能,并能降低芯片耗电量。
而以行车安全最需要的ADAS(先进驾驶辅助系统,Advanced Driver Assistance Systems)应用为例,若是采用AIM技术所开发的单芯片,搭配影像神经网路加速运算程式(Video Neuron Network Accelerator,VNNA),在进行1080p RGB影像物件分离处理上,可以达到10倍的执行效率,但耗电量却只要原来的十分之一,可说是非常省电又有AI运算效率。同样的架构与技术可以让自驾车、无人车、摄影机、影像监控等芯片供应业者采用,协助相关芯片业者开发出具有特定领域的AI加速芯片产品。
此外,因为在范纽曼型架构(von Neumann architecture)下,传统AI运算上会碰到的频颈是资料需要循序处理,不符合AI运算情境上其实是要能非循序存取的需求。而力积电的AI Memory技术,就可开发出后范纽曼型架构的存储器处理方式,除了将CPU到DRAM的频宽大幅提升,甚至可以在存储器存取上加入控制电路,以非循序存取的方式高速读取DRAM资料,进而提升AI运算执行效率。