如何评价海思麒麟 970所搭载的寒武纪-1A NPU?

如何评价海思麒麟 970所搭载的寒武纪-1A NPU?

说说个人感想以及对未来的臆测。在第一个阶段,手机端NPU可能还只是用来运行训练好的神经网络,比如将Prisma图像风格转换的耗时从10秒降低到0.5秒。

但是这绝不是NPU未来的全部。在未来,手机端应该可以根据本地数据对预存神经网络做微调,微调后的权重会上传到云端。云端会对所有权重做汇总,得到更好的模型。这样每一个手机都是分布式的神经网络训练终端,这个终端不上传隐私数据,只上传谁也看不懂的权重。每使用一次软件,根据反馈机制,本地的模型会得到优化提升,而每次更新,从云端下载的权重都会使软件的体验有一个质的飞跃。

这种拥有微调和反馈,并不断进化的分布式神经网络,才是NPU的最终应用场景。估计以后会出现很多这样的人工智能软件,在云端先用模拟或者合成的数据做训练,得到百分之八十精度,发布后再根据用户端使用真实数据时的NPU反馈,进行微调进化。用户规模大的话,一次更新就能将精度提升到真实可用的地步。