CoCoPIE:将真正的人工智能放入更小空间的软件解决方案
一点一点地,一个字节一个字节地,人工智能已经进入了公众的意识,进入了日常的计算机使用。
备受瞩目的计算机战胜了人类对手,比如IBM的沃森在《危险边缘》(Jeopardy!)深蓝击败国际象棋冠军加里·卡斯帕罗夫(Garry Kasparov)将被载入史册。人工智能和深度学习已经深入到终端用户计算的越来越多的方面。
智能手机和其他移动设备也使用人工智能。到目前为止,人工智能工作都是在云端完成的,但一种新的软件设计方法旨在为移动设备配备真正的人工智能能力。
威廉玛丽公司的计算机科学家任斌解释说:“移动设备的资源非常有限。“它的CPU和GPU比云计算要小得多。”
任是一个合作组织的成员,该组织开发了一个名为CoCoPIE的软件框架。任解释说,平板电脑、智能手机和物联网设备(如运行CoCoPIE软件的智能恒温器)可以使用实时人工智能应用程序,而无需对设备进行大量硬件修改。
任是威廉玛丽学院的助理教授计算机科学系. CoCoPIE合作项目的其他成员包括东北大学的王艳志、北卡罗莱纳州立大学的沈希鹏和PerceptIn公司的刘少山
William & 玛丽的技术转移主管杰森·麦克德维特(Jason McDevitt)表示,CoCoPIE具有极好的商业潜力。这所大学与东北大学合作,在CoCoPIE技术上有一组专利正在申请中。
任解释说,CoCoPIE的工作原理是协同设计,将压缩和编译器的功能结合在一起,创造出人工智能能力。他教授编译课程,本质上是将人类编写的编程语言翻译成二进制代码。任解释说,CoCo或压缩/编译概念在理论上很简单,但实现起来却是一个挑战。
“首先,我们设计了一种新颖的压缩技术,”他说。“这是一种修剪技术,我们的工作需要基于模式的修剪。默认情况下,编译器不能从模式中受益,但我们找到了一种方法使它们协同工作。”
合作者在现成的三星Galaxy S10智能手机上试验了他们的纯软件人工智能方法。他们对其他软件深度神经网络加速框架和硬件解决方案进行了一系列图像增强测试。Ren表示,他们发现CoCoPIE在速度和功率效率方面优于所有这些解决方案,首次在移动设备上实现实时深度神经网络执行。
测试涉及对一组图像的操作,这些图像在智能手机用户中是常见的操作——上色、风格转移和通过数字超分辨率锐化。任说,这个想法不仅仅是为了让手机拍照的普通用户受益。他说,首先,移动和物联网设备中的原生人工智能可以帮助警方识别和逮捕罪犯。
“还有带宽,”他说。“移动设备上的人工智能将节省大量带宽。”