|
百度亮相全球软件开发大会 揭秘深度学习四大成功条件
http://www.cww.net.cn 2013年11月4日 13:27
在深度学习方面,百度已经在学术理论、工程实现、产品应用等多方位取得了显著的进展,已经成为业界推动“大数据驱动的人工智能”的领导者之一,提交国家专利22项。在第30届国际机器学习大会(International Conference on Machine Learning, ICML 2013)上,百度IDL常务副院长余凯博士与美国佐治亚理工学院学者合作的有关深度学习的论文“Smooth Sparse Coding via Marginal Regression for Learning Sparse Representations”获得大会最佳论文奖银奖;基于深度学习人脸识别技术的PK大咖获得2013艾菲奖大中华区金奖。 在图像技术应用中,传统的从图像到语义的转换是极具挑战性的课题,业界称其为语义鸿沟。百度深度学习算法构造出一个多层非线性层叠式神经元网络,能够很好地模拟视觉信号从视网膜开始逐层处理传递,直至大脑深处的整个过程。这样的学习模式能够以更高的精度和更快的速度跨越语义鸿沟,让机器快速对对图像中可能蕴含的成千上万种语义概念进行有效地识别,进而确定图片的主题。 在人脸识别方面,最困难的是识别照片中的人是谁或者通过照片寻找相似的人。百度在深度学习的基础上,借鉴认知学中的一些概念与方法,探索出了独特的相似度量学习方法来寻找图像的相似性和关联,能够做到举一反三。 在深度神经网络训练方面,伴随着计算广告、文本、图像、语音等训练数据的快速增长,传统的基于单GPU的训练平台已经无法满足需求,为此,百度搭建了Paddle(Parallel Asynchronous Distributed Deep Learning)多机并行GPU训练平台。数据分布到不同的机器,通过Parameter Server协调各机器进行训练,多机训练使得大数据的模型训练成为可能。 在算法方面,单机多卡并行训练算法研发,难点在于通过并行提高计算速度一般会降低收敛速度。百度则研发了新算法,在不影响收敛速度的条件下计算速度图像提升至2.4倍,语音提升至1.4倍,这使得新算法在单机上收敛速度达到图像提升至12倍、语音提升至7倍的效果。相比Google的DistBelief系统用200台机器加速约7.3倍而言,百度的算法优势更加明显。 目前普遍认为深度学习是最接近人脑的复杂模型,也是目前向人工智能走得最近的方法,将会在百度得到越来越多的应用,同时,深度学习也将使得百度的智能性大为增强。以张潼等为代表的百度科学家群体,对深度学习的未来发展充满信心。而在足够的智力资源奠基优势下,百度IDL极有望成为像AT&T-Bell labs,Xerox PARC这样的顶尖研究机构,在国际互联网创新科技前沿领跑。 [1] [2]
来源:通信世界网 编 辑:王熙
猜你还喜欢的内容
文章评论【查看评论()】
|
企业黄页 会议活动 |