CPU是打算要革GPU的命

原文地址:http://www.linuxeden.com/a/83861

  AI 的一大瓶颈是训练成本,深度神经网络(DNN)的训练通常是一系列矩阵乘法操作,这是 GPU 非常擅长的工作,但 GPU 尤其是专业级显卡要比 CPU 昂贵得多。Rice 大学的计算机科学家和英特尔的研究人员从 2019 年就开始探讨使用 CPU 训练深度神经网络,他们采取的方法是将 DNN 训练转变成能用哈希表解决的搜索问题,他们的 “sub-linear deep learning engine” (SLIDE) 设计运行在商业 CPU 上。2019 年的研究显示,SLIDE  训练所需时间为 GPU 的 2/7。现在,研究人员利用现代 CPU 的向量化和内存优化加速器改进了 SLIDE 的性能,用 CPU 算法训练深度神经网络比 GPU 快 15 倍。他们的代码发布在 GitHub 上。

人就像是被蒙着眼推磨的驴子,生活就像一条鞭子;当鞭子抽到你背上时,你就只能一直往前走,虽然连你也不知道要走到什么时候为止,便一直这么坚持着。
原文地址:https://www.cnblogs.com/guochaoxxl/p/14651456.html