第1271章 F(x)=H(x)-x

    第1271章 F(x)=H(x)-x (第2/3页)

传播时,损失对X的梯度不只经过F这一条路径,还会多一条直接传递的路径。只要加法结构没有被破坏,梯度就能沿着捷径回到浅层。”

    成文飞接过笔,在公式旁边补了一行。

    两个人很快投入推导。

    实验室里只剩下笔尖划过白板的声音,旁边的研究员也围了过来。

    成文飞不断提出问题,何恺明不断修改表达式。

    一个小时后,成文飞放下笔。

    “成教授,先别判断它是不是普适,跑一次数据会回答。”

    成文飞看着白板上的结构图,“那好,准备实验。”

    “现在?”

    “现在。”

    “语料还没完全标注。”

    “先用现有数据做对照。普通堆叠网络和残差结构各训练一版,层数从十层开始,逐步加到二十六层。”

    “行。”

    成文飞转身看向服务器区,“如果这个结构能把深度网络的问题解决,语音识别的进度会快很多。”

    何恺明没有接话,他知道,成文飞真正关心的不是一篇论文,也不是谁先提出一个结构,倒是自己,这个想法完全可以整理出一篇论文来。

    如果这条路能让深层模型继续训练,神经网络的上限就会被重新打开。

    倒是马乐离开人工智能实验室后,直奔杜文的系统工程部门办公区,在他看来陈总最关注的项目有三个,一个是半导体,一个是汽车,还有一个就是人工智能。

    如果更准确一点的说,那连汽车都不能算。

    只有半导体和人工智能才是最重要的东西。

    没和成文飞他们接触之前,在马乐的设想中人工智能就像电影里的那样,但真正和这些专家大牛接触以后,特别是从陈总口中听到一星半点的话语之后,马乐知道,人工智能绝对不是电影里那样。

    至于真正的AI是什么,马乐也不知道,或许只有陈总见过?

    走到系统工程部门,马乐一进来就大喊,“杜文,杜文,杜总。”

    办公室里传来回应:“谁在喊我?”

    “你马哥。”

    杜文从办公室走出来,看到马乐,笑着迎上去,“哟,这不是马乐吗?你怎么跑到我这里来了?”

    这俩人可以说是红星的元老一点都不为过,红星电子的时候就在一块工作,属于是熟悉的不能再熟悉了。

    只不过杜文做系统一般在幕后,不像马乐一样经常抛头露面的。

    有时候杜文

    (本章未完,请点击下一页继续阅读)