乐文小说网 > 重生1998:从下岗工人到全球首富 > 第九百八十三章 别把门关死了

第九百八十三章 别把门关死了


方教授的实验室里堆着三台服务器,全是二手货,风扇转起来跟拖拉机似的。
  课题是国家重点实验室的子项目,手写数字识别。
  听起来简单,做起来要命。
  方教授带着蒋旭和另外两个研究生搞了快两个月,准确率卡在百分之八十七,怎么调都上不去。
  训练一次要跑十四个小时,慢得人想砸机器。
  那天下午,陆远照常来实验室。
  方教授不在,去市里开会了。
  蒋旭坐在屏幕前,眼睛熬得通红。
  他看见陆远进来,指了指屏幕上的代码。
  “陆哥,你帮我看看。这损失函数降到零点零三就下不去了。再练就过拟合。方老师试了三种优化器,没用。”
  陆远拉过凳子坐下来。
  他先把代码从上到下翻了一遍,又点开训练日志看了两组数据,手指在桌面上敲了两下。
  “学习率怎么设的。”
  “零点零一。”
  “固定的?”
  “嗯。方老师说这个最稳。”
  陆远没说话。
  他把代码拉到最底下,看了几行权重初始化的部分。
  然后他站起来,走到白板前,拿起记号笔。
  “你过来。”
  蒋旭凑过去。
  陆远画了个横轴,标上迭代次数。
  又画了个纵轴,标上损失。
  曲线先陡后平,最后几乎不降了。
  “学习率不是越小越好。刚开始要大,步子迈开,先找到大致方向。快到谷底了再调小,慢慢摸。”
  他用笔在曲线中段画了个点。
  “你从这里开始,每隔一千步,把学习率乘零点一。这叫衰减。”
  蒋旭盯着白板:“就这么简单?”
  “就这么简单。还有,”陆远转身回到电脑前,敲了几行代码。他把原本逐样本计算的梯度改成了一批一批算。
  每次取六十四张图,算平均梯度,再更新权重。
  “批量训练。别一张一张喂。内存扛得住的话,取一百二十八。”
  蒋旭张了张嘴:“这也行?”
  “行不行跑了再说。”
  他们重新启动训练。
  屏幕上,损失曲线开始往下走,比之前陡得多。
  前一千步直接降到零点零二五。
  蒋旭眼睛瞪大了。
  “还没完。”陆远又敲了几行。
  他打开数据加载模块,把输入图像的像素值从零到二五五归一化到零到一之间。
  “数据范围先统一。不然梯度忽大忽小,学习率再对也没用。”
  第三处改完,他让蒋旭重新跑了一遍完整训练。
  这一次,屏幕上跳出的数字让蒋旭直接从凳子上弹了起来。
  百分之九十四。
  训练时间从原来的十四小时缩短到不到五小时。
  蒋旭盯着屏幕看了十几秒,然后转头看陆远。
  陆远已经把键盘推回原位,端起杯子喝了口茶。
  “陆哥。”
  “嗯。”
  “这是你写的?”
  “随便调了调。”
  “随便调了调?”蒋旭的声音都变了调,“方老师带着我们三个人搞了两个月。你来了四十分钟。”
  “你们方法不对。力气使在刀背上了。”
  蒋旭坐回凳子上,脸色复杂。
  他摘下眼镜擦了擦,又戴上,盯着屏幕上的准确率数字看了很久。
  “陆哥。”
  “嗯。”
  “你家里给你留了脑子。我家里只给我留了书。”
  陆远笑了:“书多好。书不咬人。”
  蒋旭苦笑:“我读了七年计算机,不如你修三个月主板。”
  “修主板跟算法一个道理。哪条线断了,信号就到不了终点。找出来,接上。就这么简单。”
  蒋旭摇头,说不出话。
  方教授第二天回来,看到训练日志和新的准确率,在实验室里站了很久。
  他先问蒋旭,蒋旭说是陆远调的。
  方教授走到陆远面前。
  “你改了几处。”
  “三处。”
  “哪三处。”
  “学习率衰减。批量梯度。数据归一化。”
  方教授沉默了十几秒。
  他看陆远的目光和第一次见面时完全不一样了。
  “陆远,你这三处改动,我明天要写进结题报告。”
  “写吧。又不是什么新东西。”
  方教授乐了:“你倒大方。”
  半个月后,国家重点实验室来人交流。
  方教授把项目成果做了汇报,重点提了那三处改动。
  台下的专家坐不住了,问了七八个技术问题。
  方教授答了几个,剩下的他推给蒋旭。
  蒋旭又推给陆远。
  陆远从最后一排站起来。
  他穿得还是那件灰夹克,袖口磨了边。方教授让他上台讲。
  陆远走上去,没拿稿子。
  他站在投影幕布前,把三处改动用最直白的话讲了一遍。
  学习率像下山,步子得先大后小。
  批量像流水线,一箱一箱搬比一个一个搬快。
  数据像尺子,长短不统一量什么都是歪的。
  三分钟,他就讲了三分钟。
  台下安静了几秒,然后一个老专家带头鼓掌。
  掌声不多,但很实。
  陆远鞠了个躬,下台回到最后一排。
  蒋旭在旁边戳他胳膊:“陆哥,你刚才那三分钟,比我讲三十分钟都管用。”
  交流会散场后,老专家私下找到方教授。
  “老方,那个修电器的,不简单。”
  方教授点头:“我知道。”
  “你该送他出去读。这种脑子,搁维修铺里可惜了。”
  方教授沉默了一会儿:“他连本科文凭都没有。英语也一般。”
  “那也得试试。有些人是老天爷硬往你门上送的。你别把门关死了。”
  方教授没接话。
  他掏出烟盒,抖了一根出来,没点,夹在指间转了两圈。
  老专家拍了拍他肩膀:“你那个课题,他出了多少力。”
  “核心的改动全是他调的。”
  “那你还等什么。结题之后立刻办。别拖。这种人你留不住太久。你不给他路,他自己也会找出路。”
  方教授终于把那根烟点上了。
  他吸了一口,吐出来的烟被走廊里的穿堂风扯成一条细线。
  “我试试。他这人怪。不愿意挂名,不愿意露脸。我上周说给他申请个临时工补助,他连表都没填。”
  老专家笑了:“有本事的人都有脾气。你当年不也这样。”
  方教授哼了一声:“我当年可没他这么犟。”
  他回头看了一眼。
  陆远正帮蒋旭收拾投影仪的线。
  他动作利落,把线绕成整齐的一圈,用绑带扎好,塞进布袋里。
  蒋旭在旁边说什么,陆远点点头,又摇摇头。
  然后他背上那个旧帆布包,朝方教授的方向挥了挥手,走出教学楼。
  方教授站在窗口,看着他的背影穿过操场。
  梧桐树荫一段一段落在他身上,又一段一段移开。
  他步子不快,走得很稳,帆布包带子在肩上勒出一道浅痕。
  方教授把烟慢慢抽完。
  烟灰掉在窗台上,他用手指碾了碾。
  “等这茬项目结题再说。”他对自己说。
  可他自己也知道,这话说得有点虚。
  结题还有三个月,三个月够干什么。
  够他把那本旧论文集翻烂,够他把白皮书再抄两遍,够他把那四个人一个一个摸清楚。
  方教授站在窗口没动。
  直到陆远的背影彻底消失在梧桐树尽头,他才转身回了办公室。
  那根烟的烟蒂还留在窗台上。
  很短,没抽完。
  像他刚才那个决定,说到一半,剩下的一半悬着。


  (https://www.lewenn.com/lw69392/46402748.html)


1秒记住乐文小说网:www.lewenn.com。手机版阅读网址:m.lewenn.com