第九百八十三章 别把门关死了
方教授的实验室里堆着三台服务器,全是二手货,风扇转起来跟拖拉机似的。
课题是国家重点实验室的子项目,手写数字识别。
听起来简单,做起来要命。
方教授带着蒋旭和另外两个研究生搞了快两个月,准确率卡在百分之八十七,怎么调都上不去。
训练一次要跑十四个小时,慢得人想砸机器。
那天下午,陆远照常来实验室。
方教授不在,去市里开会了。
蒋旭坐在屏幕前,眼睛熬得通红。
他看见陆远进来,指了指屏幕上的代码。
“陆哥,你帮我看看。这损失函数降到零点零三就下不去了。再练就过拟合。方老师试了三种优化器,没用。”
陆远拉过凳子坐下来。
他先把代码从上到下翻了一遍,又点开训练日志看了两组数据,手指在桌面上敲了两下。
“学习率怎么设的。”
“零点零一。”
“固定的?”
“嗯。方老师说这个最稳。”
陆远没说话。
他把代码拉到最底下,看了几行权重初始化的部分。
然后他站起来,走到白板前,拿起记号笔。
“你过来。”
蒋旭凑过去。
陆远画了个横轴,标上迭代次数。
又画了个纵轴,标上损失。
曲线先陡后平,最后几乎不降了。
“学习率不是越小越好。刚开始要大,步子迈开,先找到大致方向。快到谷底了再调小,慢慢摸。”
他用笔在曲线中段画了个点。
“你从这里开始,每隔一千步,把学习率乘零点一。这叫衰减。”
蒋旭盯着白板:“就这么简单?”
“就这么简单。还有,”陆远转身回到电脑前,敲了几行代码。他把原本逐样本计算的梯度改成了一批一批算。
每次取六十四张图,算平均梯度,再更新权重。
“批量训练。别一张一张喂。内存扛得住的话,取一百二十八。”
蒋旭张了张嘴:“这也行?”
“行不行跑了再说。”
他们重新启动训练。
屏幕上,损失曲线开始往下走,比之前陡得多。
前一千步直接降到零点零二五。
蒋旭眼睛瞪大了。
“还没完。”陆远又敲了几行。
他打开数据加载模块,把输入图像的像素值从零到二五五归一化到零到一之间。
“数据范围先统一。不然梯度忽大忽小,学习率再对也没用。”
第三处改完,他让蒋旭重新跑了一遍完整训练。
这一次,屏幕上跳出的数字让蒋旭直接从凳子上弹了起来。
百分之九十四。
训练时间从原来的十四小时缩短到不到五小时。
蒋旭盯着屏幕看了十几秒,然后转头看陆远。
陆远已经把键盘推回原位,端起杯子喝了口茶。
“陆哥。”
“嗯。”
“这是你写的?”
“随便调了调。”
“随便调了调?”蒋旭的声音都变了调,“方老师带着我们三个人搞了两个月。你来了四十分钟。”
“你们方法不对。力气使在刀背上了。”
蒋旭坐回凳子上,脸色复杂。
他摘下眼镜擦了擦,又戴上,盯着屏幕上的准确率数字看了很久。
“陆哥。”
“嗯。”
“你家里给你留了脑子。我家里只给我留了书。”
陆远笑了:“书多好。书不咬人。”
蒋旭苦笑:“我读了七年计算机,不如你修三个月主板。”
“修主板跟算法一个道理。哪条线断了,信号就到不了终点。找出来,接上。就这么简单。”
蒋旭摇头,说不出话。
方教授第二天回来,看到训练日志和新的准确率,在实验室里站了很久。
他先问蒋旭,蒋旭说是陆远调的。
方教授走到陆远面前。
“你改了几处。”
“三处。”
“哪三处。”
“学习率衰减。批量梯度。数据归一化。”
方教授沉默了十几秒。
他看陆远的目光和第一次见面时完全不一样了。
“陆远,你这三处改动,我明天要写进结题报告。”
“写吧。又不是什么新东西。”
方教授乐了:“你倒大方。”
半个月后,国家重点实验室来人交流。
方教授把项目成果做了汇报,重点提了那三处改动。
台下的专家坐不住了,问了七八个技术问题。
方教授答了几个,剩下的他推给蒋旭。
蒋旭又推给陆远。
陆远从最后一排站起来。
他穿得还是那件灰夹克,袖口磨了边。方教授让他上台讲。
陆远走上去,没拿稿子。
他站在投影幕布前,把三处改动用最直白的话讲了一遍。
学习率像下山,步子得先大后小。
批量像流水线,一箱一箱搬比一个一个搬快。
数据像尺子,长短不统一量什么都是歪的。
三分钟,他就讲了三分钟。
台下安静了几秒,然后一个老专家带头鼓掌。
掌声不多,但很实。
陆远鞠了个躬,下台回到最后一排。
蒋旭在旁边戳他胳膊:“陆哥,你刚才那三分钟,比我讲三十分钟都管用。”
交流会散场后,老专家私下找到方教授。
“老方,那个修电器的,不简单。”
方教授点头:“我知道。”
“你该送他出去读。这种脑子,搁维修铺里可惜了。”
方教授沉默了一会儿:“他连本科文凭都没有。英语也一般。”
“那也得试试。有些人是老天爷硬往你门上送的。你别把门关死了。”
方教授没接话。
他掏出烟盒,抖了一根出来,没点,夹在指间转了两圈。
老专家拍了拍他肩膀:“你那个课题,他出了多少力。”
“核心的改动全是他调的。”
“那你还等什么。结题之后立刻办。别拖。这种人你留不住太久。你不给他路,他自己也会找出路。”
方教授终于把那根烟点上了。
他吸了一口,吐出来的烟被走廊里的穿堂风扯成一条细线。
“我试试。他这人怪。不愿意挂名,不愿意露脸。我上周说给他申请个临时工补助,他连表都没填。”
老专家笑了:“有本事的人都有脾气。你当年不也这样。”
方教授哼了一声:“我当年可没他这么犟。”
他回头看了一眼。
陆远正帮蒋旭收拾投影仪的线。
他动作利落,把线绕成整齐的一圈,用绑带扎好,塞进布袋里。
蒋旭在旁边说什么,陆远点点头,又摇摇头。
然后他背上那个旧帆布包,朝方教授的方向挥了挥手,走出教学楼。
方教授站在窗口,看着他的背影穿过操场。
梧桐树荫一段一段落在他身上,又一段一段移开。
他步子不快,走得很稳,帆布包带子在肩上勒出一道浅痕。
方教授把烟慢慢抽完。
烟灰掉在窗台上,他用手指碾了碾。
“等这茬项目结题再说。”他对自己说。
可他自己也知道,这话说得有点虚。
结题还有三个月,三个月够干什么。
够他把那本旧论文集翻烂,够他把白皮书再抄两遍,够他把那四个人一个一个摸清楚。
方教授站在窗口没动。
直到陆远的背影彻底消失在梧桐树尽头,他才转身回了办公室。
那根烟的烟蒂还留在窗台上。
很短,没抽完。
像他刚才那个决定,说到一半,剩下的一半悬着。
(https://www.lewenn.com/lw69392/46402748.html)
1秒记住乐文小说网:www.lewenn.com。手机版阅读网址:m.lewenn.com