第一卷 少年游 第七十五章门槛
第一卷 少年游 第七十五章门槛 (第2/3页)
越容易把一件具体的小事往更大的结构上推：豆子背景、传感器漂移、空调系统遗漏的人、模型目标和人的真实意图，每一件都像在告诉他“机器可能学到我们没意识到的东西”。这当然有意思，可他有时候也担心自己又在重复老毛病——还没把一个简单问题做扎实，就急着给它寻找一座更高的山。“我不想最后连一匹马都没认清楚，就开始讨论智能到底是什么。”他说。
江遥听完没有立即给意见。两个人继续往前走了一段，路边一个小孩骑着滑板车从身旁过去，母亲在后面喊他慢一点。过了半分钟，江遥才说：“那你就先把马认清楚。”原既白看她。她耸了一下肩：“你总觉得一个问题一旦很深，就必须先解决深的部分。为什么不能先做最简单的？模型到底看了什么，先把这个弄明白。后面的东西它自己会不会长出来，谁知道。”
原既白没有反驳。他忽然觉得，这一年自己从江遥那里学到最多的并不是某种具体的“由下而上”方法，而是允许一个问题暂时只有局部答案。以前他看见更高层结构时，会觉得局部工作只是通往高处的台阶；现在慢慢发现，很多高处根本不是预先在那里等人的，它们可能只是大量局部事实被认真看过以后，才逐渐有了轮廓。江遥见他半天不说话，马上警告：“你别又在脑子里总结。”原既白笑了，说没有。她显然不信，伸手在他掌心捏了一下。
第二天上午，原既白去了罗老师说的那个小会。暑期研习已经正式结束，大多数学生陆续返家，原来的大教室空了许多，只剩六个被留下来的学生。林沛、唐岑也在，另外三人来自其他小组。带他们的年轻老师姓叶，看起来不到三十，穿一件普通灰色T恤，没有拿任何炫目的AI演示开场，只在投影上放出两张几乎一样的图片：都是草地上的一匹马。叶老师问，如果一个程序把两张都判断成“马”，而且在一千张测试图片里答对九百五十张，能不能说它已经认识马。
没有人立即回答。唐岑先说至少不能完全说明，林沛则问测试图片是不是和训练图片来自同一个来源。叶老师没有评价，只把其中一张图的边缘稍微裁掉一点。马仍完整地站在那里，可程序的判断突然从“马”变成了另一种动物。再裁一次，又变回来。几个人起初都以为是模型不稳定，直到原图被放大，他们才注意到左下角有一块非常模糊的水印。训练数据中，大量“马”的图片恰好来自同一批图库，因此也带着相似的角标。
叶老师没有说“模型作弊”，只问：“如果它发现这个标记比耳朵、鬃毛、腿都好用，为什么不用？”
教室里有人笑了一声。
原既白却立刻想起奶奶那句：“它是看豆，还是看报纸？”
机器并没有被要求理解“马是什么”。人给它的是一堆图片和对应答案，然后要求它尽可能把答案猜对。水印如果更稳定，它就用水印；背景如果更稳定，它就用背景。从它经历过的世界看，这甚至可能是一条非常好的规律。真正犯错的是人先在脑子里把“测试正确率高”翻译成了“它认识马”，然后忘记这两句话中间其实隔着一整片没有被证明的土地。
叶老师很快又问：“那我们把水印全部删掉，它是不是就真正学会马了？”
唐岑马上摇头，说可能还有草地、摄影角度、光线、图像来源。另一个学生说甚至相机型号都有可能留下看不见的特征。叶老师点了点头，没有继续列，只说接下来两个月的任务恰恰不是追求一个更高分的模型，而是**想办法让一个高分模型暴露自己**。换背景、换来源、交换线索、故意制造冲突，什么都可以。最后不用告诉他“准确率提高到多少”，只需要回答两个问题：它在哪些情况下失败，以及这些失败让你知道它原来依赖了什么。
任务听上去甚至不像竞赛，倒像专门拆自己的台。林沛问，如果无论怎么换数据都不失败怎么办。叶老师笑了一下，说那当然很好，不过先别急着相信自己已经做到了。模型真正依赖的特征可能不是人肉眼能直接看出来的，所以他们能做的不是一次性证明“它真的理解了”，而是不断尝试换一种世界，看它还能不能站住。
原既白没有继续追问“理解”的定义。他记得江遥昨天那句：先把马认清楚。
小会结束以后，他当场报名参加。
回县里的车上，原既白一直没有看新资料，只把叶老师发来的第一批图片存在电脑里。他本来很容易继续想到更大的问题：学生通过考试是不是也可能只学会了考试的背景；一个企业成功一次，是不是只是恰好踩中了环境；一个国家的制度在某段历史里有效，是不是也存在类似的“训练分布”；甚至一个人对于自己的认识，会不会也是在有限经验里学出来的一种过度拟合。所有这些联想都往外冒，他却第一次有意识地把它们先放在一边。问题可以很大，但今天能做的事情很小——先找出那匹马为什么在裁掉一角以后就不再是马。
到家当晚，他重新把奶奶的豆子找出来。老人正在院子里摇蒲扇，看见他刚回来就摆手机和台灯，问了一句：“又看豆？”原既白说这回不训练，先看它怎么错。奶奶显然没觉得二者有什么区别，只说别把种子弄乱。原既白从袋子里挑出几十颗，分别放到木桌、白纸、旧报纸、瓷盘和奶奶手掌上拍照，还故意改变远近和光线。模型在白纸和木桌上表现还算稳定，换到报纸时错误增加，放到奶奶的手掌上以后却突然错得更明显。
他没有像过去那样立即重新训练，而是先把失败照片全部单独存下来。
其中有一张尤其有意思。豆子本身很饱满，奶奶明确说可以留，模型在白纸上也一直判断正确；放到她掌心以后，却连续三次判成坏豆。原既白把照片放大，看了半天也没看出是皮肤颜色、皱纹、阴影还是拍摄距离造成的。以前这种“不知道”会让他很快去找解释，现在他只是把照片编号，记下条件，准备第二天一项一项换。
新建文件夹时，他在名字框里敲了“bean_failures”，想了想，又改成中文：
**它看见了什么。**
奶奶在旁边已经等得不耐烦，问能不能把豆子还给她。原既白把桌上的几十颗推过去，老人看也不看电脑，一颗颗重新分回两个小堆。有几颗原既白自己已经混乱，不记得原本属于哪边，奶奶拿起来一捏、一看，很快放好。电脑屏幕上是模型九十多分的历史记录，桌面上却是一个老人几十年里没有写成任何公式的经验。两种东西同时存在，谁也没有因此显得神秘。
另一边，江遥的暑期训练在拿到阶段第一以后并没有变轻。恰恰相反，学校很快和另外几所强校组织联合训练，原来的十二个人扩成二十六个。外校学生里有已经参加过全国决赛
（本章未完，请点击下一页继续阅读）