第九十二章 名字想好了吗
第九十二章 名字想好了吗 (第3/3页)
「这个检测引擎就是BugKiller的核心？」
「对，核心算法是我自己写的，」韩路一说，「这是技术壁垒。」
「你这个数据的确不可能是偷来的，客户的代码良莠不齐，偷来的没有这麽高的质量。」赵文渊叹了一口气，「怪不得CodeSafe会输给你，我心服口服了。」
「这个准确率，这种用法，」他接着说，「你手里的是一条自动化的数据清洗流水线，别人要花几千万请人标注的事，你用算法跑一遍就完了。」
他又想了想，语速突然变快。
「而且，BugKiller检出来的那些Bug代码和修复後的版本，这不就是现成的DPO训练对吗？有Bug的是坏例子，修复後的是好例子，天然的偏好数据。」
韩路一点了点头。
「SFT用乾净的提示词丶代码对，DPO用Bug丶修复对，两条管线同时跑。」赵文渊的手在桌上敲了两下，越说越兴奋，「数据飞轮，这个别人偷不走。就算把数据偷走，没有这个检测引擎，也做不出同等质量的清洗。」
韩路一没说话，文渊，入吾彀中矣。
赵文渊拿过那张写满数字的纸巾，翻到背面，接着写。
「後训练不需要预训练那种千卡集群，但也不便宜。H100单卡现在市场价二十到二十五万，8卡一台伺服器，一台一百六到两百万。」
他给纸巾拍了照，放进手机备忘录里，然後在备忘录里敲了一串数字。
「中等规模模型，几十亿参数，後训练至少需要十六到三十二张卡。」
「先租。」韩路一接过话头。
赵文渊抬头。
「第一版跑通之前不锁定硬体。」韩路一说，「万一方向要调，买的卡可退不了。」
赵文渊笑了，以前在谷歌的时候，训练模型还真没这麽抠搜过。
「你挺清醒的。」
「穷过，谢谢。」
赵文渊在备忘录里快速敲着数字：「算力租赁首批八百万，数据清洗和补充标注三百到五百一这个可能可以省下来，团队薪资六个月四百万上下，工具链杂项三百万，再预留一千万。」
他把手机推过来让韩路一看。
「够用了，先跑起来。」
两人越聊越快，瑞幸下午三点多的店里不算吵，但他俩的声音在不自觉地变大。
旁边桌一个戴耳机的女生摘下一只耳机看了他们一眼，两个装逼犯加一个肌肉男，这组合可太奇怪了。
店员走过来：「几位要不要再来一杯？」
韩路一这才注意到自己坐下来到现在还没点单。
「一杯生椰拿铁。」
「两杯。」赵文渊头都没抬。
张彪跟着店员去扫码下单了，韩路一看了一眼桌面，几张写满数字的纸巾，一台笔记本电脑，两个手机，在瑞幸谈几千万预算，是有点好笑。
「我明天就来上班。」
韩路一看着他：「这麽急？」
「等不了了，想快点上手。」
「对了。」他说，「最难的问题，大模型叫什麽？名字想好了吗？」
韩路一看着他笑了：「我早就想好了——」
「天工。」
>