穿过北疆科大的校门,越过两栋教学楼,实验室里,李泽和姜伊伊安安静静地坐在门口的位置。
虽然是周末,但吴晓忠的实验室却没有休息。
“老师,这次我只微调了150个参数,可这任务卡在99%已经两天了,咱们实验室的算力什么时候能增加一些?”
吴晓忠的学生王楠在一旁抱怨道。
他也不想周末泡在实验室,可手里的任务一直在延迟,倒不是他代码写的慢,而是实验室的算力实在是不够用。
吴晓忠主攻的就是AI大模型,之前接受李泽的投资,大模型研发有了长足的进展。
甚至已经有了很多成果落地。
可在继续迭代的过程又遇到了问题,数据工程、架构创新等基础都已经做到极致。
可问题就出现在调参训练上,实验室的硬件有限,每次跑任务都要等上几天。
写代码只要一小时,可等任务却超过了3天。
吴晓忠的大模型在这样的效率下,不仅没有掉出第一梯队,还能跟上世界先进水平,已经很不容易了。
要知道,现在的大模型动不动就上亿级别的参数,每次只优化几百个,这效率可想而知。
“困难总是有的,想办法克服就是了,等熬过这一段时间,一切都会好的。”
吴晓忠出言安慰道。
他也不是没做出改变,模型架构已经优化到极致,kv缓存压缩至十分之一,长上下文显存占用降低90%。
分布式、无辅助损失负载均衡、双向流水线,能想到的都想到了,可问题是底层的硬件底座不够给力。
用的显卡是几年前的旧款,数量和质量都不尽如意,也不是他不想更新。
实在是丑国封杀得严,高端显卡禁运,吴晓忠想买也买不到。
想订购国内最新款自研显卡,可是产能又不够,那些大公司都吃不饱,他一个小实验室想抢到训练用的显卡太难了。
无奈,只能用时间来换,争取每次调参的代码准确性高一些,避免出现返工的问题。
又查看了几个学生的任务,吴晓忠慢慢走到李泽的身前。
这是他第二次见李泽,上次还是在海浪汽车的厂里,测试自动驾驶模型的时候。
他对李泽的印象很深,是个聪明孩子,而且还是李尚海的儿子,大家都亲切地称呼李泽为小李总。
“小李总,今天怎么有空来这里玩,是不是想提前感受一下大学的氛围?”
“吴教授,我这次来是有点事想请教你的。”
“哦?”
吴晓忠饶有兴趣地盯着李泽,一个小学生有问题请教他一个大学教授,多少令人有点好奇。
“说说看,有什么是要请教的?”
吴晓忠随便拉了把椅子,坐在李泽的对面。
“是这样的,我想问问有哪些高科技是丑国有的,我们又急需的。”李泽乖巧地问道。
吴晓忠低头笑了一下:“现在两国之间的科技差距其实不大,很多方面我们已经追平了,可在一些领域我们还是被人卡着脖子。”
他回头看了一眼实验室里正焦急等待任务结果的学生,随后无奈说道:
“就比如说算力,我们国家芯片起步晚,技术落后,在高端显卡领域一直被丑国卡脖子,现在大模型动不动就几亿个参数,对算力的要求非常高,这就使得我们国家的高端显卡非常紧缺。”
李泽听后略微皱眉,这事他倒是知道,丑国对华夏实行高端显卡禁运,只卖低端的显卡到国内。
现在AI应用爆发得很厉害,对算力需求很大,国内的自研显卡产量有限,根本跟不上算力需求。
这就导致算力的缺口很大,要是能从丑国把高端显卡运过来那肯定一堆人疯抢。
不过这个难度很大,就拿高端显卡B200来说,跟打游戏的家用显卡尺寸不同,这种数据中心级的显卡,一颗就有140kg重。
其实说是显卡都有点不准确,说是集成显卡的服务器倒是更贴切一些。
半米高的设备想偷偷运回国内显然是有点难度,而且就算运回来也用不了。
丑国对显卡做了限制,联网后会自动上报序列号以及IP地址,如果发现是国内的IP,那直接就变砖头。
但也不是完全没解法,很多人在坡县建立数据中心,通过高速互联网专线与国内相连,算是钻了个空子。
“显卡的问题我记下了,后面会有解决方案。”
在国外建立数据中心,这事花费的时间不短,短期内可能还是满足不了吴晓忠的需求。
“还有吗?最好是跟医疗有关的高科技技术。”
李泽的想法是搞一些现成的,短期能见效的东西。
“这......”
吴晓忠思考了一会才慢慢开口:“还真有,医疗机器人这个领域我们跟丑国在某些地方还有点差距。”
“前段时间还有家公司找到我,想要合作研发骨科精准导航系统,这玩意其实我们也有,可在多模态影像融合、底层算法、术中实时校准上仍有点落后。”
说白了这种算法相关的东西,就是因为国内起步晚,经验少,以及数据少造成的。
不过现在,国内在相关手术和临床随访方面已积累了大量数据,追上国际水平只是时间问题。
“算法上的东西,只要有足够的数据支撑,就会越调试越精准吧?”李泽认真地问道。
“理论上是这样,我们国内这几年数据积累了不少,但还不够,要是有足够的数据,我有信心追上国际领先水平。”
听到吴晓忠的发言,李泽决定帮助国内的骨科精准导航系统来一次弯道超车。
从小唐德普那里赚到的钱,用来买一些医疗数据,以及医疗设备应该没什么问题。
这些东西拿回来给吴晓忠研究一下,实现国产化,生产出有竞争力的产品,足以填补国内在这方面的空白。
李泽认真地思考了一下,觉得这套方案能行。
“就拿这个骨科精准导航系统作为第一个项目,如果这个模式走通了,后续还可以复制到其他项目上!”
喜欢财富自由从偷爸私房钱买彩票开始请大家收藏:(m.zjsw.org)财富自由从偷爸私房钱买彩票开始爪机书屋更新速度全网最快。