字节跳动内部严禁蒸馏开源模型

字节跳动内部严禁蒸馏开源模型

8月6日，记者从字节跳动内部人士处获悉，今年国内竞争对手开源模型的快速发展给字节跳动带来更大的压力。在近日的内部会议中，字节跳动创始人张一鸣表示，做模型要坚持长期主义、延迟满足感，而不是用别人的输出，换一时的榜单排名。

今年以来，国内AI大模型竞争已经极为激烈，几乎每隔几天就有新模型发布，每当有一个强大的开源新模型发布，字节跳动内部关于蒸馏的争论就会升温。澎湃新闻记者了解到，张一鸣很少在Seed团队的会议上发言，但此次明确表态，字节跳动“应该愿意为长期目标牺牲一部分短期收益”。

据了解，字节跳动内部对开源模型严禁蒸馏，甚至通过API检测等方式在内部加强相关限制，张一鸣认为，蒸馏会干扰真正意义上的长期技术突破。（澎湃新闻）

“蒸馏”就是“技术迁移”技术，就是把别人开源的模型，转成自己想要的小模型，在保持大部分性能的同时，大幅减少计算资源和内存占用，字节跳动的这项规定，实际上就是要走好自研道路，是长期主义，而不是拿来主义~支持，国内的科技公司都应该要有这种觉悟，切勿急功近利，太过于拿来主义，打铁还得自身硬啊~~~