字节被曝大模型训练遭实习生攻击 涉事者已被辞退

日期:10-19
字节字节跳动

[TechWeb]10月19日消息,日前,有媒体报道称,多个微信群流传一则消息:“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。”

据界面新闻报道,该头部大厂为字节跳动。此事发生在今年6月,起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。

截至目前,字节跳动方面对此并未进行正式回应。

传闻显示,该田姓实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。

界面新闻报道称,字节跳动内部已经调查明确此事为田姓实习生所为。目前,该实习生已被辞退。

远东电气董事长蒋承宏吐槽年轻人很难管理:独生子女结婚以后基本两套房 开启8K运动飞行相机新时代:哈浮飞行相机X1 PRO 与X1 PROMAX正式开售
相关阅读: