字节跳动联合北京大学的研究团队在arXiv发表论文，介绍了他们用于训练大语言模型的生产系统MegaScale。MegaScale搭建了超过10000块GPU的单一集群，实现了55.2%的模型FLOP利用率。该系统还包含一套诊断工具用于监控系统组件和事件，找出根本原因，并实现容错和缓解滞后问题。
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
相关推荐
字节跳动发布Seed Audio 1.0：音频生成从“会说”迈向“会创作”
字节跳动发布音频创作模型Seed Audio1.0，已在火山方舟开放测试。它打破传统影视音频需多模型分别生成人声、音效与环境声再人工拼接的冗长流程，实现声音场景一体化创作，确保叙事一致性，标志着AI音频生成进入完整声音场景新阶段。
2026年7月20号 13:53
205.2k
字节跳动 Seedance2.5模型将于7月16日全量开放 API
字节跳动视频生成模型Seedance2.5将于7月16日全量开放API，正式商用，降低高品质视频生成门槛。此前6月23日发布，预告7月初终落地。旗下即梦预热，将推会员折扣。
2026年7月10号 10:05
403.7k
AI创作新高度：字节跳动发布Seedream 5.0 Pro，开启交互式精准编辑时代
字节跳动发布多模态AI模型Seedream5.0Pro，推动图像创作从生成迈向设计。该模型在图文匹配、结构合理性、文字渲染和画面质感上显著提升，并重点突破复杂信息可视化能力，能精准解析意图，将数据、概念和密集文字转化为专业视觉呈现。
2026年7月9号 10:03
293.2k
字节豆包 AI 手机项目生变：硬件负责人离职，项目进入“调整期”
字节跳动AI硬件团队Ocean核心成员、豆包手机硬件产品负责人林夕近期离职，成为公司2024年启动AI手机项目以来首位核心硬件负责人出走，引发外界对项目前景的猜测。内部消息人士否认“豆包手机项目彻底消失”传闻，称项目并未关停，而是转入新调整阶段。
2026年7月3号 16:46
323.2k
豆包内测社交功能:打通飞书账号，AI助手也要做熟人社交?
字节跳动旗下AI助手豆包正灰度测试社交功能，已打通飞书账号体系。内测新增独立“对话”页面，支持添加豆包好友或飞书好友；收到好友申请时AI会自动发送打招呼消息，已添加的人类好友对话列表中将显示“人类”标识。
2026年6月29号 15:45
223.8k