新浪科技讯 8月6日晚间音问,据《误点 LatePost》报谈开云体育,字节逾越正在筹谋磨练一个参数领域超 5 万亿的模子,它杰出阿里的 Qwen 3.8-Max(2.4 万亿参数)和月之暗面的 K3(2.8 万亿参数),亦然现在国内已知参数领域最大的模子。该测度仍处于早期阶段,模子最终不一定会发布。
报谈称,新模子将由 Seed Foundation 讲求东谈主项亮主导,与大言语模子预磨练数据讲求东谈主沈科连结。为此,Seed 正在从头梳理组织,差异责任,分拨资源。
项亮与沈科均是字节逾越东谈主工智能及大模子研发体系内的中枢主干,均出自字节的 “搜广推” 体系。项亮本科毕业于中国科学本事大学,博士就读于中科院自动化所,2016 年加入字节,曾讲求机器学习中台 AML 团队,后调任豆包大模子 Foundation 团队任讲求东谈主。沈科 2018 年清华毕业后,加入字节逾越,现主要讲求 LLM 预磨练数据。
针对字节筹谋磨练超 5 万亿参数模子的原因,报谈征引接近Seed 东谈主士音问称,Seed团队以为,与其在现存尺寸上继续追逐其他大模子,不如把参数领域一次推到同业的数倍,争取率先位置。
海量资讯、精确解读,尽在新浪财经APP
牵累裁剪:孙同怀 开云体育