XM外汇中文网

全球领先的互联网券商

[XM外汇中文网]分析:TileKernels开源内容与Yifan Zhang披露的V4架构规格对应

币界网报道:币界网消息,分析师Yifan Zhang披露的V4架构规格与DeepSeek开源的TileKernels内核库存在多处对应。Zhang称V4残差连接使用了流形约束超连接(MHC),这是对字节Seed团队2024年提出的HC加双随机矩阵约束的改进版。通过TileKernels内核代码推测V4架构,三项核心命中、一项落空。模型卡确认V4使用MHC,命中。模型卡还确认V4是MOE模型,命中。权重使用FP4+FP8混合存储,命中。唯一未中的是条件记忆模块(Engram),模型卡同样未提及。模型卡揭示了TileKernels未涉及的新组件:混合注意力机制(CSA + HCA)是V4长上下文效率飞跃的核心,1M上下文下推理FLOPS仅为V3.2的27%,KV缓存仅10%训练改用Muon优化器。

法律: 此网站由XM Global Limited运行,注册地址是:Suite 404, The Matalon, Coney Drive, 伯利兹市, 伯利兹。

XM Global Limited受伯利兹金融服务委员会(FSC)授权和监管(牌照号: 000261/397),Trading Point of Financial Instruments Limited受塞浦路斯证券交易委员会(CySEC)授权和监管(牌照号:120/10),并均是Trading Point Group旗下公司。

风险提示: 外汇和差价合约交易对于您的投资资本含有风险。请确保您已通读并完全理解我们的风险披露。

受限地区: XM Global Limited无法为特定国家/地区的居民提供服务,例如: 美国, 加拿大, 以色列 和 伊朗伊斯兰共和国。

XM的网站和服务,均严禁开放提供给任何受国家/地区法律法规禁止使用的任何个体。因此,若选择从该国访问本公司网站,无论该国是否禁止使用本网站,用户在使用本网站时,均有责任确保自己遵守当地法律或法规。XM不保证本公司网站上的信息,适用于所有的司法管辖区域。