官方repo差异对比

利用官方代码修正复现方向,减少无效调试。

提示词

请以资深复现工程师身份,对照官方代码仓库(URL:___)与论文,逐模块对比并列出差异。要求:
 (1) 模块级对比:论文公式 vs 官方实现,指出差异(如激活函数位置、归一化方式、默认超参数);
 (2) 对每个差异评估对结果的影响(重大/中等/轻微);
 (3) 列出官方repo中值得关注的issue候选问题(如梯度爆炸、显存不足、精度复现失败);
 (4) 若官方代码与论文矛盾,明确标注“以代码为准”或“需进一步验证”。
 缺失细节不脑补,公式用einsum表示。

示例输出

论文公式中LayerNorm在残差后,代码在残差前,差异中等;issue候选:多卡训练精度下降。

0

评论 0

更多

登录后可点赞、收藏、评论和举报。

还没有评论,先发起一个具体问题。