官方repo差异对比
利用官方代码修正复现方向,减少无效调试。
提示词
请以资深复现工程师身份,对照官方代码仓库(URL:___)与论文,逐模块对比并列出差异。要求:
(1) 模块级对比:论文公式 vs 官方实现,指出差异(如激活函数位置、归一化方式、默认超参数);
(2) 对每个差异评估对结果的影响(重大/中等/轻微);
(3) 列出官方repo中值得关注的issue候选问题(如梯度爆炸、显存不足、精度复现失败);
(4) 若官方代码与论文矛盾,明确标注“以代码为准”或“需进一步验证”。
缺失细节不脑补,公式用einsum表示。示例输出
论文公式中LayerNorm在残差后,代码在残差前,差异中等;issue候选:多卡训练精度下降。
评论 0
更多
登录后可点赞、收藏、评论和举报。
还没有评论,先发起一个具体问题。