Research Notes
研究进行中|AI Coding Benchmark 可复现性审计
检查公开数据、任务资产与评测程序在不同发布视图之间是否保持一致,并建立可追溯的离线验证流程。
正在研究什么
AI Coding benchmark 往往同时包含数据表、任务文件、评测程序和多个发布视图。 我正在研究这些资产之间的身份、来源与评测口径能否被可靠追踪,以及不一致时应当如何 在不夸大影响的前提下进行验证。
已完成到哪一步
目前已完成一轮本地离线审计和独立重算闭环。实验使用固定公开版本、确定性校验器和 受限运行环境,保留配置、代码版本、输入版本、原始日志、运行状态与验证记录。
详细科学结论目前仍处于私有研究阶段。本页不公开具体 benchmark、精确样本量、差异类型、 逐任务信息、实验门槛、实现细节或后续区分性实验。
公开证据边界
| 项目 | 当前状态 |
|---|---|
| 本地确定性审计 | 已运行并保存可追溯记录 |
| 独立结果重算 | 已完成本地核验 |
| 模型效果 | UNKNOWN |
| 已发布分数或排名影响 | UNKNOWN |
| 论文、代码与数据 | 私有研究阶段,尚未对外发布 |
当前公开内容只说明研究问题、执行状态和复现工程方法,不构成论文摘要、正式结果发布或 benchmark 有效性判断。负结果、失败路径和无法验证的解释会继续保留,不会为了展示效果而 选择性省略。
公开计划
在确定投稿或负责任披露路径并核对对应政策后,再决定是否公开 benchmark 名称、聚合数字、 验证器、复现脚本和完整失败分析。在此之前,本页保持为公开进展摘要。