你的怀疑是对的！LLM作为Judge，既无效又不可靠，终于有论文向LLJ开炮了

当前人工智能领域中”以模型评判模型”的模式已成主流趋势，在从性能评估到数据标注、模型训练及对齐流程等各个环节中均可见其身影。

笔者此前曾介绍过相关研究进展却未料质疑之声迅速应验——近期一篇题为《既无效又不可靠？

调查将大型语言模型作为裁判的应用》的立场文章对此趋势展开深刻反思。

研究者指出当前对LLM裁判（LLJs）的应用热情远超对其科学性和可靠性的审慎评估程度。

这种现象犹如未校准新尺子便急于丈量万物般令人担忧。

从文本摘要到对话生成等核心领域应用来看,”AI裁判”已深度渗透至模型开发全流程：在数据标注环节承担仇恨言论检测等主观性强任务；

在安全对齐场景中构建实时防护体系并开展自动红队演练；

同时参与奖励建模及推动模型自我优化机制建立。

这些智能裁判已从最初的评估工具演变为贯穿数据准备、训练迭代与安全部署等环节的关键角色。

研究团队引入社会科学中的经典测量理论框架展开系统分析,该理论包含两个核心维度：效度与信度。

通过这一框架对支撑LLJs应用的四大假设进行解构发现：其一,”LLM可有效替代人类判断”的前提存在根本缺陷——所谓”人类金标”本身即不稳定；

其二,”能力强大的评估者”假设遭遇现实挑战,因内在缺陷导致判断可靠性存疑；

其三,”可扩展评估者”优势可能催生自我强化的信息茧房,损害预测效度；

最后,”成本效益优势”背后隐藏着社会影响层面的重大隐性成本,即后果效度风险。

针对科技巨头在安全过滤系统中的实践案例显示,简单复用红队演练方法可能导致训练出表面安全行为而非真正理解风险。

研究特别警示当前领域存在的基准测试文化正在加剧问题：为追求排行榜排名而产生的竞争性基准测试,使评估方法陷入过度拟合困境,而LLJs的应用反而强化了这一系统性缺陷。

建议指出需建立差异化的部署策略：根据任务性质、应用领域及评估目标设计针对性方案,避免千篇一律的技术套用。

尽管如此,研究仍肯定LLJs在探索性测试及减轻人类标注负担等场景中的潜在价值,并强调其可助力构建更具互动性的长期评估体系以反映真实世界需求。

这项研究本质上揭示了AI领域评估文化的根本危机——当技术工具的应用脱离科学方法论根基时,效率追求可能异化为新的认知陷阱。

它提醒我们:在追求技术迭代的同时必须回归科学本源,唯有构建严谨可靠的评估基石才能确保真正的技术进步。