IT之家 10 月 31 日消息，当地时间 30 日，OpenAI 宣布，为了衡量语言模型的准确性，将开源一个名为 SimpleQA 的新基准，可衡量语言模型回答简短的事实寻求（fact-seeking）问题的能力。
OpenAI 表示，目标是使用 SimpleQA 创建一个具备以下特点的数据集：
SimpleQA 将是一个 简单但具有挑战性 的基准，用于评估前沿模型的事实准确性。SimpleQA 的主要限制在于其范围 —— 尽管 SimpleQA 准确，但它只在短查询的受限设置中测量事实准确性，这些查询是事实导向的，并且有一个可验证的答案。
OpenAI 表示，模型在短回答中表现出的事实性是否与其 在长篇、多事实内容中的表现 相关，这仍是个 悬而未决 的研究课题。其希望 SimpleQA 的开源能够进一步推动 AI 研究的发展，使模型更加可信并富有可靠性。
IT之家附有关地址：
