谁能理解AI?

摘要

艾伦人工智能研究所（Ai2）在一篇评论中称，随着AI成为科研、医疗、工业和政府的关键基础设施，理解AI如何运作比以往更重要，因此开放是其核心立场。开放权重模型让人们能使用和改造AI，减少对单一供应商的依赖；完全开放发布还共享训练数据、代码、方法、检查点、评估和文档。该文主张信任需要公开证据，独立研究者需这些材料复现结果、检验局限、评估安全与可靠性。文中举例：东北大学与约翰斯·霍普金斯大学利用Olmo模型权重、内部表征、训练数据和出处研究临床应用中的群体偏差与知识截止日期；Arb Research等利用Olmo 3训练数据和中间检查点证明改写基准问题会虚增模型进展；得州大学奥斯汀分校、东北大学和MD Anderson癌症中心使用了Olmo 3和Ai2的infini-gram。