IT之家 10 月 12 日消息，科技媒體 The Decoder 昨日（10 月 11 日）發(fā)布博文，報道稱 OpenAI 公司推出 MLE-bench 新基準，旨在評估 AI 智能體在開發(fā)機器學習解決方案方面的能力。

該基準包括 75 個 Kaggle 競賽，旨在衡量自主 AI 系統(tǒng)在機器學習工程中的進展。這些競賽涵蓋了多個領域，包括自然語言處理、計算機視覺和信號處理等等。

IT之家注：Kaggle 是一個非常受歡迎的平臺，專注于數(shù)據(jù)科學和機器學習的在線比賽。Kaggle 提供各種類型的比賽，包括數(shù)據(jù)預測、圖像分類、自然語言處理等，適合不同技能水平的參與者。

在 Kaggle 的進階系統(tǒng)中，“Novice”（新手）、“Contributor”（貢獻者）、“Expert”（專家）、“Master”（大師）和 "Grandmaster"（特級大師）是不同的績效層級，用于衡量和識別數(shù)據(jù)科學家在 Kaggle 平臺上的技能水平和成就。

許多任務具有現(xiàn)實世界的應用，例如預測 COVID-19 mRNA 疫苗降解或解碼古代卷軸等。

MLE-bench 專注于兩個關鍵領域：

• 選擇具有挑戰(zhàn)性的任務：這些任務代表了當前機器學習的發(fā)展水平。

• 比較 AI 與人類的表現(xiàn)：通過對比，評估 AI 在特定任務中的能力。

OpenAI 在 MLE-bench 上測試了多個 AI 模型和智能體框架，使用 AIDE 框架的 o1-preview 模型表現(xiàn)最佳，在 16.9% 的比賽中至少獲得了一枚銅牌，該結(jié)果超越了 Anthropic 的 Claude 3.5 Sonnet。

獲得 5 金即可評上 "Grandmaster" 特級大師，而 o1-preview 模型在 MLE-bench 測試中獲得了 7 枚金牌。

OpenAI 承認 MLE-bench 也有局限性，并未涵蓋 AI 研究與開發(fā)的所有方面，主要集中在具有明確問題和簡單評估指標的任務上。

MLE-bench 基準現(xiàn)已在 GitHub 上發(fā)布，OpenAI 希望通過這一工具，推動 AI 在機器學習領域的進一步發(fā)展。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。