IT之家 3 月 14 日消息，加拿大 AI 初創(chuàng)公司 Cohere 昨日發(fā)布了一款名為“Command A”的 AI 模型，該模型主打輕量化應(yīng)用，號(hào)稱只需要兩塊英偉達(dá) A100 或 H100 GPU 即可輕松部署，號(hào)稱“表現(xiàn)能和 GPT-4o 相媲美”，實(shí)現(xiàn)“用最少的硬件發(fā)揮最大的性能”。

Cohere 表示，Command A 專門為中小型企業(yè)環(huán)境設(shè)計(jì)，其支持 256k 的上下文長度和 23 種語言，作為比較，其他競爭對(duì)手的“同類模型”需要 32 塊 GPU 才能部署。

在性能測(cè)試中，Command A 最快每秒可以輸出 156 個(gè) Token，據(jù)稱比 GPT-4o 快 1.75 倍。而在指令追蹤、SQL、代理程序和工具任務(wù)的基準(zhǔn)測(cè)試上，Command A 也表現(xiàn)出色。

Cohere 援引相應(yīng)性能數(shù)據(jù)，聲稱業(yè)界的大語言模型如果“規(guī)模過大”，反而在輸出結(jié)果時(shí)可能會(huì)出現(xiàn)嚴(yán)重的延遲問題；如果只是想快速得到正確答案，Command A 相對(duì)是個(gè)不錯(cuò)的選擇。

目前，Cohere 已將相應(yīng) Command A 發(fā)布在 Hugging Face 平臺(tái)（點(diǎn)此訪問），對(duì)學(xué)術(shù)界開放使用，未來還會(huì)登陸其他云服務(wù)平臺(tái)。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。