1、零一萬(wàn)物上線Yi-34B-Chat微調(diào)模型及量化版

2、中科聞歌雅意大模型2.0將于12月15日發(fā)布

3、優(yōu)刻得智算平臺(tái)“孔明”上線

4、OpenAI就ChatGPT錯(cuò)誤率升高開(kāi)展調(diào)查

5、微軟CTO發(fā)布備忘錄:將繼續(xù)支持OpenAI

6、Adobe收購(gòu)印度AI視頻創(chuàng)企Rephrase.ai

7、Meta新注意力機(jī)制:將LLM用作自然語(yǔ)言推理器

8、F1賽車試用AI解決賽道限制違規(guī)問(wèn)題

1、零一萬(wàn)物上線Yi-34B-Chat微調(diào)模型及量化版

據(jù)零一萬(wàn)物微信公眾號(hào)發(fā)文,11月24日,零一萬(wàn)物Yi-34B-Chat、Yi-6B-Chat微調(diào)模型已經(jīng)在Hugging Face、ModelScope魔搭社區(qū)等開(kāi)源社區(qū)平臺(tái)正式發(fā)布上線。同時(shí),零一萬(wàn)物還為開(kāi)發(fā)者提供了4bit、8bit量化版模型,可以直接在消費(fèi)級(jí)顯卡(如RTX3090)上使用。

模型地址:

https://huggingface.co/01-ai/

https://www.modelscope.cn/organization/01ai

2、中科聞歌雅意大模型2.0將于12月15日發(fā)布

據(jù)中科聞歌公眾號(hào)今日發(fā)文,12月15日,中科聞歌將在北京舉辦雅意2.0發(fā)布會(huì),發(fā)布政企安全可靠大模型,專注于政府智能、商業(yè)智能。據(jù)介紹,該模型從零開(kāi)始預(yù)訓(xùn)練、模型架構(gòu)自主研發(fā),支持百億/千億多參數(shù)規(guī)格,兼容國(guó)產(chǎn)算力,支持企業(yè)級(jí)部署,覆蓋10+種主流語(yǔ)種,并將開(kāi)源開(kāi)放數(shù)據(jù)、模型、應(yīng)用。

3、優(yōu)刻得智算平臺(tái)“孔明”上線

據(jù)優(yōu)刻得云計(jì)算公眾號(hào)昨日發(fā)文,近日,優(yōu)刻得推出了智能算力平臺(tái)“孔明”,面向行業(yè)用戶提供一站式管理的算力資源和運(yùn)營(yíng)服務(wù)。據(jù)介紹,該平臺(tái)能夠勝任在AI領(lǐng)域內(nèi)的大部分業(yè)務(wù),幫助大模型公司提高訓(xùn)練效率、優(yōu)化模型性能、降低開(kāi)發(fā)成本,進(jìn)一步推動(dòng)AI大模型在各行業(yè)領(lǐng)域的發(fā)展和應(yīng)用?!翱酌鳌敝撬闫脚_(tái)支持同構(gòu)和多種異構(gòu)卡型的接入,包括但不限于英偉達(dá)、AMD、英特爾等品牌,甚至是各類國(guó)產(chǎn)GPU卡型,同時(shí)支持訓(xùn)練集群的統(tǒng)一調(diào)度和管理,并為大語(yǔ)言模型提供分布式訓(xùn)練和斷點(diǎn)續(xù)訓(xùn)的能力。

4、OpenAI就ChatGPT錯(cuò)誤率升高開(kāi)展調(diào)查

當(dāng)?shù)貢r(shí)間11月23日上午,OpenAI更新運(yùn)行情況說(shuō)明稱,ChatGPT的錯(cuò)誤率升高,正在開(kāi)展調(diào)查。隨后官方表示問(wèn)題已被識(shí)別并已實(shí)施修復(fù),正在繼續(xù)監(jiān)測(cè)影響。

5、微軟CTO發(fā)布備忘錄:將繼續(xù)支持OpenAI

據(jù)外媒The Verge昨日?qǐng)?bào)道,微軟CTO兼AI執(zhí)行副總裁Kevin Scott近日發(fā)布備忘錄,談?wù)揙penAI動(dòng)蕩一事,并稱將繼續(xù)支持OpenAI,并總結(jié)了過(guò)去一周取得的三項(xiàng)AI進(jìn)展:Azure部署了新的AI計(jì)算、新成立的微軟AI Frontiers發(fā)布新研究Orca 2大模型,ChatGPT發(fā)布新語(yǔ)音功能。

6、Adobe收購(gòu)印度AI視頻創(chuàng)企Rephrase.ai

據(jù)外媒ETtech昨日?qǐng)?bào)道,Adobe已收購(gòu)印度AI文生視頻創(chuàng)企Rephrase.ai。通過(guò)此次收購(gòu),Adobe尋求把Rephrase的技術(shù)堆棧和生成式AI視頻功能與其內(nèi)部視頻編輯平臺(tái)Creative Cloud集成,并增強(qiáng)其產(chǎn)品。知情人士稱,作為交易的一部分,Rephrase團(tuán)隊(duì)的大多數(shù)成員將加入Adobe。

7、Meta新注意力機(jī)制:將LLM用作自然語(yǔ)言推理器

據(jù)機(jī)器之心報(bào)道,11月20日,Meta研究者發(fā)布論文,指出大型語(yǔ)言模型(LLM)因不相關(guān)上下文或者輸入提示中固有的偏好做出錯(cuò)誤判斷的現(xiàn)象,其根本問(wèn)題在于Transformer本身固有的構(gòu)建方式,尤其是其注意力機(jī)制。因此,研究者提出了一種完全不同的注意力機(jī)制方法,通過(guò)將LLM用作一個(gè)自然語(yǔ)言推理器來(lái)執(zhí)行注意力。具體來(lái)講,他們利用LLM遵循指令的能力,提示它們生成應(yīng)該注意的上下文,從而使它們只包含不會(huì)扭曲自身推理的相關(guān)資料。研究者將這一過(guò)程稱為 System 2 Attention(S2A),將底層Transformer及其注意力機(jī)制視為類似于人類System 1推理的自動(dòng)操作。

論文地址:

https://arxiv.org/pdf/2311.11829.pdf

8、F1賽車試用AI解決賽道限制違規(guī)問(wèn)題

據(jù)路透社今日?qǐng)?bào)道,一級(jí)方程式(F1)賽車管理機(jī)構(gòu)正在本周末舉行的阿布扎比大獎(jiǎng)賽上試用AI來(lái)解決違反賽道限制的問(wèn)題??偛吭O(shè)在巴黎的國(guó)際汽聯(lián)(FIA)表示,該機(jī)構(gòu)將使用“計(jì)算機(jī)視覺(jué)”技術(shù),通過(guò)形狀分析來(lái)計(jì)算超出賽道邊緣的像素?cái)?shù)量。AI將對(duì)駕駛員四個(gè)車輪都越過(guò)賽道邊緣白線的真正違規(guī)行為進(jìn)行分類,從而減少國(guó)際汽聯(lián)遠(yuǎn)程操作中心(ROC)的工作量,加快反應(yīng)速度。