2月20日晚,據復旦大學自然語言處理實驗室消息,國內第一個對話式大型語言模型MOSS已由邱錫鵬教授團隊發布至公開平臺,邀公眾參與內測。
(資料圖片)
市場方面,復旦復華(600624)21日開盤即漲停,收報6.78元,總市值46.42億元。
復旦復華隨后表示,MOSS為復旦大學研發,與公司無關。目前公司的主營業務為生物醫藥、軟件和園區三大板塊,未參與MOSS研發。
據了解,MOSS可執行對話生成、編程、事實問答等一系列任務,打通了讓生成式語言模型理解人類意圖并具有對話能力的全部技術路徑。這條路徑的走通,為國內學術界和產業界提供了重要經驗,將助力大語言模型的進一步探索和應用。
據悉,MOSS開發的過程也包括自然語言模型的基座訓練、理解人類意圖的對話能力訓練兩個階段。不同之處在于,復旦團隊采用了不同的技術路線,通過讓MOSS和人類以及其他對話模型都進行交互,顯著提升了學習效率和研發效率,短時間內就高效完成了對話能力訓練。
2月20日,復旦團隊發布國內首個類ChatGPT模型MOSS,復旦MOSS公開后,引起不少網友關注,由于瞬時訪問壓力過大,MOSS服務器昨晚還被網友擠崩潰了。
2月21日,MOSS官網發布公告稱,MOSS還是一個非常不成熟的模型,距離ChatGPT還有很長的路需要走。我們一個學術研究的實驗室無法做出和ChatGPT能力相近的模型,MOSS只是想在百億規模參數上探索和驗證ChatGPT的技術路線,并且實現各種對話能力。“我們最初的想法只是想將MOSS進行內測,以便我們可以進一步優化,沒有想到會引起這么大的關注,我們的計算資源不足以支持如此大的訪問量,并且作為學術團隊我們也沒有相關的工程經驗,給大家造成非常不好的體驗和第一印象,在此向大家致以真誠的歉意。”公告還解釋名稱源于《流浪地球》。據了解,在MOSS完成初步驗證后,團隊會將MOSS的經驗、代碼、模型參數開源供大家參考。
根據復旦大學計算機科學技術學院官網的介紹,邱錫鵬教授于復旦大學獲得理學學士和博士學位。研究方向為自然語言處理、深度學習,發表CCF-A/B類論文70余篇。主持開發了開源自然語言處理工具FudanNLP、FastNLP,獲得了學術界和產業界的廣泛使用。指導學生多次獲得中國人工智能學會優博、中國中文信息學會優博、微軟學者、百度獎學金、上海市計算機學會優博等。
邱錫鵬的研究方向是,圍繞自然語言處理的機器學習模型構建、學習算法和下游任務應用,包括:自然語言表示學習、預訓練模型、信息抽取、中文NLP、開源NLP系統、可信NLP技術、對話系統等。
邱錫鵬的知乎賬號顯示,他于2月21日凌晨關注了問題“復旦團隊發布國內首個類ChatGPT模型MOSS,將為國內大語言模型的探索和應用帶來哪些影響?”,但未做任何回復。
據上觀新聞,邱錫鵬表示:“盡管MOSS還有很大改善空間,但它的問世證明了在開發類ChatGPT產品的路上,國內科研團隊有能力克服技術上的重要挑戰。”MOSS研發項目得到了上海人工智能實驗室的有力支持。后期,這項工作將通過開源方式和業界社區分享。
(文章來源:每日經濟新聞)
上周,終端庫存高企,日韓對澳煤需求繼續保持低迷,歐洲地區天然氣庫存高位且煤炭現貨供應較為充足,抑制終端采購興趣,澳大利亞動力煤價更多
2023-02-21 16:15:15中國鐵路太原局集團有限公司介紹稱,春運40天累計完成發送煤炭72816萬噸,同比增12%,旅客發送量同比增長187%。 為確保春運期間電煤等更多
2023-02-21 10:14:28煤炭庫存高企,疊加市場需求低迷,煤炭價格在連續17天下跌后,市場迎來前期觀望等待的需求以及部分抄底需求的釋放。在諸多因素影響下,短更多
2023-02-21 10:13:19近日,國家礦山安監局江西局會同江西省應急管理廳聯合下發通知,對煤礦技術管理事項審批工作提出規范要求。 一是明確煤礦安全領域各層更多
2023-02-21 10:02:18全球性的去煤行動是否已經開始尚有待商榷,各國的去煤進程實際上并不同步。 根據2022年末國際能源署(IEA)發布的年度煤炭市場報告,全更多
2023-02-21 09:58:07上周市場情況綜述 產地方面,上周大幅回落。主產地日產量已高于年前正常水平,而下水煤需求低迷,地銷也階段性陷入停滯。隨著大集團委更多
2023-02-21 09:55:142月20日,國家發改委等部門發布《關于做好2023年春耕化肥保供穩價工作的通知》(以下簡稱《通知》)。 《通知》指出,煤炭供應企業、化更多
2023-02-20 16:09:47據湖南省商務廳對全省生產資料流通市場監測數據顯示,2023年第7周(2月6日-12日),湖南省煤炭銷售均價123608元噸,下跌06%,同比上漲16%更多
2023-02-20 09:55:24據商務部重要生產資料市場監測系統數據顯示:2月4日-2月10日,從監測品種樣本數據來看煤炭平均價格為8396元噸,與前一周比(下稱環比)下更多
2023-02-20 09:58:04按照國家礦山安全監察局統一安排部署,山西省將聚焦重點產煤縣和煤礦企業開展督導整治,進一步夯實重點縣煤礦安全生產屬地監管責任和重點更多
2023-02-20 10:15:30