"李開(kāi)復(fù)認(rèn)為，中國(guó)大語(yǔ)言模型的演進(jìn)不會(huì)一步到位，會(huì)經(jīng)歷L1到L3三個(gè)階段。"
作者：涂鴉君
(相關(guān)資料圖)
編輯：tuya
7月3日，創(chuàng)新工場(chǎng)董事長(zhǎng)兼CEO李開(kāi)復(fù)親自帶隊(duì)的大模型創(chuàng)業(yè)公司正式亮相。該大模型公司命名“零一萬(wàn)物”，總部位于北京，官網(wǎng)（01.AI）同步上線 。
據(jù)官網(wǎng)介紹，零一萬(wàn)物致力打造全新的 AI 2.0平臺(tái)，其深信，以大語(yǔ)言模型為突破的AI 2.0 正在掀起技術(shù)、平臺(tái)到應(yīng)用多個(gè)層面的革命，預(yù)測(cè)AI 2.0 時(shí)代將誕生新一批 AI-first的應(yīng)用，催生以AI為內(nèi)核的應(yīng)用生態(tài)，探索嶄新的商業(yè)模式。
對(duì)于公司定名為“零一萬(wàn)物”，李開(kāi)復(fù)表示，零一即01，代表的是數(shù)字世界，從零到一，乃至宇宙萬(wàn)物，寓意“零一智能，萬(wàn)物賦能”的雄心。
零一萬(wàn)物同步啟動(dòng)DeeCamp 2023前沿大模型項(xiàng)目，廣為邀集對(duì)大模型領(lǐng)域具有熱情和創(chuàng)意的優(yōu)秀實(shí)習(xí)生，參與六大前沿?zé)衢T的大語(yǔ)言模型研發(fā)課題。該項(xiàng)目包含自動(dòng)化生成對(duì)抗性樣本提升大型語(yǔ)言模型的安全性、通過(guò)外部工具增強(qiáng)大語(yǔ)言模型、探索不同數(shù)據(jù)預(yù)處理和選擇方法對(duì)預(yù)訓(xùn)練語(yǔ)言學(xué)習(xí)模型的有效性、探索不同機(jī)制下人工反饋強(qiáng)化學(xué)習(xí) (RLHF）在訓(xùn)練大語(yǔ)言模型的影響、大語(yǔ)言模型生成文本的識(shí)別、大語(yǔ)言模型的情境適應(yīng)性相關(guān)實(shí)踐課題。
團(tuán)隊(duì)組建上，籌備3個(gè)月以來(lái)，零一萬(wàn)物已吸納數(shù)十名核心成員，集中在大模型技術(shù)、人工智能算法、自然語(yǔ)言處理、系統(tǒng)架構(gòu)、算力架構(gòu)、數(shù)據(jù)安全、產(chǎn)品研發(fā)等領(lǐng)域。已加入的聯(lián)創(chuàng)團(tuán)隊(duì)成員包括：阿里巴巴前副總裁、百度前副總裁、滴滴/百度前首席算法負(fù)責(zé)人、谷歌前中國(guó)高管、微軟/SAP/Cisco/前副總裁，算法和產(chǎn)品團(tuán)隊(duì)背景均來(lái)自國(guó)內(nèi)外大廠。
零一萬(wàn)物暫未公布核心團(tuán)隊(duì)具體的人員信息。據(jù)天眼查App顯示，公司法人代表是馬杰，持股占比為99％，創(chuàng)新工場(chǎng)（北京）企業(yè)管理股份有限公司持股1%。馬杰此前在百度擔(dān)任副總裁、元宇宙產(chǎn)品“希壤”負(fù)責(zé)人，月兩個(gè)月前，媒體報(bào)道馬杰從百度離職，加入創(chuàng)新工場(chǎng)負(fù)責(zé)AIGC業(yè)務(wù)。
李開(kāi)復(fù)自年初開(kāi)始，在多個(gè)公開(kāi)場(chǎng)合多次強(qiáng)調(diào)“AI 2.0是絕對(duì)不能錯(cuò)過(guò)的革命”，并于3月19日正式宣布入局大模型創(chuàng)業(yè)。他表示自己正在親自籌組Project Al 2.0，這是創(chuàng)新工場(chǎng)塔尖孵化的第7家公司，也是一個(gè)致力打造AI 2.0全新平臺(tái)和生產(chǎn)力應(yīng)用的全球化公司。
他認(rèn)為，中國(guó)大語(yǔ)言模型的演進(jìn)不會(huì)一步到位，而是會(huì)經(jīng)歷L1到L3三個(gè)階段。現(xiàn)階段，中國(guó)大多數(shù)公司處于L1階段，下一步需要跨越“涌現(xiàn)”門檻，成為L(zhǎng)2級(jí)主流大語(yǔ)言模型，最后追趕L3全球一線公司，成為強(qiáng)大的人工智能“基礎(chǔ)設(shè)施”?！按竽Ｐ偷募夹g(shù)門檻很高，非常需要整合一個(gè)兼具科研能力和開(kāi)發(fā)實(shí)力的高效團(tuán)隊(duì)，制定貫徹公司的技術(shù)和產(chǎn)品戰(zhàn)略，從上到下一致執(zhí)行。”
目前，零一萬(wàn)物的技術(shù)路線為自研大模型，已經(jīng)構(gòu)建了個(gè)數(shù)千卡GPU集群，進(jìn)行訓(xùn)練、調(diào)優(yōu)和推理。在數(shù)據(jù)方面，主要是提高有效參數(shù)量和使用的高質(zhì)量數(shù)據(jù)密度，以構(gòu)建連續(xù)、可控、科學(xué)化的訓(xùn)練能力。參數(shù)規(guī)模上，已實(shí)現(xiàn)了百億參數(shù)規(guī)模的模型內(nèi)測(cè)，現(xiàn)在正向300-700億參數(shù)規(guī)模擴(kuò)大。
公司目前正搭建實(shí)驗(yàn)平臺(tái)，同時(shí)擁抱開(kāi)源，未來(lái)計(jì)劃推出開(kāi)源的模型版本，但也不能過(guò)度依賴于開(kāi)源模型，只有盡快建立自己的技術(shù)優(yōu)勢(shì)，構(gòu)建起強(qiáng)大的生態(tài)護(hù)城河，才能真正抓住AI2.0的歷史機(jī)遇。
此外，零一萬(wàn)物還將推出結(jié)合圖片、視頻、3D的多模態(tài)模型。與市面上目前已有的大模型產(chǎn)品一樣，零一萬(wàn)物也將推出專屬的App作為應(yīng)用入口。平臺(tái)中間件和開(kāi)發(fā)者工具也將逐步對(duì)外發(fā)布。
近年來(lái)創(chuàng)新工場(chǎng)持續(xù)孵化AI項(xiàng)目，代表項(xiàng)目創(chuàng)新奇智是港交所的“AI+制造第一股”，并在今年4月研發(fā)了AIGC引擎“奇智孔明AInnoGC”。不同于其他的通用類大模型，該產(chǎn)品面向垂直行業(yè)應(yīng)用的AIGC工程算法引擎，聚焦私有化部署。
標(biāo)簽：
