近日，以ChatGPT為代表的
聊天機(jī)器人掀起了一股人工智能熱潮，微軟、谷歌、百度、阿里等公司紛紛推出了類似競品。這股熱潮在無形中帶動(dòng)了云計(jì)算服務(wù)的需求增長。
面對這一市場變化，英偉達(dá)CEO黃仁勛在近期與投資者的電話會(huì)議上宣布，英偉達(dá)將做自己的人工智能(AI)云計(jì)算服務(wù)。
ChatGPT擁有豐富的知識儲(chǔ)備庫，在文本理解、文本生成、代碼生成等任務(wù)上遠(yuǎn)超初代聊天工具，但它仍處于云計(jì)算的下游運(yùn)用領(lǐng)域。
ChatGPT的訓(xùn)練需要高算力的支撐
據(jù)Lambda Labs首席科學(xué)官Chuan li介紹，擁有1750億個(gè)參數(shù)的GPT-3單次訓(xùn)練成本達(dá)到460萬美元。問答形式的變化或許將使搜索引擎的廣告業(yè)務(wù)受到嚴(yán)重沖擊。為增強(qiáng)ChatGPT的盈利能力，微軟擬在ChatGPT與用戶的對話中插入廣告。
云計(jì)算的核心是計(jì)算與存儲(chǔ)，由于數(shù)據(jù)存儲(chǔ)在云端，它為大量數(shù)據(jù)運(yùn)行提供了一個(gè)可靠的處理方式。而高質(zhì)量的人工智能正需要強(qiáng)大的算力、算法和數(shù)據(jù)來豐富應(yīng)用場景、建立語言模型以及處理和運(yùn)用數(shù)據(jù)。
哪些廠商宣布入局ChatGPT
截至目前，宣布有類ChatGPT技術(shù)儲(chǔ)備、準(zhǔn)備發(fā)布和已經(jīng)發(fā)布類ChatGPT產(chǎn)品服務(wù)的國內(nèi)大廠有：阿里巴巴、騰訊、華為、字節(jié)跳動(dòng)、京東、360、科大訊飛、快手、網(wǎng)易有道等，超過10余家互聯(lián)網(wǎng)大廠進(jìn)軍火熱的ChatGPT。
ChatGPT的戰(zhàn)略意義何在
ChatGPT表面上看是一款聊天機(jī)器人，但他是基于大語言模型GPT-3，該模型由1750億個(gè)統(tǒng)計(jì)性聯(lián)系組成，在約三分之二互聯(lián)網(wǎng)、整個(gè)維基百科和兩個(gè)大型圖書數(shù)據(jù)中集中訓(xùn)練。
OpenAI曾在一篇博客文章中表示，用戶輸入的提示和人工智能生成的結(jié)果通過網(wǎng)絡(luò)反饋給付費(fèi)人工智能培訓(xùn)師，來進(jìn)一步微調(diào)模型。在這一過程中，微軟和OpenAI從數(shù)百萬用戶身上獲取了海量數(shù)據(jù)。
在當(dāng)今的機(jī)器學(xué)習(xí)中，數(shù)據(jù)至關(guān)重要，由于數(shù)據(jù)錯(cuò)誤，研究者可能花費(fèi)大量時(shí)間進(jìn)行查錯(cuò)，甚至?xí)绊懙侥Ｐ途取?br />
盡管國內(nèi)各大廠商紛紛宣布推出類ChatGPT應(yīng)用，但目前來看，付諸行動(dòng)的卻是為數(shù)不多，百度便是其中之一。
百度語言模型的發(fā)展歷程
2010年初，百度對NLP的工作進(jìn)行了重新梳理與規(guī)劃，成立百度自然語言處理部。
2013年，百度設(shè)立深度學(xué)習(xí)研究院，連投十年，超過1000億元。2018年，百度將深度學(xué)習(xí)平臺(tái)“飛槳”升級為操作系統(tǒng)(文心一言的支持系統(tǒng))，并不計(jì)成本投入人力財(cái)力。
2019年3月，百度提出知識增強(qiáng)的語義理解框架ERNIE(文心一言的前身)，在深度學(xué)習(xí)的基礎(chǔ)上融入知識，同時(shí)具備持續(xù)學(xué)習(xí)能力，曾一舉登頂全球權(quán)威數(shù)據(jù)集GLUE榜單。
2021年9月，百度發(fā)布了PLATO-XL，這是全球首個(gè)百億參數(shù)的對話大模型，一舉超過Facebook的Blender、谷歌的Meena和微軟的DialoGPT。
現(xiàn)在，該模型已更新迭代至文心ERNIE3.0，參數(shù)規(guī)模高達(dá)2600億，幾乎比谷歌LaMDA(1350億)高了一倍，也高于ChatGPT(1750億)，是全球的中文單體模型。
百度在語言模型上的成果建立在對于云計(jì)算的部署上。在2022年的世界人工智能大會(huì)上，李彥宏回顧了百度在數(shù)字化摸爬滾打的10年。提到，每年研發(fā)占比都超過15%，目前累計(jì)研發(fā)投入超過1000億！百度智能云以“云計(jì)算為基礎(chǔ)”，以“人工智能為引擎”，注重強(qiáng)化自身在產(chǎn)業(yè)智能化升級過程中的差異化定位和競爭力。
日前，百度已宣布3月將發(fā)布新一代大語言模型“文心一言”，一時(shí)間各大企業(yè)、機(jī)構(gòu)紛紛宣布接入“文心一言”。借助當(dāng)下云計(jì)算的火熱，百度的“文心一言”有望開辟自己的另一片搜索樂土。
QQ: 751594915網(wǎng)站客服
浙公網(wǎng)安備 33010602009452號
昵稱 驗(yàn)證碼 請輸入正確驗(yàn)證碼
所有評論僅代表網(wǎng)友意見，與本站立場無關(guān)