[微軟]高管誓言：若AI開始威脅人類，將立刻停止相關(guān)研發(fā)工作

　　炒股就看金麒麟分析師研報(bào)，權(quán)威，專業(yè)，及時(shí)，全面，助您挖掘潛力主題機(jī)會(huì)！

（來源：財(cái)聯(lián)社）

財(cái)聯(lián)社12月12日訊（編輯 瀟湘）微軟消費(fèi)人工智能主管蘇萊曼(Mustafa Suleyman)目前正致力于打造一款“符合人類利益”的超級(jí)智能。在本周最新的一場訪談欄目中他承諾，若該技術(shù)對(duì)人類構(gòu)成威脅，將立即停止相關(guān)研發(fā)工作。

蘇萊曼在節(jié)目中表示：“我們不會(huì)繼續(xù)開發(fā)可能失控的系統(tǒng)?！?/p>

他強(qiáng)調(diào)這種理念應(yīng)當(dāng)成為普遍共識(shí)，“但坦白說，我認(rèn)為這在當(dāng)前行業(yè)中仍屬新穎立場?！?/p>

蘇萊曼于去年年初加入微軟，當(dāng)時(shí)微軟收購了蘇萊曼親手打造的初創(chuàng)公司Inflection AI的知識(shí)產(chǎn)權(quán)及核心團(tuán)隊(duì)。在此之前，微軟主要依賴OpenAI提供AI工具，但目前正委任蘇萊曼負(fù)責(zé)打造能夠與業(yè)界產(chǎn)品競爭的產(chǎn)品。

蘇萊曼上月在一篇博客中宣布將推進(jìn)超級(jí)智能計(jì)劃，并闡述了他與微軟的觀點(diǎn)——此類系統(tǒng)唯有服務(wù)于人類才能取得成功。

包括OpenAI和Anthropic在內(nèi)的眾多AI領(lǐng)域企業(yè)目前也均宣稱有著類似目標(biāo)，但蘇萊曼認(rèn)為微軟的目標(biāo)具有獨(dú)特性。

不過，蘇萊曼未點(diǎn)名批評(píng)其他競爭對(duì)手?！案骷移髽I(yè)需自主決定立場與運(yùn)營方式，我無意評(píng)判當(dāng)前運(yùn)作模式，目前尚未發(fā)現(xiàn)AI大規(guī)模危害人類的證據(jù)?！?/p>

談與OpenAI的“切割”

值得一提的是，在今年十月一份重塑微軟與OpenAI關(guān)系的協(xié)議達(dá)成前，蘇萊曼的工作其實(shí)一直受限于合同條款——該條款禁止微軟研發(fā)通用人工智能(通常指具備人類能力的系統(tǒng))或超越人類能力的超級(jí)智能。

而根據(jù)新協(xié)議，OpenAI可與第三方聯(lián)合開發(fā)部分產(chǎn)品。同時(shí)，微軟也可獨(dú)立或與第三方合作開發(fā)通用人工智能。

蘇萊曼透露，微軟實(shí)際上已放棄了限制這些權(quán)利以換取使用OpenAI最新產(chǎn)品的機(jī)會(huì)——這是雙方此前合作的一部分，多年來微軟一直為OpenAI代建并配置數(shù)據(jù)中心。

談及OpenAI時(shí)，蘇萊曼表示，“他們?nèi)缃衽c軟銀、甲骨文等多家企業(yè)達(dá)成了協(xié)議，建設(shè)的數(shù)據(jù)中心規(guī)模已超出微軟原計(jì)劃為其建造的數(shù)量。因此相對(duì)應(yīng)的，我們也獲得了自主開發(fā)人工智能的權(quán)利?！?/p>

就目前而言，業(yè)內(nèi)關(guān)于超級(jí)智能的討論仍是理論性的。雖然像ChatGPT這樣的人工智能模型，能夠以十年前計(jì)算機(jī)無法做到的方式與人類互動(dòng)，但這項(xiàng)技術(shù)仍在發(fā)展中。無論是對(duì)于希望人工智能助手能幫助完成從預(yù)訂音樂會(huì)門票到創(chuàng)建假日購物清單等各種事情的消費(fèi)者，還是對(duì)于押注此類工具將提高員工生產(chǎn)力的企業(yè)高管而言，都是如此。

蘇萊曼表示，微軟Copilot消費(fèi)助手的智能代理功能“并非總是準(zhǔn)確”，仍在開發(fā)中。

“我們?nèi)栽谶M(jìn)行實(shí)驗(yàn)，”他表示，“但當(dāng)它確實(shí)有效時(shí)，那將是你所見過的最神奇的東西。”