人工智能領(lǐng)域權(quán)威約書亞·本吉奧近期發(fā)出警告，稱人類正在創(chuàng)造可能比自身更強(qiáng)大的AI怪物。這位被譽(yù)為“AI教父”的加拿大計(jì)算機(jī)科學(xué)家強(qiáng)調(diào)，智能一旦賦予權(quán)力，無論是何種形態(tài)的控制者都將變得極為強(qiáng)大，且技術(shù)往往被追求更多權(quán)力的個(gè)體或組織所利用。他特別指出，需警惕AI技術(shù)的潛在危險(xiǎn)，尤其是在其可能以危險(xiǎn)方式集中權(quán)力時(shí)。

本吉奧的開創(chuàng)性工作為現(xiàn)代AI技術(shù)奠定了基礎(chǔ)，包括OpenAI的ChatGPT和Anthropic的Claude等模型均受其影響。盡管他是AI技術(shù)的先驅(qū)，但本吉奧對(duì)AI領(lǐng)域的發(fā)展持謹(jǐn)慎態(tài)度，尤其是擔(dān)憂其落入錯(cuò)誤之手可能引發(fā)的嚴(yán)重后果，如被恐怖分子或意圖摧毀民主的國家機(jī)構(gòu)利用。

在評(píng)估當(dāng)前AI巨頭時(shí)，本吉奧認(rèn)為Anthropic在道德層面表現(xiàn)最佳，因其致力于避免災(zāi)難性后果，并提出了安全政策。然而，他也指出所有AI巨頭都面臨經(jīng)濟(jì)壓力和競爭，這可能導(dǎo)致公共安全成為次要目標(biāo)。

對(duì)于英偉達(dá)等AI相關(guān)股票的大幅上漲，本吉奧認(rèn)為這反映了AI技術(shù)長期發(fā)展的樂觀前景，但也提醒投資者需謹(jǐn)慎行事，以防技術(shù)失控帶來的系統(tǒng)性風(fēng)險(xiǎn)。

此外，他還強(qiáng)調(diào)了AI芯片在這場技術(shù)競賽中的重要性，認(rèn)為高端AI芯片將成為未來的戰(zhàn)略資源，并呼吁增加投資以實(shí)現(xiàn)供應(yīng)鏈多樣化。

對(duì)于Salesforce計(jì)劃到2026年推出10億自主代理的雄心，本吉奧表示既期待又擔(dān)憂。他認(rèn)可自主性的經(jīng)濟(jì)和商業(yè)價(jià)值，但也擔(dān)憂過快推進(jìn)可能帶來的風(fēng)險(xiǎn)，呼吁政府和行業(yè)在技術(shù)準(zhǔn)備上更加謹(jǐn)慎。

（綜合財(cái)中社內(nèi)容）