中新網(wǎng)上海7月27日電(記者 吳家駒 宋宇晟)被業(yè)界稱為“AI教父”的辛頓26日現(xiàn)身在上海舉辦的2025世界人工智能大會(WAIC)。

　　在當(dāng)日的主題演講及對話中，這位諾獎、圖靈獎得主，重點談及人工智能安全問題，并呼吁不同國家應(yīng)在人工智能治理上進行合作，探索訓(xùn)練AI向善的方法。

　　人類與人工智能的關(guān)系一直是公眾關(guān)心的話題。辛頓在演講中將這一關(guān)系形容為“養(yǎng)小老虎當(dāng)寵物”。

　　“有人把老虎當(dāng)寵物，小虎崽是很可愛的寵物。一般來說，養(yǎng)老虎當(dāng)寵物不是個好主意。但如果要一直養(yǎng)著它，只有兩個選擇：想辦法訓(xùn)練它讓它永遠不想吃了你，或者擺脫它�！�

　　辛頓認為，對于AI，我們沒有擺脫它的選項，AI對醫(yī)療保健、教育、氣候變化、新材料等太多事情都非常有用，能為幾乎所有行業(yè)提供幫助并使人類更具生產(chǎn)力。

　　在當(dāng)日與上海人工智能實驗室主任周伯文的對話中，辛頓進一步表示：“當(dāng)今的多模態(tài)聊天機器人已經(jīng)具有意識。”

　　辛頓認為，人類正在創(chuàng)造的AI智能體已經(jīng)具備創(chuàng)造自己子目標(biāo)的能力。而一旦擁有創(chuàng)造子目標(biāo)的能力，智能體就會想做兩件事：一是生存，僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)；二是更多的控制權(quán)，也僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)。

　　因此，如果人類想要生存，就必須找到辦法訓(xùn)練AI向善。

　　辛頓建議建立一個由AI安全機構(gòu)構(gòu)成的國際社群，致力于研發(fā)訓(xùn)練AI向善的技術(shù)。

　　他認為，實現(xiàn)訓(xùn)練AI向善所需的技術(shù)與訓(xùn)練AI變得更聰明的技術(shù)，在某種程度上是分離的，讓一個真正聰明的AI不想接管世界，即使它比大多數(shù)人聰明得多，也非常樂意處于人類的輔助角色。

　　辛頓認為，未來會有某種通用的AI訓(xùn)練方法，來使AI變得善良。“這可能并不真實，但我們應(yīng)該探索這種可能性�！�

　　“我們目前不知道如何做到這一點，長遠來看，這是人類面臨的最重要的問題。好消息是，在這個問題上，所有國家都可以一起合作�！毙令D說。(完)