專題：2025世界人工智能大會

　　2025世界人工智能大會（WAIC 2025）于7月26-28日在上海舉辦。圖靈獎得主約書亞?本吉奧表示，人工智能的規劃推理能力有望在10年內達到人類水平。

　　他提醒，若缺乏堅實防護措施，強大的人工智能系統可能放大現有風險，如虛假信息、網絡攻擊和生物威脅等。更令人擔憂的是，人類可能失去對自我保護型智能體的控制，這些智能體認知能力或將很快超越人類。即便風險很小，超級智能與人類競爭也可能帶來災難性后果，甚至導致人類滅絕。

　　他強調，只要科學界仍有相當比例認為這種情況可能發生，就必須保持最高警惕。目前尚無科學驗證方法確保人工智能可信且始終遵從人類意圖。更糟糕的是，欺騙和自我保護行為在最強模型中似乎更加明顯。

　　新浪聲明：所有會議實錄均為現場速記整理，未經演講者審閱，新浪網登載此文出于傳遞更多信息之目的，并不意味著贊同其觀點或證實其描述。