直擊WAIC丨圖靈獎得主JosephSifakis：AGI需要新范式，實

“ICT和AI之間的加速融合正在創造自主系統，這是從弱AI到AGI(通用人工智能)的一大步?！?/p>

7月7日，在2023世界人工智能大會區塊鏈+WEB3新發展論壇上，圖靈獎得主、中國科學院外籍院士Joseph Sifakis也圍繞人工智能帶來諸多前沿技術的研究和思考。

他指出自主系統是邁向AGI的重要一步，而要實現這一步還有很長的路要走，未來前行方向包括設計出圍繞可信組件構建可信系統的技術、發展新的科學和工程基礎、驗證智能系統等。

模型檢查領域作出杰出貢獻

不像同為圖靈獎得主的Yann LeCun，既有一個相當中文的名字“楊立昆”，又在Meta這樣為大眾所熟知的科技大廠任首席科學家，還有一些諸如“深度學習之父”等響亮易懂的稱號，Joseph Sifakis則隱秘許多，聊到他，自然離不開他在模型檢查領域所做的杰出工作。

如人們對工程開發的預想，在實際部署之前，為了避免不必要的失敗，包括系統在內的所有組成都要嚴格檢測可能存在的錯誤和缺陷，因為很多時候，一個小小的bug就會讓全部努力“付諸東流”。例如1996年6月，歐洲12國聯合研制的Ariane 5型運載火箭在首次發射時，僅由于一行代碼的溢出錯誤就導致火箭發射失敗，數億歐元因此放了“煙花”。

隨著科技的發展，各種系統也越來越復雜，如今一臺汽車所涉及的代碼就可以達到上億行，手動驗證系統的安全性與可靠性就是一件幾乎不可能實現的事情。

在這樣的背景下，Joseph Sifakis在內的幾位計算機科學家在1981年提出模型檢查的概念。

在提出模型檢查的概念后，Joseph Sifakis也一直在積極推動模型檢查在嵌入式系統領域的應用，直到如今，模型檢查依舊是一個活躍的研究和開發領域，研究人員努力提高其拓展性、準確性和可用性。Joseph Sifakis也因其在模型檢驗領域的杰出貢獻在2007年共同榮獲了計算機領域的最高獎項——圖靈獎。

所謂嵌入式系統，簡單理解即火箭、汽車、手機等設備等所搭載的各種控制系統，隨著物聯網的興起，形形色色的智能化產品也讓嵌入式系統出現在我們日常生活的每個角落。

“物聯網革命的背后是，對互聯的智能對象提供的資源管理自動化和增強人們生活質量需求的日益增長?！弊鳛殚L期深耕行業的大牛，Joseph Sifakis早前也發表過許多相關的見解。

物聯網之后，大模型掀起一波新的高潮，生成式AI重新點燃了人們對AGI的興趣，而AGI的最終愿景就是機器代替人類完成各種復雜的任務，也就是在各種場景下構建可以自主運行的系統，Joseph Sifakis指出，構建自主系統是從弱人工智能到AGI的重要環節。

Joseph Sifakis專門強調了自動化系統和自主系統之間的區別，雖然二者都涉及與環境交互，但區別在于不同的意識感知和決策機制。

“自動化系統以恒溫器為例，它只需要從環境中讀溫度取值，再對溫度進行調節，這是一種靜態的控制。而對于自動駕駛來說，事情要復雜得多，這種自主系統需要更加復雜的傳感器和驅動器，并且要對得到的圖像進行逐幀分析，識別障礙物，然后輸入運動學的屬性，感知功能相當于一個對外部世界的認知模型，自主系統基于這個模型進行決策，從而完成動態的目標管理?！盝oseph Sifakis表示。

而要彌合自動化和自主性之間的差距，Joseph Sifakis認為還有很長的路要走，“這也是我們從自動駕駛中認識到的，過渡不是漸進的，為了實現完全自主的愿景，我認為需要發展新的科學和工程基礎，而這需要一些時間?！?/p>

亟需新范式

“今天，弱Al為我們提供了構建智能系統的元素，但我們沒有像建造橋梁房屋一樣總結建立復雜智能系統的理論?！盝oseph Sifakis表示。

環境的不確定性和決策的復雜性則共同組成了通往AGI路上的絆腳石，而Joseph Sifakis在內多位行業大牛也堅定認為無法繞開這些挑戰實現真實可靠的自主和智能。

在ChatGPT爆火之后，美國斯坦福大學組織行為學副教授Michal Kosinski實驗發現，ChatGPT回答問題的正確率高達93%，并認為其心智理論能力相當于9歲的人類兒童。

這也引來諸多AI領域人士的反對聲音，如北京通用人工智能研究院院長朱松純認為大語言模型并不符合通用人工智能的要求。

堅決反對“AI末日說”的楊立昆也表達過類似的觀點:GPT等大模型的關鍵缺陷在于其只學習了文本或者其他單一數據，對現實世界的了解十分淺顯，而人類的知識和文明不全是從書本上獲得的，“書呆子”AI未必有多聰明。

“即使GPT能通過類似測試，也只是體現了它具備通過這個心智理論測試的能力，并不能說明它具有心智理論，同時我們也要反思:用這些傳統測試任務來驗證機器是否發展出心智理論的做法是否嚴謹合法？為何機器可以不用心智理論就能完成這些任務？”朱松純表示。

而Joseph Sifakis則認為，人類的思維與大語言模型背后的神經網絡之間有著兩個根本區別:一是人類的思維更加穩健，相比之下，神經網絡即使面對細微的問題變化，也會產生完全不同的答案，二是人類思維基于常識知識，更能避免在答案中產生矛盾。

不過，對于通用人工智能，兩人都呼吁相似的從感知認知到決策執行的新范式。

Joseph Sifakis指出，傳統構建系統工程的方法，雖然能夠應用于飛機制造以及普通生產制造系統，但無法勝任更復雜的自主系統，而對于自動駕駛領域中另一種試圖繞開環境感知與復雜決策的端到端的解決方案，即以行駛過程中由攝像頭采集到的道路場景圖像和人為操作車輛的控制參數數據作為數據樣本訓練的自動駕駛大模型，Joseph Sifakis也給予了否定。

“由于目前人工智能輸出的方案缺乏可解釋性，其輸出的結果有時候未必可靠，系統工程的構建是一個突破點，我們需要從小規模、集中式、環境變量可被設定的自動化系統，轉向復雜的、分布式的自主系統?！盝oseph Sifakis說。

“我認為我們應該承認智能系統需要嚴格的驗證方法，誠實地克服當前的限制性，開發新的基礎，并在必要時可能修改認識和方法要求，但是要小心，要了解我們在做什么?！盝oseph Sifakis補充道。