巴菲特：無法預(yù)判人工智能的前景
周鴻祎談Sora：意味著 AGI (通用人工智能) 實現(xiàn)或從 10 年縮短至 1-2 年
巴菲特說的沒錯，人工智能武器化的話確實可怕。
一是從技術(shù)發(fā)展看，已經(jīng)朝著強人工智能（通用人工智能）發(fā)展了?；蛘哒f，人工智能已經(jīng)開始表現(xiàn)出形成智慧的能力，這是非?？膳牡摹?/p>
二是從技術(shù)應(yīng)用看，目前美國一直在將人工智能應(yīng)用于軍事領(lǐng)域了。俄烏沖突可以看出來，美國將人工智能應(yīng)用于情報收集和指揮控制領(lǐng)域了。美國提出的馬賽克戰(zhàn)，更是打算將人工智能應(yīng)用于作戰(zhàn)了。
三是人工智能在智慧化和武器化的基礎(chǔ)上，一旦控制不好，反向操控人類，也是有可能的。
總結(jié)，人工智能是堪稱比核武器更厲害的技術(shù)，畢竟人工智能監(jiān)管更難，技術(shù)大規(guī)模擴(kuò)散的成本低太多了。
通用人工智能將重塑場景、行業(yè)和產(chǎn)業(yè)格局
朱松純 中國政協(xié)雜志 2024-05-04 17:11 北京 2人聽過
人類正在跨入智能時代，通用人工智能的未來充滿無限可能，但也遍布多種挑戰(zhàn)。
人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力，正在深刻地改變著我們的生產(chǎn)方式和生活方式。當(dāng)前，人工智能技術(shù)正加速從感知、認(rèn)知、理解世界向通用人工智能躍遷。以“通用智能體”為代表的通用人工智能技術(shù)，作為新質(zhì)生產(chǎn)力重要引擎，正在引領(lǐng)新一輪科技革命浪潮，將從以下三個層面重塑場景、行業(yè)和現(xiàn)代產(chǎn)業(yè)格局。
人工智能場景：北京，中國科技館，一個機(jī)器人正在彈奏古箏。（視覺中國/圖）
一是加快“人工智能+場景”應(yīng)用速度。過去多年來，人工智能的產(chǎn)業(yè)應(yīng)用局限于處理一些簡單的重復(fù)性任務(wù)場景，無法理解人類意圖，難以認(rèn)知場景中的任務(wù)，因此未能實現(xiàn)自主任務(wù)規(guī)劃。通用人工智能作為新質(zhì)生產(chǎn)力的典型代表，強調(diào)價值和數(shù)據(jù)的雙輪驅(qū)動。北京通用人工智能研究院打造的通用智能體“小女孩——通通”已經(jīng)具備了類人的基礎(chǔ)能力，具有高度的自主性和泛化性，未來可以像人一樣快速進(jìn)入各行業(yè)的不同場景。目前，研究院已經(jīng)聯(lián)合大型央國企業(yè)打造了一批行業(yè)智能體，包括應(yīng)急管理智能體、人才培養(yǎng)智能體、綜合治理智能體、醫(yī)療康養(yǎng)智能體等，在應(yīng)急、政務(wù)、康養(yǎng)、教育等領(lǐng)域已經(jīng)實現(xiàn)了成熟的落地應(yīng)用，推動傳統(tǒng)人工智能向新型智能體轉(zhuǎn)化升級。
二是提高“人工智能+行業(yè)”生產(chǎn)效率。目前大模型技術(shù)在可解釋性、可靠性等方面還不夠成熟，受限于兩個因素：安全性——面臨數(shù)據(jù)不出域的限制；實時性——實現(xiàn)云端協(xié)同實時處理。通用智能體是由認(rèn)知架構(gòu)頂層設(shè)計，以場景認(rèn)知理解、自主任務(wù)規(guī)劃、嚴(yán)肅知識管理、具身智能等為關(guān)鍵技術(shù)突破點，在行業(yè)的成長性高，未來能實現(xiàn)自主完成任務(wù)，甚至是無限個不同性質(zhì)的任務(wù)，能極大緩解行業(yè)內(nèi)模型“用不好、不敢用”的現(xiàn)狀。比如，在政務(wù)、醫(yī)護(hù)、法律等嚴(yán)肅知識領(lǐng)域，通過可解釋AI算法建模，實現(xiàn)應(yīng)用場景中輔助決策的可溯源、可解釋、可調(diào)整、可信任，解決單純大模型因“幻覺”問題在嚴(yán)肅領(lǐng)域產(chǎn)生的信息概率性失真問題。將進(jìn)一步降低人工智能在產(chǎn)業(yè)中的風(fēng)險和成本，充分激活行業(yè)價值。
三是重塑“人工智能+產(chǎn)業(yè)”發(fā)展格局。通用人工智能要構(gòu)建開放包容的創(chuàng)新生態(tài)，其發(fā)展依賴于不同背景和領(lǐng)域的研究者、開發(fā)者以及企業(yè)之間的合作，加速實現(xiàn)產(chǎn)業(yè)鏈、創(chuàng)新鏈、資金鏈、人才鏈四鏈融合。在發(fā)改委、教育部、科技部和北京市等的指導(dǎo)和支持下，我們率先打造“通用人工智能協(xié)同攻關(guān)計劃”人才戰(zhàn)略力量、“通用人工智能全重實驗室”科技戰(zhàn)略力量、“通用人工智能新質(zhì)生產(chǎn)力基金”資金戰(zhàn)略力量和“通用人工智能產(chǎn)業(yè)生態(tài)”智能體生態(tài)戰(zhàn)略力量等，構(gòu)筑人才、技術(shù)、產(chǎn)業(yè)、投資四大生態(tài)體系，推動通用人工智能可持續(xù)發(fā)展。
人類正在跨入智能時代，通用人工智能的未來充滿無限可能，但也遍布多種挑戰(zhàn)。希望通過本次協(xié)商會，能夠進(jìn)一步促進(jìn)各方加強交流、凝聚通用人工智能發(fā)展共識，共同推動我國現(xiàn)代產(chǎn)業(yè)創(chuàng)新發(fā)展，為提升人類福祉作出更大貢獻(xiàn)。
作者：朱松純?nèi)珖f(xié)委員北京通用人工智能研究院院長北京大學(xué)智能學(xué)院院長編輯：楊 靈校對：蒲水涵審核：史慧玲來源：《中國政協(xié)》2024年第9期
AI知識5 | 一文看懂什么是AGI
AGI，即通用人工智能（Artificial General Intelligence），是一種能夠執(zhí)行與人類相當(dāng)或超越人類的廣泛認(rèn)知任務(wù)的人工智能系統(tǒng)。與專注于特定任務(wù)的窄人工智能（Narrow AI）不同，AGI的目標(biāo)是具備廣泛的認(rèn)知能力，能夠在多種不同的任務(wù)和環(huán)境中表現(xiàn)出高度的靈活性和適應(yīng)性。AGI被認(rèn)為是強人工智能的一種形式，旨在實現(xiàn)類人智能和自學(xué)能力，使其能夠執(zhí)行訓(xùn)練或開發(fā)目的之外的任務(wù)。
AGI的研究領(lǐng)域包括理解和響應(yīng)非語言線索，如語氣、面部表情和手勢，以進(jìn)行更有意義、更有效的溝通。此外，AGI的目標(biāo)不僅是理解任意通用任務(wù)，而且還要以人類的智力水平執(zhí)行這些任務(wù)，除了“自我意識”的生成外。盡管AGI的概念較為寬泛，沒有一個特別嚴(yán)格準(zhǔn)確的標(biāo)準(zhǔn)，但普遍理解的AGI定義是AI系統(tǒng)能夠在多個認(rèn)知領(lǐng)域進(jìn)行理解和推理，達(dá)到或超過人類智力水平。
創(chuàng)建AGI是AI研究的主要目標(biāo)之一，也是許多公司如OpenAI、DeepMind和Anthropic等的研究重點。AGI的發(fā)展可能會對社會產(chǎn)生深遠(yuǎn)的影響，包括質(zhì)疑現(xiàn)有的意義和目的，擴(kuò)展知識，并重新定義人性和命運。因此，利益相關(guān)者必須考慮并解決這些影響和風(fēng)險，包括研究人員、開發(fā)人員、政策制定者、教育工作者和公民。
AGI研究進(jìn)展
通用人工智能（AGI）的當(dāng)前研究進(jìn)展主要集中在以下幾個方面：
具身智能的研究：國內(nèi)外的大廠及高等學(xué)府，如微軟、谷歌、斯坦福等，都在開展具身智能的相關(guān)研究。人形機(jī)器人被認(rèn)為是AGI的最佳載體，業(yè)界的研究進(jìn)展正在加速。
基于圖神經(jīng)網(wǎng)絡(luò)的研究：上海交大洪亮課題組發(fā)表了基于微環(huán)境感知圖神經(jīng)網(wǎng)絡(luò)構(gòu)建指導(dǎo)蛋白質(zhì)定向進(jìn)化的通用人工智能的最新研究成果，這表明在生物信息學(xué)領(lǐng)域，AGI的研究也在取得進(jìn)展。
元學(xué)習(xí)和模型泛化能力的提升：現(xiàn)階段，元學(xué)習(xí)已經(jīng)取得了一定的研究進(jìn)展，但如何提升模型的泛化能力，在不同任務(wù)之間進(jìn)行平衡和優(yōu)化仍是未來技術(shù)攻破的主要方向。
數(shù)據(jù)剪枝的重要性：斯坦福和Meta AI的新研究表明，在實現(xiàn)AGI的道路上，數(shù)據(jù)剪枝比我們想象得更重要，這意味著在機(jī)器學(xué)習(xí)的多個領(lǐng)域中，訓(xùn)練數(shù)據(jù)、模型大小或計算資源的有效利用對于提高AGI的能力至關(guān)重要。
大模型智能體的研究：整理了52篇2023年最新的大模型智能體相關(guān)的論文，這些研究涵蓋了LLM-based Agent的構(gòu)建、應(yīng)用、評估等方面，顯示了在AI Agent領(lǐng)域的最新研究進(jìn)展[XX]。
深度學(xué)習(xí)的基礎(chǔ)科學(xué)問題：面向以深度學(xué)習(xí)為代表的人工智能方法的魯棒性差、可解釋性差、對數(shù)據(jù)的依賴性強等基礎(chǔ)科學(xué)問題，正在挖掘機(jī)器學(xué)習(xí)的基本原理，發(fā)展可解釋、可通用的人工智能方法[7]。
AGI的發(fā)展階段：谷歌提出了AGI的完整路線圖，將AGI的發(fā)展分為6大階段，每個階段都有對應(yīng)的深度（性能）和廣度（通用性）指標(biāo)，這為理解AGI的發(fā)展提供了框架[9]。
通用人工智能（AGI）的當(dāng)前研究進(jìn)展涵蓋了具身智能、圖神經(jīng)網(wǎng)絡(luò)、元學(xué)習(xí)與模型泛化能力的提升、數(shù)據(jù)剪枝的重要性、大模型智能體的研究、深度學(xué)習(xí)的基礎(chǔ)科學(xué)問題以及AGI的發(fā)展階段等多個方面。