+

新闻中心>

圆桌对话|当AI重塑未来:我们将迎来哪些突破,又要警惕哪些风险?

时间:2026年06月29日 11:27 浏览量: 作者:

6月23日,在2026腾冲科学家论坛(大连)专题活动圆桌对话环节中,多位来自全球各地不同机构、不同领域的专家围绕人工智能、量子计算、网络安全、可信治理等前沿议题展开对话,碰撞出思想火花。

圆桌对话:“未来科学技术前瞻”

发言嘉宾(按发言顺序):

张亚勤 中国工程院外籍院士、清华大学智能产业研究院(AIR)创始院长

龚克 世界工程组织联合会原主席、中国新一代人工智能发展战略研究院执行院长

Dawn Song(宋晓冬) 加州大学伯克利分校计算机科学教授、伯克利RDI主任

Reena Dayal Yadav 印度量子生态与技术委员会创始人兼首席执行官

Roli Agrawal NTT Data INC首席战略官

核心议题:

  • 在未来数年内,哪一项重大技术突破是“必然会发生”的?

  • 在新一轮智能化浪潮中,哪些系统性风险往往被忽视?


张亚勤

  • 技术趋势与核心突破

1.技术主线:从生成式 AI 迈向智能体 AI

当前全球 AI 产业的核心宏观趋势,是从生成式 AI 向智能体 AI(Agentic AI)演进。面向消费端的云端智能体已步入主流,下一阶段将全面向企业云、产业云渗透,落地到药物研发、家用服务机器人、教育、金融等多元产业场景。

2.组织范式:未来企业的TAP模型

技术演进将催生全新的企业组织形态,可总结为 “TAP 模型”:未来企业由三大核心要素构成 ——Token(词元),Agent(智能体),People(人才),其中人始终是发展的核心。这一模式将催生全新的“通证经济学(Token Economics)”体系,但当前的通证经济模型存在结构性缺陷,尚不具备长期可持续性。

3.交互变革:认知交互界面将成主流

人机交互正迎来第三次范式变革:从 PC 时代的图形用户界面,到手机时代的触控界面,未来将进入 “认知交互界面” 时代。可穿戴设备(智能眼镜、智能手表、智能戒指)、智能汽车、服务机器人将成为核心交互载体,依托语音与认知能力实现自然人机交互,彻底改变人与数字世界的交互方式。

  • 易被忽视的系统性风险

最核心的风险是人工智能安全。当前 AI 正从数字 AI 向实体 AI、生物 AI 延伸,技术影响力从数字世界渗透到物理世界与生物领域,对应的安全风险会被持续放大、加剧,一旦失控将造成严重的现实危害,必须提前布局防控。


龚 克

  • 技术发展核心方向

我完全认同智能体 AI 是当前的核心技术趋势,但更想强调 AI 的发展方向问题:发展 AI 本身不是人类的终极目的,人类的核心目标是在地球上实现永续发展,因此绿色 AI 才是人工智能的正确发展方向。

当前 AI 产业能耗水平极高,背后对应着巨量碳排放,同时算力基础设施的生产还会消耗大量原材料与水资源。数字技术、智能技术不能走“黑色技术”的高耗能路线,必须向绿色低碳的技术路线转型,这是全球科研界需要共同攻克的核心课题,也是技术服务人类可持续发展的核心要求。

  • 易被忽视的系统性风险

AI 安全隐患的根源,在于当前 AI 模型的不可解释性。只有破解机器学习的底层原理、实现技术机制可解释,人类才能真正建立对 AI 的信任,实现安全、可靠的应用落地。可解释性是可信 AI 的核心前提,也是 AI 治理体系的底层根基。

  • 人工智能全球治理观点

针对“全球 AI 治理需要统一框架还是多元共治” 的问题,心结论是必须构建多方利益相关方协同共治的全球框架

1.人工智能是通用底层技术,渗透全行业与人类生活全场景,单一主体无法完成有效治理,必须推动全球多方主体开展对话、凝聚共识。联合国即将在日内瓦举办首届人工智能全球治理对话,这类全球对话机制需要常态化推进,逐步将共识转化为行业规范、技术标准、指导原则,最终形成法律法规体系。

2.AI治理不能只靠规则,还需要技术工具支撑,包括模型安全检测技术、安全护栏搭建技术、AI模型核验机制等。

3.AI 治理的根本根基是实现技术的可解释性 ,没有可解释性就没有技术可靠性,整个治理体系就失去了底层支撑。

2B31E

Dawn Song(宋晓冬)

  • 技术趋势与核心突破

智能体 AI 是 AI 领域的下一个前沿赛道。早在2024年智能体概念尚未普及时,我就开设了全球首门智能体 AI 慕课,目前全球累计学习人数已超4万人,行业热度的快速升温也印证了这一判断。

从技术能力迭代来看,前沿 AI 在网络安全领域的进展速度远超预期。我们团队研发的Cyber Gym平台,目前已是全球评估前沿 AI 网络安全能力的基准标杆,OpenAI 首席执行官山姆・奥特曼近期专门发文提及该平台,其最新模型 GPT-5.5 Cyber 登顶该平台排行榜。数据显示,仅过去一年,AI 挖掘大型真实开源应用漏洞的成功率就从 20% 提升至近 90%,前沿 AI 的网络攻防能力已经达到、甚至在部分场景下超越了人类专家水平。

  • 易被忽视的系统性风险

AI 是典型的两用技术,既可以赋能网络防御,也会被攻击者利用。我们团队经深度研究得出结论:短期内,AI 对攻击方的能力增益显著大于防御方。随着前沿 AI 网络攻防能力的快速迭代,全球网络安全防御体系将面临极大挑战与系统性风险。

Reena Dayal Yadav

  • 技术趋势与核心突破

未来的计算体系不会是单一技术路线的垄断,而是多元计算技术融合共生的格局:量子计算、生物计算、经典计算、边缘计算、太空计算等技术路线将并行发展,分别对应不同场景的解决方案,形成以人为本、以问题为导向的发展模式。

其中,量子技术与 AI 的融合具备广阔的产业前景,既有望破解大型数据中心高能耗的行业痛点,也能在药物研发、新型材料开发等领域释放巨大价值,为人类社会带来突破性解决方案。

  • 易被忽视的系统性风险

核心风险来自两个层面:

1.全局系统性思维缺失:当前行业大多聚焦局部技术方案的突破,缺少将全球作为完整系统的宏观研判,不同技术的叠加影响容易被低估,技术融合也会进一步放大治理的复杂度。

2.后量子安全危机:规模化量子计算机可破解当前所有主流加密算法,将对全球信息安全体系造成颠覆性冲击。全行业必须提前布局,尽快向后量子安全体系迁移。

此外,量子与 AI 的深度融合,也会让 “负责任量子技术”“负责任 AI” 的治理议题变得更加复杂,需要全球提前形成共识。

Roli Agrawal

  • 技术趋势与产业落地

从商业落地视角来看,三大技术方向将在短期内快速释放产业价值。

1.实体 AI 规模化落地:AI 从数字场景向物理场景延伸是最直观的商业机遇。自动驾驶、工业制造等场景的实体 AI 应用,将直接释放 AI 的技术价值;而实体 AI 的规模化落地,需要传感器、通信网络、机器人技术等全产业链的配套创新。

2.多元算力融合发展:破解算力瓶颈不能依赖单一技术路线,需要经典计算、神经形态计算、量子计算等多路径融合发展。例如 NTT 正在研发的光量子计算,可突破传统超导量子技术的极低温运行限制,实现室温环境下工作,具备很强的落地潜力。

3.能源体系全面革新:AI 的高能耗属性让能源供给成为产业发展的核心约束。能源生产(核能、氢能、可再生能源)、储能技术、能源传输升级、全流程能效提升,将成为未来技术攻关的关键赛道。

此外,个性化医疗与教育、气候变化应对、太空探索三大领域,将是技术落地后最具社会价值的方向。

  • 易被忽视的系统性风险

有两大系统性风险最容易被忽视:

1.气候反噬风险:AI 本可以成为应对气候变化的重要工具,但如果管控不当,其极高的能耗需求会大幅增加碳排放,反而加剧气候变化,形成技术发展的反噬效应。

2.社会不平等加剧:当前 AI 的发展红利高度集中于少数群体与企业,收益分配严重不均。如果不加干预,AI 将持续推高社会基尼系数,放大全球范围内的贫富差距,带来严重的社会风险。


(根据现场发言整理)