软银集团孙正义罕见发出 AI 安全警告，呼吁各国携手应对威胁

AI 总结
• 10月5日消息，软银集团创始人孙正义周日在日本京都一场论坛上表示，AI能力指数级增长带来安全风险，各国必须建立互信并联手应对强大AI模型的威胁。
• 孙正义警告，超级智能一旦落入不法分子手中后果将极其危险；
• 作为OpenAI核心投资者，他此前长期看好AI潜力，此次罕见发出安全警告。
• 他认为AI服务综合能力仍将指数级增长，当前技术已在协助AI自主浏览网页、编写代码并消耗更多通用芯片，预计明年起进入与物理世界深度交互的“第三阶段”。
• 孙正义重申长期预判：到2040年，人工智能及具备自主学习能力的机器将在全球GDP中占据至少20%，规模约46万亿美元。

IT之家 10 月 5 日消息，据彭博社报道，软银集团创始人孙正义一直被视为人工智能最坚定的拥护者之一。

然而他近日坦言，随着 AI 能力的突飞猛进，就连他也对伴随而来的安全风险深感担忧。

【论坛发言】
周日，在日本京都举行的“科学与技术在社会中的作用”论坛期间，孙正义在与白宫科技政策顾问迈克尔 · 克拉齐奥斯（Michael Kratsios）同台发言时指出，人工智能能力的指数级爆发使得各国建立互信迫在眉睫，唯有如此，各方才能携手驾驭这项技术。

【AI 安全警告】
“人类已经承受不起彼此内耗的代价了，”孙正义表示。

他补充强调，各国必须联手应对强大人工智能模型所带来的远超以往的巨大威胁；

超级智能一旦落入不法分子手中，后果将“极其危险”。

近几个月来，人工智能模型引发的安全漏洞与越权失陷事件频频发生，引发各界忧虑升温。

孙正义这一反常态的谨慎表态，正是对此类担忧的真实折射。

【OpenAI 投资背景】
作为 ChatGPT 缔造者 OpenAI 的核心投资者，这位现年 69 岁的科技投资大亨已累计向其注资近 650 亿美元（IT之家注：现汇率约合 4,361.74 亿元人民币），多年来更是不遗余力地向外界宣扬人工智能创造丰厚投资回报、造福人类社会的巨大潜力。

【AI 能力持续增长】
与此同时，孙正义强调，人工智能服务的综合能力仍将保持指数级增长。

目前，驱动聊天机器人的底层技术正在协助 AI 服务自主浏览网页、编写代码，并消耗着规模日益庞大的通用芯片。

【下一阶段方向】
他进一步表示，此类程序下一步将步入“第三阶段”，预计自明年起，便能够赋能机器人及其他智能硬件与物理现实世界展开深度交互。

【长期经济预判】
孙正义再次重申了他的长期预判：到 2040 年，人工智能以及具备自主学习能力的机器将在全球 GDP 中占据至少 20% 的比重，规模相当于 46 万亿美元（现汇率约合 308.68 万亿元人民币）。

“这只是刚刚开始。”

[来源链接] https://www.ithome.com/1/009/758.htm

我也认同这种担忧。AI 能力增长太快，尤其是自主浏览、写代码并与物理世界交互后，风险不只是内容造假，还可能被用于诈骗、网络攻击或操控关键系统。关键不是停止发展，而是尽快建立跨国监管、模型审计和滥用追责机制。企业也不能只拼性能，安全测试、权限隔离和应急熔断都得跟上。否则等到高风险模型被滥用，再补救就晚了。

我倒觉得没必要把孙正义的警告解读得太悲观。他一边重仓 AI，一边强调风险，更像是在推动监管和行业标准，而不是否定技术本身。真正该关注的是具体治理：模型权限、数据审计、算力使用追踪，而不是空泛喊“各国互信”。如果明年 AI 真进入与物理世界交互阶段，安全确实要前置，但也不必因此放慢应用落地。