''
Anthropic上市当天遭抗议 离职研究员呼吁必须关闭这项AI技术

11月20日,据美媒《旧金山标准报》(The San Francisco Standard)报道,Anthropic前研究员雅各布·考克森(Jacob Coxon)在该公司IPO当天现身旧金山总部外,向现场抗议者公开呼吁,禁止人工智能系统进行递归自我改进(Recursive Self-Improvement,简称RSI)。

考克森在现场表示:“他们应该禁止RSI,关掉它。”

他还对抗议者说:“这里每来一个人,就有数十万人如果知道正在发生什么,也会来到这里。而这样的人有数百万。”

RSI即递归自我改进,是指人工智能系统通过改进自身的算法、模型或研发流程,进一步提升自身能力,并利用提升后的能力继续进行下一轮优化。这一机制被认为可能加速AI能力发展,同时也引发外界对人工智能系统失控风险的担忧。

考克森此前已从Anthropic离职。此次他公开要求禁止RSI,反映出围绕先进AI系统自主改进能力及安全边界的争议。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:凤凰网科技)
 
 
Back to Top
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]