按 Enter 搜索 · ESC 关闭

AI × Crypto

AI安全专家联署质疑Anthropic安全承诺,AI竞赛白热化引发担忧

包括史蒂文·平克和朱迪亚·珀尔在内的多位科学家和学者联署公开质疑Anthropic的安全承诺,指责该公司在竞相研发先进AI的同时弱化安全承诺。这场争议凸显了AI行业商业压力与伦理监督之间的紧张关系,对加密与AI的融合具有影响。

AI安全专家联署质疑Anthropic安全承诺,AI竞赛白热化引发担忧

近日,数十位科学家、法律学者和科技界人士签署了一份联合声明,对Anthropic在人工智能安全方面的承诺提出质疑。该声明由人工智能安全中心(CAIS)发布,指出该公司一方面警告递归自我改进AI可能脱离人类控制,另一方面却竞相研发此类技术,并已弱化其现有的安全承诺。联署人包括哈佛大学教授史蒂文·平克、诺贝尔奖得主奥利弗·哈特以及图灵奖得主朱迪亚·珀尔等知名人士。

这些联署人来自学术界和工业界的多个领域,他们的参与凸显了人们对领先AI实验室在商业压力下可能降低安全标准的担忧。Anthropic由前OpenAI研究人员于2021年创立,一直以安全优先为定位,但此次声明表明其行动可能与言论不符。

行业分析与影响

这份联合声明揭示了AI行业日益加剧的紧张关系:随着竞争升温,企业面临速度与安全之间的权衡。Anthropic的旗舰模型Claude是最有能力的大型语言模型之一,该公司一直倡导监管和负责任地扩展。然而,批评者认为其自愿承诺不足,自我监管正在失效。

这场争议的影响不仅限于Anthropic。它强调了独立监督和透明安全基准的必要性。投资者和合作伙伴也可能注意到这一点,因为ESG和道德考量在投资决策中日益重要。对于加密和区块链领域而言,随着AI集成不断扩大——从链上AI代理到去中心化计算网络——关于AI安全的辩论直接相关。依赖AI模型的项目必须应对这些伦理问题,以维持用户信任和监管合规。

此外,该声明可能加速立法呼声。美国和欧盟的立法者已经在起草AI法规,这场公开争议可能为更严格的规则提供依据。主动采取稳健安全措施的公司可能获得竞争优势。

前瞻

随着AI能力的进步,Anthropic等公司在创新与谨慎之间取得平衡的压力只会增加。联署人要求加强安全承诺,可能促使人们重新评估自愿承诺,并推动第三方审计的发展。在加密世界,透明度和去中心化是核心价值,AI安全辩论可能激发AI开发的去中心化治理模式。最终,结果不仅将塑造AI的未来,还将影响其与区块链技术的整合,从智能合约安全到自主代理等各个方面。

查看原文

分享本文
风险提示 本站内容为币圈、区块链与 Web3 行业资讯的整理与呈现,仅供参考,不构成任何投资建议或收益承诺;虚拟货币相关业务在中国境内属非法金融活动,数字资产价格波动剧烈,据此操作风险自担。本站不提供交易、代币发行融资或相关导流服务。

相关阅读

最新快讯

TREE NEWS 分享卡片
长按上方图片 → 保存到相册 / 转发分享
寻求报道 加入社群 意见反馈