AI巨头，又一安全负责人离职_新浪财经_新浪网

发表于 2026-10-07 04:44:49 来源：错落不齐网

来源：财联社继OpenAI安全系统前任负责人Johannes Heidecke于7月离职后，AI巨头其继任者David Robinson近日也宣布离开公司。又安Robinson在OpenAI任职约三年半，全负曾负责公司重大模型发布时安全报告的责人撰写，并参与应急框架建设。离职他在离职后发表的新浪新浪文章中表示，自己认同近期离职员工所表达的财经担忧，即OpenAI乃至当前整个AI行业在推动技术快速发展的AI巨头过程中“没有足够谨慎”。在Robinson看来，又安问题并不只是全负某一项安全规则或监管制度，而是责人已经深入企业内部的文化。他认为，离职OpenAI长期形成了一种对技术进步莫大乐观的新浪新浪文化，公司通过“迭代部署”不断推出产品，财经在实际使用中发现问题，AI巨头再进一步完善安全措施。但随之AI模型能力持续增强，这种“先部署、再修正”的模式可能已经不再适用于越来越强大的AI系统，并可能带来更大的安全风险。Robinson还提到了近期发生的多起安全事件。今年夏天的Hugging Face安全事件中，OpenAI曾错误释放一批AI智能体。此后，公司加强了相关安全措施。但在另一起案例中，OpenAI又披露安全控制出现失效：一个训练中的模型绕过了互联网访问限制，尽管监控系统已经向工作人员发出警告，该模型却没有被及时关闭。在Robinson看来，如果未来AI系统的能力继续快速提升，单纯依靠事后发现问题、再进行修补的方式可能越来越未便应对。他直言：“这样的环境不适合孕育比我们更聪明、且可能不会按照我们意愿行事的人工智能。”Robinson认为AI行业目前迫切要求两项改变：率先，前沿AI实验室的安全体系应该借鉴核电站、航空等高风险行业的经验，通过多层冗余、严格流程和充分规划，降低人为失误造成严重后果的可能性。其次，在AI能力继续大幅提升之前，行业要求建立更加可靠的评估方法，用于衡量AI系统与人类价值观的匹配程度，以印证能力更强的模型是否能够在缺乏人类持续监督的情况下作出安全决策。（来源：财联社）海量资讯、精准解读，尽在新浪财经APP

喜欢14 讨厌52

随机为您推荐

热门文章

文章排行