宫斗大戏结束,OpenAI成立安全委员会加强AI伦理监管;Leike宣布加入Anthropic强化Claude 3的安全性

2024-06-03 19:41:57 浏览数 (3)

OpenAI宣布成立了一个新的安全与保障委员会,并启动了一款全新的旗舰级人工智能模型的开发,这一举措在人工智能领域引发了广泛关注。在技术快速进步的背景下,OpenAI的这一行动不仅是对其未来技术战略的调整,也反映了对行业安全标准的重视。

据报道,OpenAI的董事会成立了安全与保障委员会,目的在于强化对人工智能模型安全性的评估和措施。这一决策是在公司内部安全团队被解散后不久作出的,显示了公司在加强技术治理和风险管理方面的决心。委员会计划在接下来的90天内,提交一份关于OpenAI工作流程和保障措施的评估报告。

同时,OpenAI也公布了开始训练一款新的人工智能模型,预期这一模型将带动公司在通用人工智能(AGI)领域的进一步发展。这款模型旨在提升人工智能的综合性能和安全标准,预计将在多个领域,包括聊天机器人、数字助理和搜索引擎等应用产生重大影响。

在此期间,OpenAI还经历了一系列内部挑战,包括关键人物的离职和关键团队的解散。特别是首席安全研究员简·雷克的离职及其加入竞争对手Anthropic,更是引发了业界对于OpenAI人力资源管理和内部政策的关注。Anthropic作为一家新兴的人工智能公司,得到了亚马逊和其他大型科技公司的投资支持,正在快速成长为OpenAI的有力竞争者。雷克在Anthropic的角色将专注于AI系统的安全监督和泛化能力的研究,这表明Anthropic在AI安全领域的重视程度。

OpenAI在回应外部批评和应对内部挑战方面采取了积极措施,如撤销了涉及前员工的争议政策,并强调公司正在积极解决管理和安全问题。这些举措显示了公司在维持行业领导地位的同时,也在努力响应公众对技术安全和道德责任的关注。

总的来说,OpenAI的最新动向和Anthropic的崛起反映了人工智能领域内部竞争和合作的复杂格局。随着两家公司在技术开发和安全治理上的进一步行动,业界和公众将继续关注它们如何应对未来的技术挑战和市场竞争。这些发展对于预测人工智能技术的未来走向具有重要意义。

0 人点赞