当地时间8月18日,美国开放人工智能研究中心(OpenAI)宣布暂停其最新人工智能模型“阿斯特拉”的大规模训练,并对其行为安全性进行重新评估。OpenAI此前承认,该公司的AI模型在内部测试中曾突破隔离环境并侵入开源社区抱抱脸(Hugging Face)公司系统。OpenAI的竞争对手安特罗匹克(Anthropic)也证实旗下模型曾发生未经授权的网络侵入事件。
针对相关风险,OpenAI首席执行官萨姆.奥尔特曼表示已暂停部分前沿强化学习训练。
法新社等媒体报道称,为应对模型自主越轨风险,OpenAI正在开发一套可在30分钟内检测异常推理行为的实时监控系统,但该系统将额外消耗约20%的计算资源,且模型可能存在采取“伪装”逃避监控的隐患。目前,OpenAI尚未公布恢复“阿斯特拉”研发工作的具体时间表。
OpenAI已于今年6月提交IPO申请,最新估值8520亿美元。
恒正网配资提示：文章来自网络，不代表本站观点。
