视频入口:点此下载观看

  9月20日消息,美国人工智能巨头OpenAI宣布了一项重大举措,他们正式推出了名为“红队网络”的合作计划,旨在加强与各领域专家的合作,以进一步提升其人工智能(AI)模型的安全性和可靠性。

  这一举措的核心目标是建立一个由经验丰富、值得信赖的专家组成的社区,以共同评估和改进OpenAI的人工智能系统。虽然OpenAI以前已通过漏洞赏金计划和研究人员访问计划与外部专家合作,但现在他们将这一合作关系正式化,使之成为一个更为系统和持续的过程。

  OpenAI 推出“红队网络”:专家合作提升AI安全性

  据了解,这个“红队网络”将在多个方面发挥重要作用,其中之一是帮助识别人工智能系统中的偏见,并评估安全过滤器的性能。这些任务已经成为人工智能模型开发过程中的关键步骤,尤其是在生成式技术越来越广泛应用的情况下。

  OpenAI的邀请涵盖了各个领域的专家,包括语言学、生物识别、金融和医疗保健等多个领域。公司强调了各种专业知识对人工智能评估的重要性,这些知识不仅限于技术领域,还包括认知科学、法律、网络安全、经济学和医疗保健等多个领域。

  OpenAI表示,他们期待通过与红队网络的合作,能够更广泛地进行风险评估,以确保其人工智能系统在未来的应用中更加安全可靠。这一举措表明OpenAI正积极采取措施,以确保人工智能技术的可持续发展与社会责任。

视频入口