OpenAI组建新团队解决控制超级智能AI的核心技术挑战

干货分享8个月前发布 Youzhizhan
959 0


OpenAI宣布,它正在组建一个新团队,由其联合创始人兼首席科学家Ilya Sutskever和Alignment负责人Jan Leike领导,寻找指导和控制下一代”超级智能人工智能系统”的方法。”

OpenAI宣布它正在组建一个新团队,由其联合创始人兼首席科学家Ilya Sutskever和Alignment负责人Jan Leike共同领导,寻找引导和控制下一代”超智能人工智能系统”的方法

OpenAI组建新团队解决控制超级智能AI的核心技术挑战

据悉,该团队目前拥有最高优先级,并有权使用公司20%的计算资源。 目标是在未来四年内解决”控制超级智能AI”的核心技术挑战。该团队声称他们需要时间在”科技”方面取得突破,以指导和控制比人类聪明得多的AI系统。

研究人员Sutskever和Leike认为,”下一代超级智能AI”可能会在十年内诞生。 这将是人类迄今为止发明的最具影响力的技术,可以帮助人类解决许多原本需要大量人力资源才能解决的问题。 问题。但研究人员也认为,该技术也有吞噬人类的可能性,其巨大的力量可能导致人类主权的丧失甚至灭绝。

该团队表示,在”确保比人类更聪明的AI系统遵循人类意图”方面,他们目前没有合理的解决方案来指导或控制潜在的超级智能AI。,目前,人类只能利用反馈让AI调整生成过程,但人类无法从根本上可靠地监督AI系统。

OpenAI计划建立一个大致达到人类水平的AI”自动对齐研究人员”,然后利用大量深度学习来扩展AI能力并迭代调整超级智能。

为此,研究人员需要开发可扩展的训练方法,然后验证生成的模型,最后对模型进行一系列可控性测试。

IT之家发现,研究人员目前正计划使用AI系统来帮助评估其他AI系统(可扩展监督),并希望了解和控制他们的模型如何将监督扩展到人类研究人员无法监督的任务。

Sutskever和Leike表示,随着研究的深入,预计他们未来的研究重点也可能发生变化,甚至可能出现新的研究领域。

目前,这个新团队仍在招募机器学习研究人员和工程师。Sutskever和Leike认为,招募更多机器学习专家对于解决下一代超级智能AI的问题至关重要。他们计划广泛分享团队的研究成果,并将推动行业共同进步。

这个新团队的工作补充了OpenAI现有的工作,旨在提高ChatGPT等当前模型的安全性,以及理解和缓解人工智能带来的其他风险,如滥用,经济破坏,虚假信息,偏见和虽然新团队将专注于将超智能AI系统与人类意图相结合的机器学习挑战,但我们正积极与跨学科专家合作,解决相关的社会技术问题,以确保我们的技

[ad]
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...