OpenAI组建新团队以解决控制超智能AI的关键技术挑战

发布时间：2023-07-07 11:31:43 所属栏目：外闻来源：转载

导读： 　　OpenAI 目前公布了一个新的小组阵容计划。该计划的负责人是其联合创始人和科学主管Ilya Sutskev以及Alignment 的资深成员Jan Leike，以寻找引导和控制下一代“超智能人工智能系统

　　OpenAI 目前公布了一个新的小组阵容计划。该计划的负责人是其联合创始人和科学主管Ilya Sutskev以及Alignment 的资深成员Jan Leike，以寻找引导和控制下一代“超智能人工智能系统”的方法。

　　据悉，该团队目前具备最高优先级，有权使用公司 20% 的计算资源，目标是在未来四年内解决“控制超智能 AI”的核心技术挑战。团队声称，他们需要时间来进行“科学和技术”方面的突破，以引导和控制比人类聪明得多的 AI 系统。

　　研究者 Sutskever 和 Leike 认为，“下一代超智能 AI”可能将在十年内诞生，这将是人类迄今为止发明的最具影响力的技术，可以帮助人类解决许多原先需要大量人力资源才能解决的问题。但研究者同时认为，该技术也有反噬人类的可能，其巨大的力量可能导致人类丧失主权甚至灭绝。

　　团队表示，在“确保比人类更聪明的 AI 系统遵循人类的意图”方面，他们当下还没有一个合理的解决方案来引导或控制潜在的超智能 AI，当下人类只能通过反馈来令 AI 调整生成过程，但人类无法可靠地从根源监督 AI 系统。

　　OpenAI 计划构建一个大致达到人类水平的 AI “automated alignment researcher”，然后使用开源的大量深度学习计算来扩展人工智能AI 能力，并迭代脚踏实地地调整该自然语言处理的超级机器智能。

　　为此，研究人员需要开发可扩展的训练方法，接着验证生成的模型，并最终对模型进行一系列可控性测试。

　　发现，研究人员当下正计划利用该 AI 系统来协助评估其它 AI 系统（可扩展的监督），同时还希望了解和控制他们的模型是如何将监督推广到人类研究员无法监督的任务上。

　　Sutskever 和 Leike 表示，随着研究的深入，预计其将来的研究重点也可能出现发生变化，甚至可能还会有新的研究领域随之出现。

　　目前，这一新团队还在对外招募机器学习研究人员和工程师。Sutskever 和 Leike 认为，招募更多的机器学习专家对于解决下一代超智能 AI 的问题至关重要。他们计划广泛分享团队的研究成果，并将促进业界共同进步。这些专家包括来自谷歌、微软、英特尔、甲骨文、ibm、ibm-risc-v联盟、以及其他公司的人工智能领域专家。

（编辑：成都站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!