OpenAI, компания, стоящая за разработкой чат-бота ChatGPT, сформировала новую команду под руководством Ильи Суцкевера.

Она должна заняться проблемой управления «сверхинтеллектуальными» системами искусственного интеллекта. В сообщении, опубликованном Суцкевером и Яном Лейке, руководителем «группы по согласованию» в OpenAI, отмечается, что ИИ, превосходящий человеческий интеллект, может появиться в ближайшие десятилетия.

Они подчёркивают необходимость исследования способов контроля и ограничения таких систем, чтобы обеспечить их безопасность и этичность.

Команда Superalignment получит доступ к значительным вычислительным ресурсам OpenAI и будет работать над решением технических проблем управления сверхинтеллектуальным ИИ в течение следующих четырёх лет.

Одной из основных задач команды будет разработка «автоматического исследователя согласования на человеческом уровне», который обучит ИИ оценивать другие системы ИИ и проводить исследования в области согласованности.

OpenAI предполагает, что ИИ может справиться с этой задачей более эффективно и продуктивно, чем люди.

Источник: Ferra