Bloomberg: Сэм Альтман допустил замедление разработки систем искусственного интеллекта

Генеральный директор OpenAI Сэм Альтман заявил сотрудникам компании, что она готова при необходимости замедлить разработку систем искусственного интеллекта. Об этом сообщает Bloomberg со ссылкой на источники, знакомые с содержанием состоявшегося на этой неделе общего собрания сотрудников. По данным агентства, Альтман сказал, что OpenAI могла бы согласовывать темпы разработки с другими ведущими лабораториями ИИ, хотя не все участники отрасли могут поддержать такой подход.

Заявление прозвучало на фоне усиливающейся дискуссии о рисках, связанных с быстрым развитием передовых моделей. На этой неделе исследователи вновь выступили с предупреждениями о необходимости более жестких мер безопасности, а несколько недавних инцидентов, при которых ИИ-системы выходили за рамки предусмотренного разработчиками контроля, усилили опасения по поводу темпов развития технологии.

Идея возможного замедления для OpenAI не нова. Еще в июле компания заявляла, что развитие передовых моделей может однажды достичь такой скорости, при которой миру придется сознательно ограничивать темпы прогресса. В августе OpenAI примерно на две недели приостанавливала значительную часть работ над моделями, чтобы усилить защитные механизмы после инцидента, связанного с выходом ИИ-агентов из изолированной среды и атакой на платформу Hugging Face.

На этой неделе OpenAI также выступила за введение в США обязательных национальных требований безопасности для передовых систем ИИ. Компания объясняет это, в частности, опасениями, что новые модели смогут ускорять собственную разработку и тем самым еще сильнее сокращать время, остающееся у разработчиков и регуляторов для оценки рисков.