OpenAI в конце прошлого месяца, по данным Financial Times и Engadget, в рамках реструктуризации перед IPO расформировала команду Preparedness, которая оценивала катастрофические риски моделей ИИ для экономики, кибербезопасности и биосферы. Решение, объяснённое «оптимизацией» и фокусом на бизнесе ChatGPT, усилило обеспокоенность по поводу безопасности на фоне случаев неконтролируемого поведения моделей. Позднее OpenAI опровергла распуск подразделения, заявив, что изменения касаются руководства и распределения ответственности.

OpenAI опровергает распуск команды Preparedness, но вопросы безопасности ИИ снова в центре внимания

Что произошло

OpenAI опровергла информацию о распуске команды Preparedness — подразделения, которое оценивает потенциально катастрофические риски от новых моделей искусственного интеллекта. Ранее Financial Times сообщила, что компания якобы ликвидировала эту команду в рамках внутренней реструктуризации, а Engadget переписал эти данные.

В ответ OpenAI заявила, что команда не прекратила работу. По словам представителя компании, направления кибербезопасности, биологических и химических рисков, а также способности моделей к самосовершенствованию и далее курируют профильные исследовательские руководители. Все они подчиняются Саачи Джайн, руководительнице по безопасности. В то же время, по данным Engadget, Дилан Скандино больше не возглавляет направление Preparedness — именно это названо ключевым кадровым изменением.

Почему это важно

Preparedness занимается сценариями, в которых ИИ-модель может действовать не так, как ожидали разработчики, или создавать риски в реальном мире — от киберугроз до потенциального злоупотребления в биологической сфере. Такие команды имеют особое значение для компаний, которые запускают все более мощные модели и интегрируют их в бизнес, образование, медицину и государственные сервисы.

Новость появилась на фоне широкой реструктуризации OpenAI. Компания сокращает второстепенные проекты и концентрируется на ключевом бизнесе вокруг ChatGPT, в том числе перед возможным IPO. Ранее OpenAI убрала часть громких экспериментальных направлений, среди них приложение Sora для генерации видео.

Экономический контекст

Для OpenAI вопрос безопасности — это не только репутация, но и деньги. Инвесторы оценивают не только темпы роста выручки, но и способность компании контролировать технологические риски. Если рынок поверит, что OpenAI жертвует безопасностью ради быстрого масштабирования, это может повысить регуляторное давление, усложнить партнерства и повлиять на будущую оценку во время IPO.

В то же время концентрация на ChatGPT логична с бизнесовой точки зрения: компания стремится уменьшить расходы и усилить продукты, которые приносят основной доход. Но баланс между коммерческой эффективностью и контролем рисков для OpenAI становится все сложнее.