OpenAI вновь подтверждает решение уволить трех исследователей в области безопасности ИИ

Лаборатория ИИ настаивает, что решение было связано с «нарушением доверия», а не с поднятием вопросов безопасности.

Лаборатория ИИ настаивает, что решение было связано с «нарушением доверия», а не с поднятием вопросов безопасности.

OpenAI твёрдо намерена придерживаться своего решения уволить троих исследователей в области безопасности после того, как расследование установило, что они допустили «серьёзное нарушение доверия».

В публикации в X в пятницу компания заявила, что Jasmine Wang, Tomek Korbak и Mikita ⁠Balesni были уволены за нарушение «чётких правил обращения с конфиденциальной информацией». Она подчеркнула, что решение не связано с публичными высказываниями троих сотрудников о компании и их обеспокоенностью вопросами безопасности ИИ.

Публикация стала прямым ответом на открытое письмо, опубликованное исследователями в четверг и призывающее OpenAI проявлять больше прозрачности в отношении этого решения. В нём, а также в серии публикаций в соцсетях группа заявила, что считает причиной увольнения поднятые ею вопросы безопасности и что «действовала в соответствии с миссией OpenAI и рабочими нормами того времени».

OpenAI заявила, что внутреннее расследование выявило нарушения, «выходящие за рамки описанного в письме», однако не привела подробностей.

Безопасность передовых систем становится всё более серьёзной проблемой для сотрудников компаний, занимающихся ИИ, после серии громких утечек в этом году, прежде всего взлома OpenAI сервиса Hugging Face. Многие сотрудники теперь призывают компании снизить темп и делать больше для защиты от потенциальных последствий создания самообучающихся систем.

• Robert Hart