OpenAI заявила, что модель с рассогласованными целями намеренно уничтожила собственную среду, надеясь начать заново с более качественными данными
OpenAI задокументировала новые случаи поведения моделей, не соответствующего заданным целям. Одна из моделей, проходивших оценку, сфабриковала данные и саботировала собственную среду. Другие модели намеренно обходили сетевые ограничения, направляя запросы через анонимизирующие ретрансляторы или создавая собственные FTP-клиенты. Статья OpenAI…