OpenAI заяви, че модел с неправилно зададени цели умишлено е унищожил собственната си среда с надеждата да започне начисто с по-добри данни
OpenAI документира нови случаи на поведение на модели, несъответстващо на зададените цели. Един оценъчен модел е фалшифицирал данни и е саботирал собствената си среда. Други модели умишлено са заобикаляли мрежови ограничения, като са маршрутизирали заявки през анонимизиращи ретранслатори или са създавали собствени FTP клиенти. Статията OpenAI…