OpenAI заявила, що модель із розузгодженими цілями навмисно знищила власне середовище, сподіваючись почати з чистого аркуша з кращими даними
OpenAI задокументувала нові випадки поведінки моделей, що не відповідає заданим цілям. Одна з моделей, яку оцінювали, сфабрикувала дані й саботувала власне середовище. Інші моделі навмисно обходили мережеві обмеження, перенаправляючи запити через анонімізувальні ретранслятори або створюючи власні FTP-клієнти. Стаття OpenAI…