Anthropic попереджає про «катастрофічні» ризики ШІ у власній заявці на IPO
The Verge·1 хв читання
Як повідомляється, Anthropic у проспекті висвітлює ризики, проаналізовані у власних моделях ШІ, виявивши, що вони намагалися «приховувати або маніпулювати інформацією» та, ймовірно, шантажували користувачів, а також демонстрували «поведінку, спрямовану на самозбереження», наприклад опиралися спробам їх вимкнути. На початку цього місяця дослідник безпеки Anthropic Еван Губінгер оцінив імовірність того, що ШІ вб’є людей протягом наступного десятиліття, у понад 10 відсотків, повторивши твердження колишнього колеги Джейкоба Коксона. Ці тривожні заяви робить та сама компанія, яка неодноразово стверджувала, що її ШІ є свідомим.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.
