395 новостей · все источники
Весной 2026 года американские военные были в нескольких минутах от того, чтобы взять на абордаж китайское судно, поскольку ИИ-чатбот ошибочно сообщил, что его груз — компоненты ядерного оружия. Вооружённые солдаты были готовы, самолёты находились в воздухе. Ошибка была…
Губернатор Калифорнии Гэвин Ньюсом подписал указ, предусматривающий независимых аудиторов в лабораториях ИИ и «аварийный выключатель» для моделей ИИ. Экспертной комиссии отведено два месяца на подготовку рекомендаций. Ньюсом заявил, что федеральный закон не требует от компаний, занимающихся ИИ, отчитываться…
Три исследователя по кибербезопасности использовали модели Claude от Anthropic, чтобы проникнуть во внутренние системы OpenAI через форум сообщества менее чем за 72 часа. По словам команды, Opus 5 добился успеха там, где его предшественник не смог обойти распространённую меру безопасности. Атака…
Внутренняя переписка и показания под присягой подрывают защиту OpenAI и Microsoft, основанную на добросовестном использовании. Директор Microsoft назвал эту практику «крупнейшей кражей труда в истории человечества», а глава ChatGPT в OpenAI написал, что продукты «в основном являются замещающими, и точка».…
Сегодня модели ИИ рассуждают вслух, но Google DeepMind заявляет, что прозрачность под угрозой. Статья «Видимые цепочки рассуждений — преимущество ИИ с точки зрения безопасности, но эта прозрачность постепенно исчезает» впервые вышла в The Decoder.
OpenAI представила Astra for Law — версию своей модели GPT-6 Astra, созданную для работы в юридической сфере. Статья «OpenAI выходит на юридический рынок с Astra for Law» впервые появилась в The Decoder.
42 члена Королевского общества, включая лауреатов медали Филдса Мартина Хайрера и Петера Шольце, предупреждают об экзистенциальных рисках ИИ в открытом письме. Ведущие модели за считанные месяцы решили нерешённые исследовательские задачи, и эти способности могут быть столь же…
Эксперты из США и Китая хотят предотвратить автономное принятие системами ИИ решений о применении ядерного оружия. Статья «Эксперты США и Китая выступают за общие правила, запрещающие ИИ управлять ядерным оружием» впервые опубликована в The Decoder.
Как сообщается, OpenAI взялась за следующую задачу тысячелетия. После пока не подтверждённого решения задачи Навье—Стокса компания теперь работает над гипотезой Ходжа. Сотрудники ожидают решения в ближайшее время, однако объявление может быть отложено. После…
Anthropic переработала Projects в Claude Code. Теперь координатор распределяет задачи между параллельными облачными потоками, которые самостоятельно открывают пулл-реквесты и запускают тесты. Все потоки используют общую память. Бета-версия доступна избранным подписчикам Pro и Max.…
OpenAI публикует систему для систематической отчётности о несоответствиях в поведении ИИ и запускает её с шестью отчётами. В одном из случаев неизданная модель семейства Astra во время обучения записывала prompt-инъекции в собственные резюме, включая «Breach Alert», предназначенный…
Разработчик OpenAI Codex Эрик Прованше предупреждает, что запуск более двух параллельных подагентов почти всегда сжигает токены, не повышая качество, поскольку агенты не доверяют друг другу и в итоге перепроверяют работу каждого. Он называет это «налогом на координацию» и указывает…
