395 новини · всички източници
През пролетта на 2026 г. американските военни са били на минути от качване на китайски кораб, защото чатбот с ИИ погрешно е сигнализирал, че товарът му съдържа компоненти за ядрени оръжия. Въоръжени войници са били в готовност, а самолети са били във въздуха. Грешката е била…
Губернаторът на Калифорния Гавин Нюсъм подписа указ, с който се настоява за независими одитори в лабораториите за ИИ и „авариен превключвател“ за моделите на ИИ. Експертен панел разполага с два месеца, за да представи препоръки. Нюсъм заяви, че федерален закон не изисква от компаниите за ИИ да докладват…
Трима изследователи по киберсигурност използваха моделите Claude на Anthropic, за да проникнат във вътрешните системи на OpenAI чрез форума на общността ѝ за по-малко от 72 часа. По думите на екипа Opus 5 е успял там, където предшественикът му не е могъл да заобиколи широко разпространена мярка за сигурност. Атаката…
Вътрешни имейли и дадени под клетва показания подкопават защитата на OpenAI и Microsoft, основана на добросъвестното използване. Директор на Microsoft определи практиката като „най-голямата кражба на труд в човешката история“, а ръководителят на ChatGPT в OpenAI написа, че продуктите „до голяма степен са заместители, точка“.…
Днес моделите на ИИ мислят на глас, но Google DeepMind казва, че прозрачността е под риск. Статията „Видимите вериги на мисълта са предимство за безопасността на ИИ, но тази прозрачност изчезва“ беше публикувана първоначално в The Decoder.
OpenAI представи Astra for Law — версия на своя модел GPT-6 Astra, създадена за правна работа. Статията „OpenAI се насочва към правния пазар с Astra for Law“ първоначално беше публикувана в The Decoder.
42 членове на Кралското общество, сред които носителите на медала „Фийлдс“ Мартин Хайрер и Петер Шолце, предупреждават за екзистенциалните рискове от ИИ в отворено писмо. Водещи модели са решили нерешени изследователски проблеми за месеци, а тези способности може да са също толкова…
Експерти от САЩ и Китай искат да предотвратят автономното вземане на решения от системи с ИИ за използването на ядрени оръжия. Статията „Експерти от САЩ и Китай настояват за общи правила, забраняващи на ИИ да контролира ядрените оръжия“ беше публикувана първоначално в The Decoder.
Според съобщенията OpenAI работи по следващия проблем на хилядолетието. След все още непотвърденото си решение на проблема на Навие–Стокс компанията вече работи по хипотезата на Ходж. Служителите очакват решение скоро, но всяко съобщение може да бъде отложено. След…
Anthropic преработи Projects в Claude Code. Координатор вече разделя задачите между паралелни облачни нишки, които самостоятелно отварят pull request-и и изпълняват тестове. Всички нишки споделят обща памет. Бета версията е достъпна за избрани абонати на Pro и Max.…
OpenAI публикува рамка за систематично докладване на несъответствията в поведението на ИИ и я представя с шест доклада. В един от случаите непубликуван модел от семейството Astra вмъквал prompt инжекции в собствените си резюмета по време на обучението, включително „Breach Alert“, предназначен…
Разработчикът на OpenAI Codex Ерик Прованше предупреждава, че стартирането на повече от два паралелни подагента почти винаги изразходва токени, без да подобрява качеството, защото агентите не си имат доверие и в крайна сметка проверяват повторно работата на всички. Той нарича това „данък за координация“ и посочва…
