Более старые новости
Строгие ограничения Anthropic на доступ из Китая — от геоблокировки до проверки с помощью селфи — систематически обходятся через процветающую сеть так называемых «трансферных станций». Китайские разработчики могут покупать токены Claude всего за десять процентов от розничной цены. Аналитик…
Vercel и Ora запустили Is Agentic — бесплатный инструмент аудита готовности сайтов к ИИ-агентам по 118 проверкам.
В этом руководстве мы рассматриваем, как спроектировать безопасность приложений на базе LLM для продуктивной среды с помощью фреймворка NeMo Guardrails. Мы выходим за рамки простого фильтрования промптов и внедряем многоуровневую архитектуру, включающую детерминированное удаление персональных данных, фильтрацию извлечённого содержимого, маскирование вывода и инструменты на основе политик…
В программе HBS Foundry ИИ-аватары дают обратную связь во время репетиционных презентаций и заседаний совета директоров.
Британская ИИ-лаборатория Inherent, созданная бывшими сотрудниками DeepMind, выпустила Faraday — ИИ-агента, способного воспроизводить научные публикации, что может стать ступенькой к инновациям.
OpenAI призывает Калифорнию усилить SB 53 — законопроект о безопасности ИИ, против которого компания ранее выступала.
Новое исследование показало, что у ведущих лабораторий ИИ почти нет публично задокументированных планов по сдерживанию вышедших из-под контроля моделей, что вызывает вопросы об их готовности, поскольку системы ИИ всё чаще демонстрируют неожиданное и потенциально опасное поведение.
Большинство команд считают главным решением выбор модели. Однако литература по harness-инжинирингу постоянно указывает на другое. В эксперименте LangChain с Terminal-Bench изменение только harness — при использовании одной и той же модели — подняло кодирующего агента примерно с 30-го места в топ-5. Этот результат…
Исследование ученых из Принстонского университета и Калифорнийского университета в Сан-Диего показывает, что так называемые навыки делают ИИ-агентов лучше главным образом благодаря структурированным рабочим процессам, а не дополнительным знаниям. Но по мере роста библиотеки навыков агентам становится все труднее…
RayNeo выпускает новую гарнитуру без камеры и динамиков. Статья «Новые AI-очки RayNeo обходятся без камеры и делают акцент на текстовых наложениях» впервые вышла в The Decoder.
Netflix сравнила свою многолетнюю систему рекомендаций с разработанной внутри компании языковой моделью GenRec и заявила, что получила лучшие результаты. Вместо того чтобы полагаться на тысячи созданных вручную признаков, GenRec преобразует поведение пользователей при просмотре в обычный текст. Сама Netflix называет ее «ранней…
Исследователи из британского Института безопасности ИИ использовали психометрические методы, чтобы показать, что популярные бенчмарки безопасности языковых моделей не измеряют единую устойчивую характеристику. Сплошная блокировка запросов может искусственно завысить показатель безопасности, даже когда модель становится менее…
