Anthropic послаблює обмеження на біологію у Fable 5, але зберігає захисні заходи для вірусології та токсикології

Anthropic приблизно на 85 відсотків скоротила кількість хибнопозитивних спрацьовувань у фільтрах біологічної безпеки Fable 5. Раніше блокувалися майже всі біологічні запити, які перенаправлялися до менш потужної моделі Opus 5, що викликало різку критику з боку науковців. Тепер користувачі можуть виконувати за допомогою Fable 5 значно більше біологічних завдань, зокрема інтерпретувати результати лабораторних досліджень, розуміти симптоми та відповідати на медичні запитання.

Обмеження залишаються для тем «подвійного призначення», таких як вірусологія, токсикологія та молекулярний дизайн, оскільки, за словами Anthropic, Fable 5 може надати зловмисникам можливості, недоступні в інших місцях. Компанія також розробляє програми доступу, щоб дослідники згодом могли користуватися цими обмеженими функціями.

Обґрунтування Anthropic таке: біологічні ризики може бути важче стримувати, ніж кібератаки. Випущений на волю вірус неможливо вимкнути, а розробка контрзаходів потребує часу. Аналіз американських розвідувальних служб, перевірка чатів ChatGPT із запитами щодо інструкцій зі створення біологічної зброї, спільні попередження дослідників та проєкт Стенфордського університету, у межах якого за допомогою ШІ було розроблено повністю синтетичні віруси — усе це свідчить, що загроза реальна, а не є лише черговою проявом тривоги Anthropic.

Новини ШІ без хайпу — добірка від людей

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, повний доступ до архіву та доступ до нашого розділу коментарів.