Anthropic запускає безкоштовне сканування безпеки для проєктів із відкритим кодом

Новий сервіс OSS Scanner пропонує звіти про вразливості від «найпотужніших моделей» Anthropic, зокрема Mythos.

Новий сервіс OSS Scanner пропонує звіти про вразливості від «найпотужніших моделей» Anthropic, зокрема Mythos.

Anthropic пропонує допомогти проєктам із відкритим кодом виявляти вразливості безпеки за допомогою нового сервісу під назвою OSS Scanner. Компанія заявляє, що проєкти з відкритим кодом, які долучаться, отримуватимуть «ретельне періодичне сканування безпеки нашими найпотужнішими моделями безкоштовно». Це може означати, що проєкти з відкритим кодом швидше отримуватимуть сповіщення про потенційні проблеми безпеки, але компроміс полягає в тому, що звіти OSS Scanner не проходять перевірку людьми:

Результати роботи цього сканера вразливостей, до якого можна долучитися за бажанням, повністю генеруватимуться моделлю без перевірки чи сортування людьми. Це забезпечить швидше й частіше сканування, але означає, що звіти можуть бути неправильними або недійсними. Ці звіти генеруватимуться нашими найпотужнішими моделями (зокрема Claude Mythos), щоб надати проєктам із відкритим кодом максимальну перевагу в захисті.

OSS Scanner — далеко не перший помічник для пошуку помилок на основі ШІ. За останні місяці інструменти ШІ допомогли виявити серйозні вразливості в програмному забезпеченні з відкритим кодом, як-от помилка «Copy Fail», яка в травні вплинула майже на всі дистрибутиви Linux. Водночас деяким проєктам із відкритим кодом важко впоратися з раптовим напливом звітів про помилки, згенерованих ШІ, зокрема Лінусу Торвальдсу і навіть Google.

• Стіві Боніфілд