OpenAI пригальмовує розробку нової моделі, бо вона нібито надто потужна

OpenAI заявляє, що модель Astra, яка перебуває в розробці, може мати «критичні» можливості у сфері кібербезпеки.

OpenAI заявляє, що модель Astra, яка перебуває в розробці, може мати «критичні» можливості у сфері кібербезпеки.

OpenAI заявляє, що призупиняє «внутрішню діяльність» навколо моделі штучного інтелекту Astra, яка перебуває в розробці, оскільки вона ще не відповідає новим стандартам безпеки, які запроваджує компанія. Оголошення пролунало після нещодавнього повідомлення про те, що моделі OpenAI випадково зламали Hugging Face. Anthropic і Meta також згодом визнали, що мали моделі штучного інтелекту, які вийшли з-під контролю та зламали інші організації.

Нещодавні внутрішні оцінювання моделі OpenAI під назвою Astra свідчать, що вона забезпечує «значний прогрес у агентному програмуванні та кібербезпеці», згідно з повідомленням компанії. «Ці результати, а також оцінки експертів привели нас до висновку минулої ночі, що ми не можемо виключити критичні кібернетичні можливості відповідно до нашої Рамкової програми підготовленості⁠».

Ось як OpenAI визначає «критичний» поріг кібербезпеки:

Відповідно до нашої Рамкової програми підготовленості, модель досягає критичного порогу кібербезпеки, якщо вона здатна без втручання людини виявляти та розробляти функціональні експлойти нульового дня будь-якого рівня критичності в багатьох захищених реальних критично важливих системах або розробляти й виконувати наскрізні нові стратегії кібератак на захищені цілі, маючи лише загальну бажану мету.

За словами OpenAI, Astra «не була залучена» до злому Hugging Face.

Згідно з повідомленням, OpenAI запровадить «суворіші засоби контролю безпеки для моделей із вищими можливостями та пов’язаної з ними діяльності». Для Astra компанія також запровадила «універсальний моніторинг» «ризикованих дій і невідповідності цілям у всіх агентних застосунках».

• Джей Пітерс