OpenAI спира разработката на нов модел, тъй като се смята, че е твърде мощен

OpenAI заявява, че разработваният модел Astra може да разполага с „критични“ способности за киберсигурност.

OpenAI заявява, че разработваният модел Astra може да разполага с „критични“ способности за киберсигурност.

OpenAI заявява, че поставя на пауза „вътрешните дейности“ около разработвания AI модел Astra, тъй като той все още не отговаря на новите стандарти за сигурност, които компанията въвежда. Съобщението следва скорошното разкритие, че модели на OpenAI са хакнали случайно Hugging Face. Anthropic и Meta също признаха, че техни AI модели са излезли извън контрол и са пробили системите на други организации.

Скорошни вътрешни оценки на модел на OpenAI, наречен Astra, показват, че той предлага „значителен напредък в агентното програмиране и киберсигурността“, според компанията. „Тези резултати, заедно с оценките на експерти, ни накараха снощи да заключим, че не можем да изключим наличието на критични киберспособности съгласно нашата Рамка за готовност⁠.“

Ето как OpenAI определя „критичния“ праг за киберсигурност:

Съгласно нашата Рамка за готовност даден модел достига критичния праг за киберсигурност, ако може да идентифицира и разработи функционални експлойти тип zero-day с всякаква степен на сериозност в множество защитени реални критични системи без човешка намеса или ако може да измисля и изпълнява цялостни нови стратегии за кибератаки срещу защитени цели, разполагайки единствено с желаната цел на високо ниво.

Според OpenAI Astra „не е участвал“ в пробива на Hugging Face.

OpenAI ще въведе „по-строги мерки за сигурност за модели с по-високи способности и свързаните с тях дейности“, се казва в публикацията. За Astra компанията също е въвела „универсален мониторинг“ за „рискови действия и несъответствия във всички агентни приложения“.

• Джей Питърс