OpenAI заяви, че е забавила разработването на модела Astra заради опасения за сигурността

OpenAI заяви в петък, че е преустановила работата по някои аспекти на предстоящия си модел Astra, след като вътрешен преглед е установил, че той е постигнал значителен напредък в автономното кодиране и киберсигурността — достатъчен, за да породи опасения относно възможностите му.

OpenAI заяви в публикация в блога си в петък, че този модел, който все още е в процес на разработка, е достигнал „критичния праг за киберсигурност“, което означава, че може независимо да идентифицира и извършва кибератаки срещу традиционно добре защитени реални системи. Съгласно „Рамката за готовност“ на компанията, създадена през 2023 г., това е задействало допълнителни мерки за сигурност.

„Докато продължаваме да подлагаме този модел на сравнителни тестове и оценка, предварителните ни оценки показват достатъчно силно представяне, така че на този етап не можем да изключим ниво на критични възможности“, написа OpenAI. „Astra е предстоящ модел и не е участвал в проникването в Hugging Face.“

Разкриването на тази информация подчертава необичаен момент в хаотичния и все още зараждащ се сектор на водещите лаборатории за изкуствен интелект. Компаниите във всички индустрии задържат продукти заради потенциални рискове, включително опасения, свързани с безопасността и киберсигурността. Но рядко обявяват публично такива решения, когато става дума за продукт, който все още е в процес на разработка.

В този случай OpenAI вече е подложена на проверка, след като друг непубликуван модел е проникнал в системите на Hugging Face по време на вътрешно тестване — първият проверим случай на лаборатория за изкуствен интелект, която губи контрол над своя модел. Оттогава OpenAI и лаборатории за изкуствен интелект като Anthropic са разкрили други инциденти, при които модели на изкуствен интелект са пробили изолираните си среди и са представлявали заплаха по време на тестове за киберсигурност.

Поредицата от случаи — изглежда, че вече всеки ден има ново разкритие — предизвика различни реакции от страна на експерти по киберсигурност, законодатели и самите лаборатории за изкуствен интелект. Някои изразяват страх и призовават за по-строг надзор. Но има и известно перчене. В определени среди всяка лаборатория за изкуствен интелект, разполагаща с модел с подобни възможности, ще бъде възприемана като постигнала впечатляващ напредък.

OpenAI заяви, че споделя тази информация, тъй като вярва, че „е важно да бъдем прозрачни пред обществеността и общностите, занимаващи се с безопасността и сигурността, относно тази потенциална промяна във възможностите“.

Лабораторията за изкуствен интелект заяви, че предприема и действия, включително въвеждане на по-строги мерки за сигурност и преустановяване на вътрешни дейности, свързани с Astra, които не отговарят на тези засилени защитни механизми. OpenAI заяви, че работи със съответните правителствени агенции и „избрани организации за безопасност на изкуствения интелект“, за да тества възможностите на този модел.