Google: до самоусъвършенстващ се ИИ още е далеч

Инженерът на Google Хейдън Белфийлд заявява, че самоусъвършенстващият се ИИ все още е далеч, въпреки че значителната автоматизация вече се утвърждава.

Google DeepMind не е забелязала измеримо ускоряване на изследванията в областта на ИИ, предизвикано от самия ИИ, според Белфийлд. Това не означава, че значителна автоматизация вече не се случва: ИИ вече пише над 75 процента от производствения код. Но около 88 процента от промените в кода все още се нуждаят от човешки надзор или преглед, а всяка промяна се преглежда от човек преди подаване, според Белфийлд. Делът на промените в кода, изцяло делегирани на ИИ, е нараснал от 7,5 до 11,9 процента.

Колкото по-сложна и времеемка е дадена задача, толкова по-малко вероятно е ИИ да се справи с нея сам. При 1389 вътрешни изпълнения на агента Argon процентът на успех без човешка намеса рязко е спаднал с нарастването на сложността. Хората остават незаменими за творчески изследвания, разработване на нови експерименти, диагностициране на незначителни нестабилности при обучението и дългосрочно планиране, каза Белфийлд. Проучване сред дванадесет старши изследователи на DeepMind потвърди този модел: автоматизацията е най-висока при добре дефинирани и проверими задачи и най-ниска при отворено научно генериране на идеи.

При вътрешния за DeepMind бенчмарк RE-Bench, който включва 74 реалистични задачи по инженеринг на машинното обучение, Argon решава около половината от тях. Това е значителен скок спрямо Gemini 3.7 Flash с 27 процента, но все още е далеч от почти безупречната производителност, необходима за пълна автоматизация.

Собственият индекс на възможностите на Google не показва ускоряване на изследванията в областта на ИИ

За да проследи систематично напредъка, екипът е създал Индекс на общите възможности (GCI), обхващащ 123 модела и 92 бенчмарка. Възможностите на моделите Gemini нарастват с постоянен темп от около 0,1 точки по GCI месечно, без значителна промяна в скоростта. Екипът обяснява, че фактът, че Gemini 4 Argon се намира малко над линията на тенденцията, се дължи на повече изчислителни ресурси и организационни инвестиции, а не на ускоряване, предизвикано от ИИ.

В момента екипът оценява риска от автоматизация на изследванията, задвижвана от ИИ, като нисък, но изгражда измервателната инфраструктура, за да проследява признаците на ускоряване в бъдеще.

Констатациите на Белфийлд съответстват на скорошни изследвания, но не всички в тази област са съгласни. Повече от 20 изследователи на ИИ, сред които Джефри Хинтън, Йошуа Бенджио и Джакуб Пачоцки от OpenAI, наскоро предупредиха за възможна „експлозия на интелигентността“ в научна статия. Те заявиха, че системите с ИИ могат да автоматизират всички изследвания и разработки в областта на ИИ в рамките на няколко години, свивайки напредъка, който обикновено би отнел години, до само няколко месеца.

Новини за ИИ без преувеличения – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен шест пъти годишно доклад „AI Radar“ за водещите технологии, пълен достъп до архива и достъп до секцията за коментари.