Google: до самовдосконалюваного ШІ ще дуже далеко

Інженер Google Гейдн Белфілд каже, що до самовдосконалювального ШІ ще далеко, навіть попри те, що значна автоматизація вже набирає обертів.

За словами Белфілда, Google DeepMind не зафіксувала вимірюваного прискорення досліджень у сфері ШІ, спричиненого самим ШІ. Це не означає, що значна автоматизація вже не відбувається: тепер ШІ пише понад 75 відсотків виробничого коду. Але близько 88 відсотків змін у коді все ще потребують нагляду або перевірки людини, і кожну зміну перед поданням перевіряє людина, за словами Белфілда. Частка змін у коді, повністю делегованих ШІ, зросла з 7,5 до 11,9 відсотка.

Що складнішим і тривалішим стає завдання, то менш імовірно, що ШІ впорається з ним самостійно. У 1389 внутрішніх запусках агентів Argon рівень успішності без участі людини різко знижувався зі зростанням складності. Люди залишаються незамінними для творчих досліджень, розробки нових експериментів, діагностики непомітних нестабільностей навчання та довгострокового планування, сказав Белфілд. Опитування дванадцяти старших дослідників DeepMind підтвердило цю закономірність: автоматизація була найвищою для чітко визначених і перевірюваних завдань, а найнижчою — для відкритої наукової генерації ідей.

На внутрішньому бенчмарку DeepMind RE-Bench, який містить 74 реалістичні завдання з інженерії машинного навчання, Argon розв’язує близько половини з них. Це значний стрибок порівняно з 27 відсотками Gemini 3.7 Flash, але все ще далеко від майже бездоганної ефективності, якої потребувала б повна автоматизація.

Власний індекс можливостей Google не показує прискорення досліджень у сфері ШІ

Щоб систематично відстежувати прогрес, команда створила індекс загальних можливостей (GCI), що охоплює 123 моделі та 92 бенчмарки. Можливості моделей Gemini зростають стабільними темпами — приблизно на 0,1 бала GCI на місяць, без істотних змін у швидкості. Команда пояснює, що Gemini 4 Argon опинилася трохи вище лінії тренду більшими обчислювальними потужностями та організаційними інвестиціями, а не прискоренням, зумовленим ШІ.

Наразі команда оцінює ризик автоматизації досліджень під керуванням ШІ як низький, але створює інфраструктуру для вимірювань, щоб надалі відстежувати ознаки прискорення.

Висновки Белфілда узгоджуються з нещодавніми дослідженнями, але не всі представники галузі з цим погоджуються. Нещодавно понад 20 дослідників ШІ, зокрема Джеффрі Гінтон, Йошуа Бенжіо та Якуб Пачоцький з OpenAI, попередили про можливий «вибух інтелекту» у науковій статті. Вони стверджували, що протягом кількох років системи ШІ зможуть автоматизувати всі дослідження та розробки у сфері ШІ, стиснувши прогрес, який зазвичай займає роки, до кількох місяців.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.