Лауреат медалі Філдса, який опублікував статтю про спричинене ШІ зникнення людства, тепер працює в OpenAI

Джейкоб Цимерман, нещодавно нагороджений медаллю Філдса, приєднується до OpenAI, щоб працювати над безпекою ШІ. Теоретик чисел із Торонтського університету заявив, що ШІ є надзвичайно трансформаційною технологією, а суспільству потрібно докладати набагато більше зусиль для забезпечення безпеки. На його думку, математики можуть зробити значний внесок, оскільки ШІ досі працює переважно на емпіричній основі, і існує мало гарантій щодо того, як саме ці системи функціонують.

Минулого року Цимерман також опублікував статтю про «події омніциду» — сценарії, за яких ШІ може сприяти вимиранню людства. Серед експертів це питання залишається дискусійним. Паніка — не найкраща реакція, але нам потрібно чесно оцінювати ризики, сказав Цимерман. Він переконаний, що невдовзі ШІ перевершить людей у математичних дослідженнях.

Колишній генеральний директор DeepMind Деміс Хассабіс також висловився щодо останніх досягнень ШІ в математиці. Він вважає їх прогресом, але ще не фундаментальним проривом на кшталт легендарного «ходу 37» AlphaGo від DeepMind. Для цього ШІ мав би розв’язати такі задачі, як проблеми тисячоліття. Нова модель OpenAI, Astra, також не впоралася з ними, але, можливо, це лише питання часу. «Я не бачу жодних причин, чому цього не станеться», — каже він.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.