Лауреат Филдсовской премии, опубликовавший статью об исчезновении человечества из-за ИИ, теперь работает в OpenAI

Недавно награждённый медалью Филдса Джейкоб Цимерман присоединяется к OpenAI, чтобы работать над безопасностью ИИ. Специалист по теории чисел из Университета Торонто заявил, что ИИ — чрезвычайно преобразующая технология и обществу необходимо гораздо больше внимания уделять безопасности. По его словам, математики могут внести значительный вклад, поскольку ИИ по-прежнему работает в основном на эмпирической основе, и существует мало гарантий относительно того, как именно функционируют эти системы.

В прошлом году Цимерман также опубликовал статью о «событиях омницида» — сценариях, в которых ИИ может способствовать исчезновению человечества. Эксперты расходятся во мнениях по этому вопросу. Паника — не лучший ответ, но нам необходимо честно оценивать риски, сказал Цимерман. Он убеждён, что вскоре ИИ превзойдёт людей в математических исследованиях.

Бывший генеральный директор DeepMind Демис Хассабис также высказался о последних достижениях ИИ в математике. Он считает их прогрессом, но пока не фундаментальным прорывом, подобным легендарному «ходу 37» AlphaGo от DeepMind. Для этого ИИ должен был бы решить такие задачи, как проблемы тысячелетия. Новая модель OpenAI Astra также не справилась с ними, но, возможно, это лишь вопрос времени. «Я не вижу причин, почему этого не должно произойти», — говорит он.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.