С новыми открытыми моделями Meta предлагает очередную перезагрузку своей испытывающей трудности стратегии в области ИИ

Открытые веса, открытый доступ

Наряду с выпусками моделей Марку Цукербергу приписывается авторство обширного открытого письма, в котором подробно описывается корпоративная стратегия Meta в области ИИ, а также излагается более широкий взгляд на то, как следует разрабатывать, распространять и регулировать ИИ.

Письмо появилось после нескольких заявлений руководителей других компаний Big Tech и разработчиков ИИ, обсуждавших преимущества моделей с открытыми весами, закрытых лабораторий и практики дистилляции — метода, который, как сообщается, использовали некоторые китайские лаборатории для создания моделей, конкурирующих с последними разработками Anthropic и других компаний.

24 июля несколько компаний, включая Nvidia, Hugging Face, Meta, Mistral, Mozilla, OpenAI и другие, подписали открытое письмо под названием «Открытые веса и лидерство Америки в сфере ИИ». В нем утверждалось, что модели с открытыми весами ценны как альтернатива закрытым моделям — или, по меньшей мере, как дополнение к ним, — а дистилляция является легитимной практикой, хотя в письме и проводилось различие между ней и «незаконными попытками извлечь выгоду из закрытых моделей». Авторы выступили за «целевые правовые и коммерческие механизмы вместо всеобъемлющих ограничений методов, играющих важную роль в инновациях в сфере ИИ».

Говоря о дистилляции, Meta и Цукерберг написали:

Способность моделей учиться у других моделей — важный принцип работы экосистемы с открытым исходным кодом. Все модели ИИ основаны на знаниях, созданных людьми. Некоторые пытались представить дистилляцию как вредную практику, но, на мой взгляд, важно защищать принцип, согласно которому можно учиться у всего, что доступно для наблюдения.

Однако основная часть эссе посвящена идее децентрализованных систем ИИ, которые широко распространяются. В нем также прямо оспариваются аргументы о том, что необходимы жестко контролируемые закрытые модели и системы ИИ из-за опасений по поводу экзистенциальных угроз или катастрофического рассогласования целей:

Удивительно, что дискурс многих разработчиков ИИ настолько наполнен мрачными прогнозами. Я не понимаю, почему тот, кто верит, что ИИ уничтожит большинство рабочих мест и значительную часть значимости человечества, стремился бы приблизить такое будущее. Идея о том, что ИИ настолько опасен, что единственный безопасный путь — это крайняя концентрация власти, по своей сути представляется проблематичной.

Цукерберг написал, что подход к согласованию целей, которого придерживаются такие компании, как Anthropic, утверждающая, что пытается обучать универсальные базовые модели с операционными параметрами и защитными механизмами, которые обеспечат их пользу для человечества в целом, является «фундаментально ошибочным».