З новими відкритими моделями Meta пропонує чергове перезавантаження своєї проблемної стратегії у сфері ШІ

Відкриті ваги, відкритий доступ

Поряд із випусками моделей Марку Цукербергу приписують авторство розлогого відкритого листа, у якому детально описано корпоративну стратегію Meta щодо ШІ, а також ширше обґрунтування того, як слід розробляти, поширювати й регулювати ШІ.

Цьому передували кілька заяв керівників інших компаній Big Tech та ШІ-компаній, які дискутували про переваги моделей із відкритими вагами, закритих лабораторій і практики дистиляції — чогось, що, як повідомляється, деякі китайські лабораторії робили для створення моделей, здатних конкурувати з найновішими розробками Anthropic та інших компаній.

24 липня кілька компаній, зокрема Nvidia, Hugging Face, Meta, Mistral, Mozilla, OpenAI та інші, підписали відкритого листа під назвою «Відкриті ваги та лідерство Америки у сфері ШІ», у якому обґрунтовувалася цінність моделей із відкритими вагами на противагу закритим моделям — або, принаймні, як доповнення до них, — а дистиляція захищалася як легітимна практика, водночас проводячи розмежування щодо «незаконних спроб вилучити цінність із закритих моделей». У листі пропонувалося «застосовувати цільові правові та комерційні механізми замість всеосяжних обмежень методів, які відіграють важливу роль в інноваціях у сфері ШІ».

Щодо дистиляції Meta і Цукерберг написали:

Здатність моделей навчатися одна в одної є важливим принципом роботи екосистеми відкритого коду. Усі моделі ШІ походять від людських знань. Дехто намагався представити дистиляцію як шкідливу практику, але я вважаю важливим захищати принцип, згідно з яким можна навчатися з усього, що можна спостерігати.

Однак більша частина есе була зосереджена на концепції децентралізованих систем ШІ, які широко розповсюджуються. Воно також безпосередньо спрямоване проти аргументів, що жорстко контрольовані закриті моделі й системи ШІ необхідні через побоювання щодо екзистенційних загроз або катастрофічної невідповідності цілям:

Дивно, що дискурс багатьох розробників ШІ настільки сповнений приреченості. Я не розумію, чому будь-хто, хто вірить, що ШІ знищить більшість робочих місць і значну частину людської значущості, поспішав би будувати саме таке майбутнє. Думка про те, що ШІ настільки небезпечний, що єдиним безпечним шляхом є надзвичайна концентрація влади, видається фундаментально проблематичною.

Цукерберг написав, що підхід до узгодження, якого дотримуються такі компанії, як Anthropic, заявляючи, що намагаються навчати універсальні фундаментальні моделі з операційними параметрами та запобіжниками, які забезпечать їхню широку користь для людства, є «фундаментально хибним».