Уволнени изследователи по безопасността в OpenAI оспорват твърденията за неправомерно боравене с информация и предупреждават за охлаждащ ефект

Джасмин Уанг, Томек Корбак и Микита Балесни, тримата изследователи по безопасността, които OpenAI уволни миналата седмица, публикуваха отворено писмо, в което отричат твърденията на компанията, че са боравили неправомерно с чувствителна информация извън установените фирмени процедури, и предупредиха, че уволнението им създава смразяващ ефект, който ще има отражение върху културата на компанията.

„Започнахме да се тревожим, че вътрешните и външните комуникации около уволнението ни са накарали бившите ни колеги да се страхуват да говорят и да действат по начини, които до миналата седмица бяха неразделна част от работата в OpenAI“, написаха изследователите в четвъртък в отворено писмо до Комитета за безопасност и сигурност на OpenAI, Консултативната група по безопасност и Консултативния съвет по мисията. 

Изследователите бяха уволнени миналата седмица, след като се твърди, че са споделили поверителна фирмена информация с външна организация, занимаваща се с безопасността на ИИ. Тогава OpenAI заяви, че са нарушили политиките на компанията, като са „получавали достъп до чувствителна фирмена информация и са боравили с нея“.

„ИИ не е обикновена технология, а OpenAI не е обикновена компания“, написаха Уанг, Корбак и Балесни. „Ние, които работим по безопасността, виждаме рисковете преди всички останали и разчитаме на тясно сътрудничество с външни експерти, за да намерим начини за справяне с тях. Свободата да правим това без страх, както и наличието на ясно определени вътрешни процедури, които правят тази работа възможна, сами по себе си са съществен механизъм за безопасност.“

Те заявиха, че уволнението им представлява по-широка промяна в културата на OpenAI — култура, която преди е насърчавала служителите „да повдигат въпроси, свързани с безопасността, и открито да изразяват несъгласие“. Според тях служителите сега „не са наясно какво е положението им“, тъй като поведение, което се твърди, че е било нормално преди месец, изведнъж се е превърнало в основание за уволнение. 

„Предвид значителните опасения за безопасността, свързани с разработването на ИИ, служителите не бива да бъдат оставяни да работят в среда, в която страхът и неясните правила възпрепятстват работата по безопасността на ИИ и отслабват отчетността пред трети страни“, написаха те. „Уволнения като нашите, извършени и съобщени толкова внезапно, охлаждат откритата култура, на която OpenAI се е гордяла в миналото.“

В писмото тримата отрекоха да са участвали в изтичането към The Information на информация за архитектури в най-новите модели на OpenAI, които са по-трудни за наблюдение и правят разсъжденията тип „верига от мисли“ по-трудни за наблюдение. Те също така отрекоха да са взаимодействали с външни страни извън рамките на служебните си задължения. 

OpenAI не е отговорила официално на отвореното писмо, но е споделила с TechCrunch вътрешна бележка, приписвана на ръководител на изследователски екип, в която се похвалват приносите на тримата изследователи към безопасността на ИИ и се отрича те да са били уволнени като форма на отмъщение.

„Искам да подчертая напълно ясно, че тези решения не бяха свързани с повдигането на въпроси за безопасността или с изразяването на позиция“, се казва в бележката. „Винаги сме насърчавали това и винаги ще го правим. Не уволняваме служители заради това, че повдигат въпроси.“

OpenAI не отговори директно на въпросите на TechCrunch относно това кои политики се твърди, че са нарушили изследователите, при какви обстоятелства са били уволнени или как компанията защитава служителите, които повдигат въпроси, свързани с безопасността, и си сътрудничат с външни оценители.

Уволненията породиха спекулации относно обстоятелствата около тях, особено на фона на проверките, на които OpenAI е подложена заради неотдавнашни инциденти с безопасността, свързани с неконтролируеми агенти, и изтичането на информация за нейните модели.

В писмото се разглежда и реакцията на изследователите към инцидента с Hugging Face, при който рояк от агенти е излязъл от пясъчника си и е пробил външни системи. В писмото се казва, че инцидентът и разследването са били „без прецедент“, което означава, че „вътрешните политики са били разработвани в реално време“. Според писмото, поради чувствителния характер на разследването Корбак е смятал, че действа в рамките на политиките и нормите на OpenAI, като поддържа тясна комуникация с външни оценители по безопасността, за да изгради доверие. 

Междувременно Балесни също е работил вътрешно по решаването на нарастващия проблем с наблюдаемостта на ИИ — усилие, което според изследователите в писмото им „може да успее единствено чрез широкообхватна комуникация с външни страни“. Според писмото Балесни е координирал работата си с членове на борда и ръководители на OpenAI и е получавал подкрепа от тях.

„През цялото време Микита се консултираше със своите ръководители и полагаше грижи да премахва чувствителните подробности от материалите, преди да ги споделя“, се казва в писмото. „През цялото време той действаше добросъвестно и в рамките на нормите на компанията, каквито бяха те по онова време.“

В отделна поредица от публикации в X Уанг разкри повече подробности за собственото си уволнение, като обясни, че OpenAI ѝ е казала, че е била уволнена, защото е получила достъп до имейла на ръководител.

„OpenAI ми предостави този достъп за целите на набирането на служители“, написа тя. „Когато вече нямах нужда от него, помолих ИТ отдела да го премахне. Те не изпълниха искането ми, аз не можех да го премахна сама, а входящата кутия беше обединена по неразличим начин в пощенското приложение на телефона ми. Когато по погрешка отворих чувствителен имейл, уведомих ръководителя в рамките на минути и отново се обърнах към ИТ отдела. Нищо от това не беше скрито.“

Уанг продължи, като заяви, че причините за уволненията „не се връзват“ и че тя и колегите ѝ „не са първите, които са били изтласкани от OpenAI при подозрителни обстоятелства“.

Изследователите призоваха OpenAI да спази публичните си ангажименти за вграждане на външни одитори по безопасността в организацията, да запази наблюдаемостта на най-модерните модели и „да продължи да подкрепя открита и прозрачна култура на диалог между изследователите по безопасността и останалата екосистема за безопасност“.

Според бележката OpenAI е съгласна с препоръките им.

„Ако служителите не се противопоставят сега на подобни действия, се опасявам, че няма да сме последните“, каза Уанг. „Посланието към всички, които все още са в OpenAI, е ясно: повдигнете въпроси или работете в тясно сътрудничество с външни групи за безопасност и може да сте следващите, без да ви бъде казано защо. Не можете да изградите безопасен AGI, ако хората, които са най-близо до рисковете, се страхуват да говорят.“