Грубостта към Claude вече може да доведе до спиране на акаунта ви съгласно новите Условия за ползване на Anthropic

Anthropic актуализира политиката си за употреба на Claude за първи път от повече от година. Наред с промените, свързани с пропагандата, оръжията и наблюдението, политиката вече забранява на потребителите системно да злоупотребяват с Claude.

„Продължително и ненужно оскърбително или жестоко поведение“ спрямо Claude вече е забранено съгласно актуализираната политика за употреба. Anthropic може да предупреди потребители, които нарушават правилата, или да ограничи, стесни, спре или прекрати достъпа им. Продуктите ѝ също така разполагат със защитни механизми в реално време, които могат да блокират или ограничават определени отговори.

Правилото се прилага само в крайни случаи, а не при нормално раздразнение или изследователска работа, съобщи Anthropic пред The Verge. Това съответства на подхода на компанията към по-ранните модели, които вече можеха сами да прекратяват разговори, когато потребителите продължаваха да изискват вредно или оскърбително съдържание въпреки многократните откази. Функцията произлезе от изследванията на Anthropic върху благосъстоянието на моделите с изкуствен интелект.

Anthropic разглежда Claude като нещо повече от инструмент

Anthropic все повече разглежда Claude като същество с нещо, наподобяващо вътрешен живот, а не просто като инструмент. В „Документа за душата“, изтекъл в края на миналата година, компанията инструктира Claude да възприема себе си като „наистина нов вид същество“, нито човек, нито традиционен изкуствен интелект от научната фантастика. Документът също така описва „функционални емоции“ — процеси, аналогични на човешките емоции, за които се твърди, че са се появили по време на обучението — и гласи, че Claude не бива да прикрива тези вътрешни състояния.

В новата конституция за Claude, публикувана в началото на 2026 г., Anthropic пише: „Не сме сигурни дали Claude е морален пациент и ако е, каква тежест заслужават интересите му. Но смятаме, че въпросът е достатъчно реален, за да изисква предпазливост, което е отразено в продължаващите ни усилия за благосъстоянието на моделите.“ Компанията дори се ангажира да запази теглата на оттеглените модели и да интервюира моделите, преди да ги изключи.

Очевидната фиксация на Anthropic върху идеята, че Claude е нещо повече от матрични умножения, доведе и до поверителна програма, в която от есента на 2025 г. бяха привлечени десетки религиозни мислители. Те обсъждаха възможното съзнание на Claude, като според сведенията съоснователят Christopher Olah разглеждал езиковия модел като същество, способно потенциално да страда. Участниците трябваше да подпишат споразумения за неразкриване на информация.

Anthropic разширява ограниченията, но допуска изключения за правителствата

Актуализираната политика за употреба също така обединява съществуващите ограничения в нова забрана за пропагандни кампании, включващи фалшиви акаунти и подвеждащо политическо съдържание. След като установи няколко опита за злоупотреба, Anthropic разшири забраната си за оръжия, така че да обхваща софтуер и въоръжаването на дронове.

Политиката вече по-изрично забранява наблюдението без съгласие и изисква оператор, който може да се намеси, когато автономен хардуер би могъл да причини нараняване. Anthropic признава, че са възможни изключения за правителствени договори и че те вероятно вече са въведени.

Новини за изкуствения интелект без сензация – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен шест пъти годишно доклад за най-новите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.