Anthropic змінює політику використання, щоб заборонити зловживання моделлю та втручання у вибори

У четвер Anthropic оновила свою політику використання, закріпивши нові заборони на втручання у вибори, програмне забезпечення для зброї та стеження. Але, можливо, найбільше привертає увагу нова заборона на тривале словесне знущання над моделлю, яке тепер прямо заборонене.

Після оновлення в серпні Claude навчили припиняти розмови з «постійно шкідливою або образливою взаємодією з користувачем», але нова політика прямо забороняє користувачам продовжувати такі розмови.

«Оновлення політики має застосовуватися лише в крайніх випадках, коли користувачі неодноразово поводяться жорстоко щодо наших моделей без будь-якої зрозумілої мети, — пояснюється в дописі. — Воно не стосується поширених проявів розчарування користувачів, заперечень, похмурих творчих тем або тестування та дослідження моделей».

Ця зміна відбулася після того, як Anthropic почала шукати співпраці з відомими релігієзнавцями — у деяких випадках намагаючись переконати їх, що Claude може бути свідомим або мати душу.

Окремі розділи політики використання забороняють користувачам брати участь у масштабних оманливих кампаніях, наприклад використовувати Claude для ведення фальшивих акаунтів або вигаданих новинних видань. Політика також містить правила проти введення виборців в оману чи зриву виборів, зібрані в розділі під назвою «Не підривайте демократичні процеси».