Anthropic променя политиката за използване, за да забрани злоупотребата с модела и намесата в избори

Anthropic актуализира политиката си за използване в четвъртък, като формализира нови забрани за намеса в избори, софтуер за оръжия и наблюдение. Но може би най-привличащата вниманието промяна е новата забрана за продължителна словесна злоупотреба с модела, която вече е изрично забранена.

След актуализация през август Claude е обучен да прекратява разговори с „продължително вредно или оскърбително поведение от страна на потребителя“ — но новата политика изрично забранява на потребителите да продължават тези разговори.

„Актуализацията на политиката има за цел да се прилага само в крайни случаи, когато потребителите многократно се отнасят жестоко към нашите модели без видима цел“, се обяснява в публикацията. „Тя не се отнася до обичайните прояви на неудовлетвореност от страна на потребителите, несъгласие, мрачни творчески теми или тестване и изследване на модела.“

Промяната идва, след като Anthropic потърси сътрудничество с изтъкнати религиозни учени — в някои случаи с цел да ги убеди, че Claude може да е съзнателен или да има душа.

Отделни раздели на политиката за използване забраняват на потребителите да участват в широкообхватни измамни кампании, като например да използват Claude за управление на фалшиви акаунти или измислени новинарски издания. Политиката включва и правила срещу заблуждаването на избиратели или нарушаването на избори, обединени в раздел, озаглавен „Не подкопавайте демократичните процеси“.