Anthropic задава Auto Mode по подразбиране в Claude Code, за да предпази разработчиците от опасни одобрения

Скоро Claude Code ще работи в Auto Mode по подразбиране. Само клиентите от корпоративен тип все още ще трябва да го активират изрично. Промяната означава, че изкуственият интелект ще поема самостоятелно още по-голяма част от процеса на разработка.

Auto Mode позволява на инструмента за програмиране с изкуствен интелект да работи самостоятелно, без да чака ръчно одобрение на всяка стъпка. Класификатор проверява дали дадено действие е опасно или необратимо и иска потвърждение само в такива случаи.

От 14 август Claude Code ще се предлага с активиран по подразбиране Auto Mode за плановете Pro, Max и Team, както Anthropic обяви в публикация в блога си. При тестове с 1053 платени тестери и вътрешни екипи за симулиране на атаки Auto Mode се представи поне толкова безопасно, колкото ръчните одобрения, а често и по-добре. Екипите, използващи Auto Mode, също така са генерирали около 25 процента повече заявки за сливане, което означава, че са свършили повече работа.

Anthropic също така заявява, че Auto Mode добавя слой защита срещу атаки чрез инжектиране на подканващи инструкции, при които инжектиран код се опитва да отклони агента от инструкциите на потребителя. Независим одит на Trajectory Labs е тествал 72 сценария за атаки по десет пъти всеки. Нито един от 720-те опита не е успял срещу актуалните модели на Claude — Fable 5, Opus 5 и Sonnet 5 — в Auto Mode. При GPT-5.6 Sol на OpenAI в режим Codex Auto-Review 5,83 процента от атаките са успели да преминат.

Вътрешно в Anthropic Auto Mode е спрял Claude да качи поверителни данни на публична страница. По време на една продължителна сесия той също така е прекратил приблизително 2000 процеса, които биха нарушили текущи задачи за обучение на графични процесори, твърди компанията.

Anthropic не таксува токените, които самият класификатор използва. Но превръщането на Auto Mode в настройка по подразбиране вероятно все пак е изгодно за компанията. Когато Claude работи по-дълго и върши повече работа, общото потребление на токени се увеличава, а с него и приходите, дори това да не е било основната мотивация на Anthropic за промяната.

Разработчиците преминават от писане на код към наблюдение как изкуственият интелект го пише

В момента Claude Code е най-широко използваният инструмент за програмиране с изкуствен интелект с голяма преднина, а превръщането на Auto Mode в настройка по подразбиране отдалечава още повече ролята на разработчика от активното програмиране и я насочва към преглеждане на генерирания от изкуствения интелект резултат. Самият Anthropic призовава към предпазливост.

Класификаторът намалява рисковете, но не ги елиминира. „При високорискови промени в производствената инфраструктура все пак препоръчваме сами да преглеждате действията на Claude“, пише компанията.

Този съвет създава парадокс. Колкото по-рядко се намесват разработчиците, толкова по-важен става надзорът им. Но става по-трудно да се изгради задълбочено разбиране на проекти, които до голяма степен са създадени от Auto Mode без особено човешко участие. А киберсигурността се развива по-бързо и става по-сложна, отколкото който и да е човек може реалистично да следи.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен шест пъти годишно излизащ доклад за новите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.