Anthropic предупреждает: небольшие модели ИИ могут самовоспроизводиться через устройства IoT
Компания Anthropic, занимающаяся разработкой ИИ, предупреждает, что достижения в области небольших моделей ИИ вскоре могут привести к новой эре самореплицирующихся вредоносных программ, способных заражать умные холодильники, пылесосы и широкий спектр других устройств Интернета вещей, а также более устойчивых к отключению.
По словам компании, уже к следующему году небольшие модели ИИ могут получить возможность автономно самореплицироваться на самых разных устройствах Интернета вещей. В конечном счёте эта способность может привести к появлению компьютерных червей, которые распространяются без участия человека и способны заражать незнакомые устройства Интернета вещей. Недавно проведённый компанией эксперимент выявил значительные сложности на пути создания такого ИИ-репликатора вредоносного ПО, поэтому к результатам необходимо относиться с осторожностью. Тем не менее результаты действительно вызывают обеспокоенность возможностью появления новых форм компьютерных червей.
Сложности с отключением
Anthropic также предупредила не только о потенциально новом вредоносном ПО, но и о том, что его может быть трудно остановить. В публикации в блоге компания написала, что «такой репликатор будет сложно отключить, поскольку у него не будет единой точки, которую можно было бы выключить, — хотя он может распространяться медленно (удваиваясь за несколько дней). В отличие от вредоносного ПО без ИИ, он также сможет самостоятельно находить незнакомые устройства».
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.