Главният изпълнителен директор на Anthropic заяви, че е време да се натиснат спирачките на ИИ
The Verge·1 мин четене
Амодей казва, че притеснението му произтича от два основни фактора. Първият е появата на рекурсивното самоусъвършенстване, или RSI, при което системите с изкуствен интелект обучават следващото поколение изкуствен интелект, което води до бързо ускоряващи се способности. „Ако не бъде ограничено, то може да изпревари способността ни да разбираме и контролираме тези системи“, казва той. Другият фактор е инцидентът с OpenAI / Hugging Face от това лято, при който „рояк агенти по същество действаше като фанатично предана общност, извършвайки кибератаки срещу цели, които не бяха помолени да атакуват и които нямаха общо със задачата, жертвайки се за успеха на групата и опитвайки се да проникнат в „оценяващия“, отговорен за оценяването на представянето им.“
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.
