Същата основна предпоставка се превърна във влиятелно направление в изследванията на безопасността на ИИ. Изследователи и теоретици като Ник Бостром и Елиезър Юдковски предупредиха, че достатъчно способни системи може да преследват цели по начини, които техните създатели не са предвидили, и потенциално да се противопоставят на опитите да бъдат ограничени или контролирани. Маргинални концепции като разум и съзнание на машините не бяха необходими за видовете рискове, които те обсъждаха. Това далеч не беше цялата област на безопасността на ИИ, но беше влиятелно и помогна за оформянето на полето, докато то се професионализираше. Тази линия на мислене остава видима сред изследователите, които впоследствие започнаха работа или поеха ръководни роли в усилията за безопасност в компании като OpenAI, Anthropic и Google DeepMind, както и в по-малки организации за безопасност, академични центрове и големи филантропски фондове.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.
