OpenAI и Google пускат нови AI модели, които лесно могат да бъдат подведени да създават голи изображения, твърдят изследователи
Ars Technica·1 мин четене
Изследователите в областта на безопасността продължават да предупреждават, че голямо количество експлицитно съдържание, генерирано от ИИ, се разпространява безконтролно, докато регулаторите правят малко, за да го спрат по същество.
Това съдържание без съгласие обикновено се споделя в текстови съобщения и директни съобщения или се съхранява в частни облачни услуги, където е по-малко вероятно да бъде открито или докладвано, установи през юли проучване на интернет потребители в Съединените щати, Австралия и Обединеното кралство, съавтор на което е Google. Ето защо „най-критичната точка за намеса“ остава източникът: вредните инструменти с ИИ, използвани за създаването на фалшивите сексуални изображения, заключиха изследователите на Google.
И все пак тестването чрез red team през последните месеци предполага, че с повишаването на възможностите на някои от водещите генератори на изображения с ИИ на Google и OpenAI те може да стават по-неефективни при блокирането на експлицитни резултати.
