OpenAI і Google просувають нові моделі ШІ, які легко обдурити, щоб вони створювали оголені зображення, кажуть дослідники
Ars Technica·1 хв читання
Дослідники з питань безпеки продовжують попереджати, що великі обсяги створеного ШІ відвертого контенту поширюються безконтрольно, тоді як регулятори майже нічого не роблять, щоб ефективно це зупинити.
Цей контент без згоди зазвичай поширюють у текстових повідомленнях і приватних повідомленнях або зберігають у приватних хмарних сховищах, де його з меншою ймовірністю виявлять або на нього поскаржаться, йдеться в дослідженні, співавтором якого є Google і яке в липні охопило користувачів інтернету зі США, Австралії та Великої Британії. Саме тому «найважливіша точка втручання» залишається на початковому етапі: у шкідливих інструментах ШІ, які використовують для створення фальшивих сексуальних зображень, дійшли висновку дослідники Google.
Однак результати тестування методом red team в останні місяці свідчать, що в міру того, як деякі провідні генератори зображень на основі ШІ від Google та OpenAI стають потужнішими, вони можуть гірше блокувати відвертий контент.
