Google DeepMind и правителството на Сингапур обявиха нов AI инструмент за защита на гражданите от измами

Сътрудничеството предоставя модел за откриване на измами на устройството, който помага за защитата на гражданите, без да компрометира поверителността.

Измамите съставляват повече от половината от регистрираните престъпления в Сингапур и са причинили загуби от над 4 милиарда сингапурски долара от 2019 г. насам. В същото време тактиките на измамниците се промениха от обикновен фишинг към сложна социална инженерия, при която нападателите манипулират жертвите с убедителни разговори, преди да поискат пари. Такива измами вече представляват до 80% от всички загуби.

За да се справят с това, Google DeepMind и Агенцията за държавни технологии на Сингапур (GovTech) работят заедно като част от нашето национално партньорство в областта на изкуствения интелект Партньорство с правителството на Сингапур. Това ни позволи да предоставим модел за откриване на измами на устройството — оптимизиран за работа на типични смартфони в Сингапур — за справяне с неотложно предизвикателство пред безопасността, като същевременно се запази поверителността на гражданите.

Защита с изкуствен интелект на устройството без компромис с поверителността

Общите модели често срещат трудности при локализираните техники за измама, което прави откриването на измами по-трудно. За да се справи с това, лекият модел Gemma на Google DeepMind беше дообучен с местни разговори, свързани с измами. Те включваха представяне за публични институции, банки и местни личности, както и актуални регионални схеми, което гарантира, че моделът може да различава безобидните социални разговори от действителната манипулация.

Този нов модел обработва данните от разговорите и на самото устройство. Традиционно откриването на заплахи разчита на сканиране на съобщенията от страна на сървъра в облака, но много платформи за съобщения използват криптиране от край до край — което означава, че не могат да проверяват личните разговори. Хората имат нужда от начин да се предпазват от измами, като същевременно запазват разговорите си поверителни, а нашето решение е да пренесем анализа на заплахите на устройството. Това позволява по-бърз анализ на моделите в разговорите, за да се откриват манипулативни намерения и гражданите да могат да реагират, преди да бъдат разкрити финансови данни или идентификационни данни.

Как работи: локален контекст и ефективност на периферните устройства

Когато моделът открие манипулативни модели в разговора, той задейства предупреждение в реално време директно на устройството на потребителя, съветвайки го да спре и да прояви предпазливост, преди да сподели чувствителна информация или средства.

Работата със сложен модел за класифициране на измами на съвременни смартфони не е лесна задача, като енергийната ефективност е критично важна. За тази цел разчитаме на двустепенен процес:

• Етап 1: Лек, ефективен класификатор проверява входящите съобщения с минимален разход на енергия, като се фокусира върху откриването на потенциални заплахи.
• Етап 2: Контекстуална оценка с нашия дообучен модел Gemma, при която анализираме по-голяма част от разговора, за да потвърдим заплахата или да отхвърлим фалшивата тревога.

Изградено при стриктно управление

Представено по време на Международната киберседмица на Сингапур (SICW 2026), това сътрудничество предоставя модел за платформите за съобщения, които балансират защитата на потребителите с криптирането от край до край. По време на разработката беше поддържано стриктно управление:

Суверенна тестова среда: Дообучаването се извърши в управлявана и поддържана от GovTech GCP среда, като данните за обучение останаха изолирани.

Без данни за граждани: Обучението изключваше строго лична или позволяваща идентифициране информация, като използваше анонимизирани набори от данни, получени от сигнали за измами и разузнавателни източници.

Стрес тестове: Моделът беше тестван със синтетични диалози и местни корпуси, за да обхване разнообразни категории измами и развиващи се тактики за представяне за други лица.

Бъдещето на безопасността на устройството

Проектът демонстрира как изкуственият интелект може да помогне на услугите за съобщения да противодействат на престъпността и показва, че безопасността и поверителността не трябва да бъдат компрометирани, когато защитният изкуствен интелект работи директно на устройството. Той също така показва как правителства и доставчици на модели могат да работят заедно, за да създават технологии за обществено благо. Платформите за съобщения и доставчиците на операционни системи могат директно да интегрират тези леки модели, за да защитават потребителите локално, като гарантират, че разговорите в чата остават сигурни, без да разкриват лични данни.