О чём молчат эксперты: нейросети и безопасность в интернете

Когда говорят про нейросети, чаще обсуждают новые картинки, тексты и музыку. Но редко кто открыто говорит о безопасности. Между тем именно она становится проблемой, когда нейросети уходят из лабораторий в повседневную жизнь.

Где начинается риск

Нейросети работают с данными. Чем больше данных — тем лучше результат. Но эти данные не всегда обезличены. Фото из соцсетей, записи разговоров, личные тексты — всё это может оказаться в обучающих выборках. И пользователь часто не знает, что его информация используется.

Есть и другой момент. Многие сервисы требуют загрузить файл «для анализа» или подключить аккаунт. Но куда дальше уходит этот поток данных? Тут эксперты говорят уклончиво.

Подмена реальности

Ещё одна опасная зона — фейки. Нейросеть может сгенерировать голос человека так, что даже родные не отличат. Или сделать видео с «вашим участием», хотя вы к этому не имеете отношения. Это уже используется мошенниками.

Пример из новостей: человек получает звонок от «родственника», голос звучит знакомо, и он переводит деньги. Потом оказывается, что это был синтез созданный нейросетью.

Масштабная уязвимость

Самое неприятное, что нейросети учатся быстро. Сегодня с их помощью можно подделать паспортное фото, завтра — создать целый поток фейковых документов. При этом законы почти не успевают за технологиями.

И как в случае с погодой: мы можем предсказывать, что будет дождь, но стопроцентной уверенности нет. Так же и с безопасностью нейросетей — всегда остаётся зона риска, где прогноз не сработает.
Уже появились первые электронные вирусы, созданные при помощи нейросетей.

Что делать обычному пользователю

1. Не выкладывать лишнее. Чем меньше данных о вас в открытом доступе, тем труднее их использовать.
2. Думать, прежде чем кликать. Любой сервис с нейросетями стоит проверять: кто владелец, как хранит данные.
3. Скептически относиться к «реальным» звонкам и видео. Если сомневаетесь — лучше перепроверьте.

И немного честности

Полностью защититься невозможно. Но можно снизить вероятность проблем, если относиться к нейросетям так же осторожно, как к банковской карте.

Если вы хотите не просто читать про опасности, а создать что-то полезное и безопасное с нейросетями — лучше делать это с человеком, который разбирается в этом, например на сайте ExpressAi-k.ru