Дипфейки в телеграме: как интимные фото и видео становятся поводом для травли

Интимные фото регулярно утекают в сеть и приводят к травле и шантажу со стороны мошенников. Но теперь есть технологии, благодаря которым жертвами могут стать даже те, кто ни разу не отправлял никому свои нюдсы. Coda Story рассказывает, как обычно это происходит, кто становится жертвой и что с этим со всем делать.

Москвичка Арина (здесь и далее имена девушек изменены — ред.) познакомилась с парнем в дейтинг-приложении. У них завязалась переписка, он попросил прислать интимные фотографии. Арина отправила их в телеграме и заметила, что собеседник сделал скриншот. На вопрос "зачем" он ответил — просто на память. Через некоторое время Арина получила от него сообщение с записью экрана. На записи он пролистывал пользователей инстаграма, на которых она была подписана. "Если ты не сделаешь того, что я хочу, фотографии попадут к этим людям", — заявил новый знакомый.

Арина в панике позвонила другу, который посоветовал ей пока сделать вид, что она соглашается на предложения шантажиста. "Я выиграла где-то неделю, в течение которой читала мерзкие подробности того, как и что хотят со мной сделать, и говорила, что на все согласна. Он в это не верил, постоянно переспрашивал", — рассказывает Арина.

В какой-то момент она перевела вымогателю тысячу рублей. Он заверил, что удалил фотографии — но через неделю снова прислал скрин с ее подписками в инстаграме и сказал, что передумал.

"Отправила фото парню, он выложил их в интернет, что делать?" — таких запросов в поисковике очень много. Эта проблема начинает проникать и в массовую культуру. В популярном российском сериале "257 причин, чтобы жить" один из сюжетных поворотов связан с девушкой-студенткой, которая отправляет фотографии своему парню, а затем обнаруживает их в чатах однокурсников и оказывается жертвой травли.

В сериале все закончилось хорошо. В жизни так происходит не всегда.

"Как вам фотки?"

Истории шантажа у всех начинаются по-разному. Кто-то отправляет фотографии партнерам через дейтинговые приложения. У кого-то взламывают страницы в соцсетях. В зоне риска оказываются даже те, кто сам выкладывает фотографии в интернет.

Анне 27 лет. Когда-то она увлекалась моделингом и однажды снялась ню для журнала. Ее фотографии были в интернете, но она этого не стеснялась. Проблемы начались, когда на них наткнулись пользователи с имиджборда "Двач" — платформы для анонимного общения.

"Они устроили набег на мою страницу „Вконтакте“ и разослали фото по списку друзей. Это было бы не так критично, если бы в их числе не оказались клиенты, с которыми я сотрудничала по работе", — рассказывает Анна.

Мошенникам Анна сказала, что ей все равно. После этого они сменили тактику и выложили фото на сайт, посвященный московским проституткам. Создали анкету, сделали скрин и начали отправлять его по списку контактов Анны.

"Ты проститутка, шлюха, мы тебя найдем, групповое изнасилование будет, мир должен знать таких, как ты", — подобные сообщения Анна получала ежедневно. Она боялась выходить на улицу одна из опасений, что мошенники найдут ее адрес.

Анна попыталась обратиться в полицию, но ее иск о клевете не приняли. "Отказали со смехом — мол, ничего серьезного. Это было очень унизительно, я ушла оттуда в слезах", — вспоминает девушка.

На работе Анна, которая была личным помощником генерального директора в транспортной компании, получила строгий выговор. Ей урезали премию и зарплату. Ее терроризировали еще довольно долго — в течение 2–3 недель. После этого травля постепенно прекратилась.

Как отмечает юрист и основатель сети взаимопомощи женщинам "Ты не одна" Алена Попова, в последнее время большинство обращений по поводу кибербуллинга касаются именно шантажа и секстинга — обмена интимными фотографиями.

Попова объясняет, что жертвами шантажистов часто становятся люди, испытывающие психофизический упадок — их состояние очень легко считывается мошенниками. Одна из наиболее популярных историй, по ее словам, — женщина после развода, которая находится в расстроенных чувствах.

Но шантажу подвергаются все — и мужчины тоже.

В июле 2020 года украинский блогер Кирилл Сурилов попал в классическую ситуацию — отправил свои фотографии в приложении для знакомств и наткнулся на вымогателей, которые потребовали денег и пообещали разослать его фото всем его друзьям "Вконтакте".

"Так ну что, если не хочешь что бы твои фотки отправились твоим друзьям, предлогаю сотрудничать. Тем более у тебя есть ютуб канал где 11к, не думаю что тебе нужен позор)", — написали шантажисты (орфография сохранена). Они потребовали у Кирилла 15 тысяч рублей и прислали номер своего QIWI-кошелька.

Кирилл на шантаж не поддался — сам пошел в атаку на мошенников. Рассказал об этой ситуации друзьям и предупредил, что они получат его фотографии. Когда мошенники их действительно разослали, Кирилл написал пост с вопросом "Ну как вам фотки?" — и предложил тем, кто еще их не получил, самим написать вымогателям и спросить, почему их проигнорировали.

Эту историю в твиттере рассказал друг Кирилла. История стала вирусной — на твит отреагировала даже компания QIWI, которая пообещала заблокировать мошенникам кошелек.

Большинство пользователей в реплаях к твитам Кирилла поддержали. Многие одобрили его стратегию поведения. Некоторые при этом отметили, что будь на его месте девушка, возможно, ей было бы сложнее повести себя так же.

"Присылайте нюдсы в дм"

Но и среди мужчин отреагировать так, как Кирилл Сурилов, способны далеко не все. Даже — или особенно — медийные личности.

В ноябре 2020 года в сети появилось минутное видео, на котором футболист питерского "Зенита" и капитан российской сборной Артем Дзюба мастурбирует на камеру. На следующий день главный тренер сборной России Станислав Черчесов временно отстранил Дзюбу от игр, "дабы оградить от излишнего негатива и напряжения как команду, так и самого футболиста".

В матче "Зенита" Дзюба на поле вышел — но без капитанской повязки — и был освистан фанатами на стадионе. Комментируя итоги матча, тренер "Зенита" Сергей Семак сказал, что "ошибки совершают все". Сам Дзюба, который сразу после инцидента закрыл свой инстаграм, вскоре выложил видеообращение, в котором тоже признал, что "допускает ошибки, все мы грешны" и сказал, что винить в сложившейся ситуации может только себя.

Но многие звезды и селебрити Дзюбу поддержали, не считая его действия ошибкой и ни в чем не обвиняя. Большинство их заявлений сводились к тому, что личная жизнь не должна влиять на карьеру, а мастурбировать и даже снимать это на видео имеет право любой человек, и это не должно быть предметом осуждения.

Вскоре стало известно, что Дзюбу шантажировали перед публикацией ролика — вымогатели требовали 5 миллионов долларов, но он не согласился.

Алена Попова считает, что типичная реакция общества на такие утечки показывает огромный недостаток секс-просвещения в России и странах постсоветского пространства. "У нас должно быть половое воспитание, и должна быть нормальная пропаганда личной жизни, которая есть у каждого человека", — говорит она.

Девушки, прошедшие через травлю и шантаж, тоже часто ссылаются на отсутствие сексуального образования и замечают, что когда-то им не объяснили, что свое тело можно любить и его не нужно стесняться.

Но когда государственная система оказывается бессильной, изменения приходят со стороны гражданского общества. В России они начались с твиттера, где возник феномен "нюдсочетвергов".

Его суть в том, что по четвергам пользователи твиттера выкладывают свои нюдсы — обнаженные фотографии. Степень обнажения при этом может быть абсолютно разной — от нижнего белья до полного отсутствия одежды.

Этот флешмоб в начале 2020 года запустил один из пользователей твиттера, предложивший девушкам "присылать нюдсы в дм (личные сообщения)". Сначала девушки слали обнаженные фото только ему — но вскоре начали выкладывать их публично и в своих аккаунтах.

Теперь по хештегу #нюдсочетверг в твиттере можно найти сотни фотографий — их выкладывают и парни, и девушки. Многие пишут, что делают это впервые и признаются, что для них это — способ побороть стеснительность, принять себя и полюбить свое тело. Под такими постами обычно много комментариев, значительная часть из них — с поддержкой и одобрением.

Вскоре нюдсочетверги стали настолько популярными, что к ним присоединились и некоторые политики.

"Каждый четверг мой твит с тегом #нюдсочетверг становится самым популярным. Продолжим эту традицию и сегодня вам фоточки очень эротичного участка для „голосования“ в Астрахани. Палящий зной, нега, обнуление", — написал Алексей Навальный в один из четвергов в июне, когда в России проходило досрочное голосование за поправки к Конституции. На фотографиях — действительно выездной участок для голосования.

"Давайте вовсе отключим интернет"

Но если пользователи твиттера выкладывают нюдсы добровольно, то жертвы шантажа зачастую оказываются непричастны к появлению своих интимных фотографий в открытом доступе. Не последнюю роль в этом играет развитие технологий.

В октябре 2020 года исследователи компании Sensity, занимающейся защитой пользователей от фальсификаций в сети, опубликовали отчет, в котором рассказали о целой "экосистеме" ботов, генерирующих дипфейки в телеграме.

Дипфейками (от англ. deep learning и fake) называют изображения и видео, созданные с использованием искусственного интеллекта. Алгоритмы могут комбинировать разные изображения, накладывая их друг на друга — и создавать довольно правдоподобные ролики, на которых люди делают то, чего они в реальной жизни не делали.

Такие ролики с участием политиков начали быстро расходиться в интернете — например, видео, в котором бывший президент США Барак Обама якобы критикует Трампа, набрало более 8 миллионов просмотров.

Обычных пользователей технология производства фейков тоже коснулась — когда выяснилось, что с ее помощью можно "раздевать" людей на фотографиях. Летом 2019 года впервые появились новости о приложении, которое называлось Deep Nude. Оно позволяло получить обнаженное фото буквально в один клик — для этого нужно было только отправить исходное изображение.

В бесплатной версии на обработанной фотографии проставлялся большой знак копирайта, предупреждавший, что это фейк. Но был вариант платного доступа — и тогда маленький логотип размещался в углу фотографии, и его можно было легко убрать.

При разработке приложения его создатель, как он объяснял, вдохновлялся рекламой рентгеновских очков 60–70-х годов, на которой он вырос. Оммаж этой рекламе читается и в логотипе приложения, на котором изображен мужчина в спиральных очках.

Deep Nude обрабатывал только фотографии женщин. Разработчик объяснил это тем, что найти фото обнаженных женщин онлайн для обучения алгоритма оказалось намного проще, но заявил, что мужчины у него тоже в планах.

О приложении рассказали сразу несколько крупных СМИ в США. Но уже через несколько часов, после огромного наплыва посетителей, разработчики его удалили. В твиттер-аккаунте они заявили, что "мир еще не готов" к технологии deep nude.

Но мир, видимо, все-таки ждал чего-то подобного. Вскоре на основе этой технологии начали появляться многочисленные боты в телеграме с таким же функционалом. В бот можно было отправить фото — и получить его в обнаженном виде. Вместе с этим изображения оказывались в каналах, связанных с ботом, где ими торговали или обменивались.

По данным исследователей Sensity, до июля 2020 deep nude боты в телеграме сгенерировали более 100 тысяч обнаженных фотографий, которые разошлись по телеграм-каналам. Около 70% подписчиков этих каналов были из России и соседних государств.

"Это же как Photoshop. Разве создатель несет ответственность, если кто-то там будет делать фото со злым умыслом?", — недоумевал в интервью разработчик одного из таких ботов, пожелавший остаться анонимным. Он не видит угрозы в том, что кто-то может воспользоваться ботом в целях "порномести" или шантажа и называет такие опасения паранойей.

"Добро пожаловать в современный мир, давайте вовсе отключим интернет", — говорил он в том же интервью. Отвечая на вопросы Coda, разработчик заявил, что deep nude бот был для него и команды "спонтанным проектом". Теперь они "двигаются дальше" — в доказательство он предлагает посмотреть на нового бота, который превращает фотографии (любые) в скетчи.

Схожее мнение относительно опасности ботов высказывает и администратор исходного американского приложения Deep Nude. Он согласился ответить на несколько вопросов.

"Если вы боитесь, что кто-то будет шантажировать девушек их обнаженными фотографиями, то это совершенно невозможно", — говорит он. По его словам, качество обработанных изображений получается низким, видно, что это фейк, и к тому же, жертва всегда может доказать, что это не она, выложив "одетый" оригинал фото.

"Обыватель не отличит, вы это или не вы. Ему неважно. Он видит ваше лицо и понимает, что порнография, кошмар, ужас, — возражает Алена Попова. — Ты не докажешь большому количеству людей, которые уже увидели фото, что это не ты. И потом, в нашей реальности оправдание считается подтверждением. Это есть в голове у каждого, проживающего на территории постсоветских республик. Начинаешь доказывать — вызываешь эффект Барбары Стрейзанд и делаешь только хуже".

В своем отчете исследователи Sensity сообщают, что им пока неизвестно о случаях использования обнаженных фотографий из телеграм-бота в незаконных целях. Но боты все равно вызывают беспокойство у многих юристов и правозащитников. С появлением приложений сгенерировать обнаженное фото оказалось очень просто — гораздо проще, чем создать дипфейк-порно или воспользоваться фотошопом. Это значит, что любая женщина может, сама того не зная, стать объектом мести или шантажа.

Алена Попова вместе с другими правозащитниками несколько раз обращалась и в поддержку телеграма, и лично к Павлу Дурову, требуя заблокировать такие боты. Но телеграм на жалобы так и не отреагировал.

"Телеграм вообще славится тем, что не защищает права женщин. Сколько раз мы к ним обращались — ничего он не делает, — констатирует Попова. — Я против запретов в соцсетях, но все-таки они должны защищать то, что защищено законом — например, личные границы каждого человека".

Вершители судеб

Мотивы у кибершантажистов могут быть разными: деньги, месть или унижение другого человека. "Это может быть попыткой восстановить собственное достоинство", — объясняет Кирилл Хломов.

"Я думаю, главный мотив — это ощущение своей власти. Может быть и месть, и желание самоутвердиться, и желание заработать денег — но все это связано с основным вопросом в голове кибермошенника: что у меня есть власть и я вершитель судеб", — считает Алена Попова. Она убеждена, что у большинства мошенников можно обнаружить какую-либо психотравму.

"Кибермошенники травмированы, жертвы травмированы, государственная система — одна сплошная психотравма. И все это выливается в разрушенные судьбы", — говорит Попова.

Преступление и наказание

Юристы и правозащитники советуют жертвам шантажа и травли искать справедливости в судах.

"Если вы или ваша приватность подверглись атаке, на это есть огромное количество уголовных статей, о которых нужно знать. Даже в нашей кривой системе правоприменения все-таки существует хорошая судебная практика по осуждению шантажистов и вымогателей", — говорит Алена Попова.

Единой статьи, предусматривающей наказание за кибербуллинг, в российском, как и в белорусском, уголовном кодексе нет. В Беларуси можно наказать обидчика за оскорбление, написав заявление в РУВД. Его могут привлечь по статье 10.2 обновленного КоАП РБ: "Оскорбление, то есть умышленное унижение чести и достоинства личности, выраженное в неприличной форме" и оштрафовать до 30 базовых. 

Вторая часть статьи — "Оскорбление в публичном выступлении, либо в печатном или публично демонстрирующемся произведении, либо в средствах массовой информации, либо в информации, распространенной в глобальной компьютерной сети Интернет, иной сети электросвязи общего пользования или выделенной сети электросвязи", — для физических лиц предусматривает наложение штрафа в размере от десяти до двухсот базовых величин, общественные работы или административный арест. 

***

Арина — девушка, которую шантажировал знакомый из дейтингового приложения — теперь тоже знает, что нужно обращаться в суд. Но сама она этого сделать не успела — ей помог случай.

Одновременно с шантажом Арина стала жертвой еще одного киберпреступления — у нее украли 20 тысяч рублей. Она рассказала об этом своему вымогателю — на тот момент она пыталась поддерживать с ним нейтральные отношения — и сообщила, что написала заявление в полицию, в котором упомянула и его.

Тот отреагировал агрессивно и назвал Арину ненормальной, а через некоторое время в очередной раз заявил, что разошлет ее фотографии друзьям. "И я сказала — рассылай", — вспоминает Арина. На этом история неожиданно закончилась. Вымогатель начал оправдываться и говорить, что он "не какой-то моральный урод". Арина заблокировала его во всех мессенджерах и закрыла свои профили в соцсетях.

Заканчивая свой рассказ, Арина закуривает. Ей сложно об этом говорить. Она до сих пор живет с чувством страха и боится, что эти ее фотографии могут где-нибудь всплыть.

При поддержке "Медиасети"