В Telegram обнаружили создающие порнографические дипфейки чат-боты

В Telegram обнаружили создающие порнографические дипфейки чат-боты

Добавлено в закладки: 0

Фальшивые изображения более чем 100 тыс. «обнажённых» женщин были созданы из фотографий в соцсетях при помощи искусственного интеллекта и распространены в чат-ботах Telegram. Об этом пишет BBC со ссылкой на компанию по кибербезопасности Sensity. Некоторые из затронутых людей оказались несовершеннолетними.

Для создания изображений боты используют технологию DeepNude, которая с помощью нейросетей может убирать одежду с фотографии, дорисовывая вместо неё части обнажённого тела. Получаются deepfakes. В BBC проверили с согласия испытуемых несколько изображений: ни одно из них не вышло полностью реалистичным, а иногда ошибки были довольно серьёзными, например, пупок отображался между животом и грудью.

Приложение DeepNude появилось летом 2019 года. Сервис закрыли, однако, уже спустя сутки: создатели заявили, что «мир ещё не готов к DeepNude», так как слишком высока вероятность злоупотребления им. Но позднее исходный код программы появился в интернете в открытом доступе на торрент-трекерах.

Нынешний чат-бот получил широкую рекламу во «ВКонтакте», а около 70% пользователей оказались россиянами и жителями стран бывшего СССР. В ходе опроса в одном из каналов большинство людей (63%) заявили, что используют сервис для создания порнографических изображений своих знакомых; 16% загружают туда фотографии знаменитостей, 7% — фото случайных людей из интернета.

В Telegram обнаружили создающие порнографические дипфейки чат-боты 2

Эксперты Sensity опасаются, что фейковые изображения в будущем могут использовать для шантажа, унижения и дискредитации девушек. «Будем реалистами: движущими силами такого рода исследований ИИ почти всегда являются мужчины, а жертвы таких исследований — почти все женщины. Были бы мужчины такими надменными, если бы это дерьмо происходило с ними, а не с какой-то женщиной с улицы?», — написал у себя в Twitter журналист The Washington Post Дрю Харвелл, который находит фальшивые картинки достаточно правдоподобными.

Специалисты Sensity заявили, что передали результаты исследования администрации Telegram и «ВКонтакте», но не получили ответа. Однако представители «ВКонтакте» рассказали, что письма им не приходили и они свяжутся с компанией сами. Они также заверили, что выступают против такого контента и публикаций ссылок на ресурсы с ним: «Наша команда блокирует сообщества, которые распространяют таких ботов. Мы проведём дополнительную проверку и заблокируем сообщества, которые нарушают правила».

Автор книги Deep Fakes and the Infocalypse Нина Шик рассказала, что правовые системы пока не готовы решить вопрос с deepfakes и что юридическая защита играет с технологиями в догонялки. По её словам, общество меняется быстрее, чем можно представить, и люди ещё не придумали, как регулировать такие вещи.

Источник

Автор публикации

не в сети 19 часов

Андрей Маргулис

В Telegram обнаружили создающие порнографические дипфейки чат-боты 430
С организацией DDoS атак завязал.
Выкладываю новости технологий и интересные статьи с темной стороны интернета.
flagТунис.
29 лет
День рождения: 14 Мая 1991
Комментарии: 525Публикации: 1655Регистрация: 12-12-2015

Другие записи этого автора:

РЭНБИ
Добавить комментарий
Войти с помощью: 
Хроники коронавируса COVID-19
Авторизация
*
*
Войти с помощью: 
Регистрация
*
*
*
Ваш день рождения * :
Число, месяц и год:
Отображать дату:
Войти с помощью: 
Генерация пароля