Порнография с ИИ без согласия сделает жертвами всех нас: Успеет ли закон за этим?

Эта статья была совместно опубликована с The 19th, некоммерческой редакцией, освещающей вопросы гендера, политики и государственной политики. Подпишитесь на рассылку The 19th здесь.

Более двух десятков учеников средней школы Вестфилд в Нью-Джерси были потрясены в прошлом году, узнав, что их обнаженные изображения распространяются среди сверстников. По данным школы, некоторые ученики использовали искусственный интеллект (ИИ-агент) для создания порнографических изображений других учеников на основе оригинальных фотографий. И это не единственные девушки-подростки, ставшие жертвами поддельных обнаженных фото: учащиеся в штате Вашингтон и Канаде также сообщили о подобных ситуациях, поскольку возможность реалистичного изменения фотографий становится более доступной через веб-сайты и приложения.

Растущая тревога вокруг дипфейков — изображений или видео, созданных ИИ-агентом, — в целом ещё более усилилась в январе, когда дипфейк с участием суперзвезды Тейлор Свифт быстро распространился в социальных сетях.

Кэрри Голдберг, юрист, который более десяти лет представляет жертв порнографии без согласия — обычно называемой порно мести, — сказала, что только недавно начала слышать от жертв изображений, созданных компьютером.

«Моя фирма видит жертв дипфейков, вероятно, уже около пяти лет, и в основном это были знаменитости», — сказала Голдберг. «Теперь дети делают это с детьми, чтобы быть жестокими. Вероятно, об этом сильно занижены данные, потому что жертвы могут не знать, что существует правовая защита, и не во всех случаях совершенно ясно, существует ли она».

Руководящие органы пытаются наверстать упущенное. За последний год или около того 10 штатов приняли законодательство о криминализации создания или распространения дипфейков. Эти штаты — включая Калифорнию, Флориду, Джорджию, Гавайи, Иллинойс, Миннесоту, Нью-Йорк, Южную Дакоту, Техас и Вирджинию — определили наказания от штрафов до тюремного заключения. Индиана, вероятно, скоро присоединится к растущему списку, расширив свой действующий закон о порно без согласия.

Представитель Индианы Шэрон Нигель, республиканец, разработала предлагаемое расширение. Существующий закон определяет «порно мести» как раскрытие интимного изображения, такого как любое изображение полового акта, обнаженных гениталий, ягодиц или женской груди, без согласия человека, изображенного на изображении. Предложенный Нигель законопроект прошел через обе палаты и теперь ожидает подписи губернатора.

Нигель сказала, что её мотивировало обновить уголовный кодекс Индианы, когда она услышала историю учительницы средней школы, которая обнаружила, что некоторые из её учеников распространяли дипфейк-изображения с ней. Это было «невероятно разрушительно» для личной жизни учительницы, и Нигель была удивлена, увидев, что виновные не могли быть привлечены к ответственности по действующему законодательству.

«Всё началось с моего обучения пониманию технологии, которая сейчас доступна, и чтения об инциденте за инцидентом, когда лица людей прикрепляются к вымышленному телу, которое выглядит невероятно реальным и правдоподобным», — сказала Нигель. «Это просто тревожно. Будучи мамой и бабушкой и думая о том, что может случиться с моей семьей и со мной — это шокирует. Мы должны опередить подобные вещи».

Голдберг, чья юридическая фирма специализируется на сексуальных преступлениях, сказала, что ожидает, что больше штатов продолжат расширять своё существующее законодательство, включив в него формулировки об ИИ-агент.

«Десять лет назад только три штата имели законы о порно мести или сексуальном насилии на основе изображений», — сказала Голдберг. «Теперь 48 штатов объявили порно мести вне закона, и это действительно привело к огромному сокращению порно мести — неудивительно — как раз так, как мы, адвокаты, и говорили. Весь рост дипфейков заполнил пробелы, став новым способом сексуального унижения кого-либо».

В 2023 году в интернете было размещено более 143 000 новых видео, созданных ИИ-агентом, согласно The Associated Press. Это огромный скачок по сравнению с 2019 годом, когда веб-сайты или приложения «обнажения» были менее распространены, и всё ещё было почти 15 000 таких поддельных видео в интернете, согласно отчету Deeptrace Labs, компании визуальной разведки угроз. Даже тогда эти видео — 96 процентов из которых содержали порнографию женщин без согласия — набрали более 100 миллионов просмотров.

Голдберг сказала, что политики и общественность, похоже, более мотивированы запретить изображения обнаженных тел, созданные ИИ-агентом, именно потому, что практически любой может стать жертвой. Появляется больше эмпатии.

«С порно мести, в первой волне обсуждений, все обвиняли жертву и заставляли их казаться какими-то извращенцами за то, что они сделали изображение, или глупыми за то, что поделились им с другим человеком», — сказала Голдберг. «С дипфейками вы не можете винить жертву, потому что единственное, что они сделали, это имели тело».

Аманда Маньяме, базирующийся в Южной Африке консультант по цифровым правам для Equality Now, международной правозащитной организации, сосредоточенной на помощи женщинам и девочкам, сказала, что в Соединенных Штатах практически нет защиты для жертв дипфейков. Маньяме изучает политику и законы по всему миру, анализирует, что работает, и предоставляет юридические консультации по цифровым правам, особенно в отношении технологически облегченной сексуальной эксплуатации и насилия.

«Самый большой пробел в том, что у США нет федерального закона», — сказала Маньяме. «Проблема в том, что проблема регулируется от штата к штату, и, естественно, нет единообразия или координации, когда речь идет о защите».

Однако в настоящее время на Капитолийском холме есть движение: двухпартийная группа сенаторов представила в январе Закон о противодействии явным поддельным изображениям и редактированию без согласия 2024 года — также известный как Закон DEFIANCE. Предлагаемое законодательство направлено на прекращение распространения сексуально откровенного контента без согласия.

«Никто — ни знаменитости, ни обычные американцы — никогда не должны оказываться представленными в порнографии с ИИ-агент», — сказал в заявлении республиканский сенатор Джош Хоули, соавтор законопроекта. «Невинные люди имеют право защищать свою репутацию и привлекать виновных к ответственности в суде». Представитель Александрия Окасио-Кортес представила партнерский законопроект в Палате представителей.

Согласно новому опросу Data for Progress, 85 процентов вероятных избирателей по всему политическому спектру заявили, что поддерживают предложенный Закон DEFIANCE — причем 72 процента женщин решительно поддерживают по сравнению с 62 процентами мужчин.

Но молодые мужчины с большей вероятностью выступают против Закона DEFIANCE, при этом примерно один из пяти мужчин младше 45 лет (22 процента) заявляют, что решительно или в некоторой степени выступают против законодательства, позволяющего объектам явных дипфейков без согласия подавать в суд на создателя.

Даниэль Дайзерот, исполнительный директор Data for Progress, сказала, что этот вопрос показал один из «более резких контрастов» между молодыми мужчинами и женщинами, который она видела за последнее время.

«Мы можем уверенно сказать, что женщины и мужчины младше 45 лет имеют расходящиеся мнения по этой политике», — сказала Дайзерот. «Это проблема, которая непропорционально затрагивает женщин, особенно молодых женщин, которые с большей вероятностью становятся жертвами порно мести. И я думаю, что это действительно первопричина здесь».

Голдберг сказала, что создание политики для криминализации злоумышленников — это хорошее начало, но в конечном итоге недостаточно. Хорошим следующим шагом, по её словам, было бы принятие правовых мер в отношении онлайн-дистрибьюторов, таких как App Store и Google Play, которые предоставляют продукты, используемые в первую очередь для преступной деятельности. Платформы социальных сетей и приложения мгновенного обмена сообщениями, где распространяются эти явные изображения, также должны нести ответственность, добавила Голдберг.

Основатели #MyImageMyChoice, низовой организации, работающей над помощью жертвам злоупотребления интимными изображениями, согласились, что частные компании, участвующие в создании и распространении этих изображений, должны делать больше.

Основатели — Софи Комптон, Рубен Хэмлин и Элизабет Вудворд — указали, что поисковые системы, такие как Google, направляют большую часть общего веб-трафика на сайты дипфейк-порно, в то время как компании, выпускающие кредитные карты, обрабатывают их платежи. Интернет-провайдеры позволяют людям получать к ним доступ, в то время как крупные сервисы, такие как Amazon, Cloudflare и Github от Microsoft, размещают их. А сайты социальных сетей, такие как X, позволяют контенту циркулировать в масштабе. Google изменил свою политику в 2015 году и начал разрешать жертвам подавать запрос на удаление отдельных частей контента из результатов поиска и с тех пор расширил политику на злоупотребление дипфейками. Однако компания систематически не исключает из списка сайты сексуального насилия на основе изображений и злоупотребления дипфейками.

«Технологические компании имеют возможность блокировать, деиндексировать или отказывать в обслуживании этих сайтов — сайтов, всё существование которых построено на нарушении согласия и извлечении прибыли из травмы», — сказали Комптон, Хэмлин и Вудворд в заявлении для The 19th. «Но они решили этого не делать».

Голдберг указала на скорость, с которой распространялись дипфейки Тейлор Свифт. Одно изображение, опубликованное в X, ранее известном как Twitter, было просмотрено 47 миллионов раз, прежде чем учетная запись, которая его опубликовала, была приостановлена. Изображения продолжали распространяться, несмотря на усилия компаний социальных сетей по их удалению.

«Жестокие, женоненавистнические фотографии Тейлор Свифт, окровавленной и обнаженной на футбольном матче Kansas City Chiefs, символизируют проблему», — сказала Голдберг. «Масштабы этого распространения, включая действительно основные сайты, посылают всем сообщение о том, что создавать этот контент нормально. Для меня это был действительно поворотный и довольно пугающий момент».

Учитывая высокопрофильный характер жертвы, инцидент вызвал ярко выраженное и широко распространенное возмущение со стороны фанатов Свифт и привлек внимание общественности к проблеме. Голдберг сказала, что она проверила, удалили ли какие-либо онлайн-дистрибьюторы продукты из своих онлайн-магазинов, которые упрощают и удешевляют создание сексуально откровенных дипфейков — и она была рада видеть, что они это сделали.

Поскольку политики и суды страны продолжают пытаться реагировать на быстро развивающуюся и все более доступную технологию, Голдберг сказала, что важно, чтобы законодатели продолжали обращаться к экспертам и тем, кто работает напрямую с жертвами, таким как юристы, социальные работники и адвокаты. Законодатели, регулирующие абстрактные идеи или быстро развивающиеся технологии, иначе могут стать «рецептом катастрофы», добавила она.

Маньяме также подчеркнула важность прямого общения с выжившими при принятии политических решений, но добавила, что законодателям также необходимо более целостно думать о проблеме и не слишком увязать в конкретной технологии — рискуя всегда отставать. Например, Маньяме сказала, что широкая общественность только сейчас начинает понимать риски, создаваемые ИИ-агент и дипфейками — о чем она помогла написать отчет еще в 2021 году. Заглядывая вперед, Маньяме уже думает о Метавселенной — виртуальном пространстве реальности — где пользователи начинают сталкиваться со случаями изнасилования, сексуального домогательства и насилия.

«Многие законы о сексуальном насилии на основе изображений немного устарели, потому что они говорят конкретно о порно мести», — сказала Маньяме. «Исторически порно мести было больше проблемой домашнего насилия, в том смысле, что это интимный партнер, делящийся сексуально эксплуатирующим изображением своего бывшего или существующего партнера. Это не всегда так с дипфейками, поэтому эти законы могут не обеспечивать достаточной защиты».

Кроме того, Маньяме утверждала, что многие из этих политик не расширяют определение «интимного изображения», чтобы учитывать различные культурные или религиозные происхождения. Для некоторых мусульманских женщин, например, может быть столь же оскорбительным и унизительным создавать и распространять изображения их непокрытой головы без хиджаба.

Когда дело доходит до решений, Маньяме указала на действия, которые могут быть предприняты создателями приложений, регуляторами платформ и законодателями.

На этапе проектирования можно встроить больше мер безопасности для ограничения вреда. Например, Маньяме сказала, что есть некоторые приложения, которые могут фотографировать женщин и автоматически снимать их одежду, в то время как та же функция не работает на фотографиях мужчин. Есть способы на бэкенде этих приложений усложнить снятие одежды с кого-либо, независимо от их пола.

Однако после того, как гнусные дипфейки уже созданы и опубликованы, Маньяме сказала, что платформы социальных сетей и обмена сообщениями должны иметь лучшие механизмы для удаления контента после того, как жертвы сообщают о нем. Много раз отдельные жертвы игнорируются. Маньяме сказала, что заметила, что эти крупные компании социальных сетей с большей вероятностью удаляют эти дипфейки в странах, таких как Австралия, где есть сторонние регуляторы, выступающие от имени жертв.

«В любом решении должны быть включены механизмы мониторинга рисков в реальном времени и обеспечения исполнения», — сказала Маньяме. «Одна из вещей, которые мы слышим от многих выживших, заключается в том, что они просто хотят, чтобы их изображение было удалено. Дело даже не в прохождении юридического процесса. Они просто хотят, чтобы этот контент исчез».

Маньяме сказала, что это не слишком большая просьба для многих технологических компаний и государственных регуляторов, потому что многие уже быстро реагируют на удаление неподобающих фотографий с участием детей. Это просто вопрос распространения такого рода защиты на женщин, добавила она.

«Моя озабоченность заключается в том, что была спешка с внедрением законов и политики ИИ-агент без учета некоторых первопричин этого вреда. Это многослойная проблема, и есть много других слоев, которые нужно решить».

Авторы

• Мэриел Падилья для The 19th

Иллюстрация

• Рена Ли

Редактирование

• Флора Пейр для The 19th

Также опубликовано здесь

Фото Стива Джонсона на Unsplash