Британская интернет-компания Internet Watch Foundation (IWF) снова бьет тревогу по поводу быстрого распространения материалов о сексуальном насилии над детьми, созданных искусственным интеллектом (CSAM).
В новом отчете, опубликованном в среду, группа сообщила, что всего за один месяц на одном форуме darkweb было найдено более 20 254 изображений CSAM, созданных искусственным интеллектом, и что поток такого отвратительного контента может “захлестнуть” Интернет.
По мере того, как генераторы изображений, созданные искусственным интеллектом, становятся все более совершенными, способность создавать реалистичные копии человеческих существ растет не по дням, а по часам. Генераторы изображений с искусственным интеллектом, такие как Midjourney, Runway, Stable Diffusion и Dall-E от OpenAI, - это лишь несколько платформ, способных создавать реалистичные изображения.
Эти облачные платформы, которые широко доступны для общественности, внедрили существенные ограничения, правила и средства контроля, чтобы предотвратить использование их инструментов злоумышленниками для создания оскорбительного контента. Но энтузиасты искусственного интеллекта регулярно ищут способы обойти эти барьеры.
“Важно, чтобы мы донесли реалии AI CSAM до широкой аудитории, потому что нам нужно обсудить темную сторону этой удивительной технологии”, - заявила в отчете генеральный директор фонда Сьюзи Харгривз.
Заявив, что ее “худший кошмар” стал явью, IWF заявила, что в настоящее время отслеживает случаи CSAM, созданные искусственным интеллектом, с реальными жертвами сексуального насилия. Британская группа также выделила изображения знаменитостей, которых обесценивают и которыми манипулируют, чтобы они выглядели жертвами жестокого обращения, а также сфабрикованные фотографии знаменитых детей.
“Как будто жертвам недостаточно знать, что об их насилии могут рассказывать в каком-то темном уголке Интернета, теперь они рискуют столкнуться с новыми изображениями того, как они сами подвергаются насилию новыми и ужасными способами, которые ранее не представлялись”, - сказал Харгривз.
Одной из основных проблем распространения CSAM, созданных искусственным интеллектом, является то, что это может отвлечь ресурсы правоохранительных органов от выявления и устранения фактического насилия, заявляет IWF.
Фонд основан в 1996 году и является некоммерческой организацией, занимающейся мониторингом Интернета на предмет содержания материалов о сексуальном насилии, особенно нацеленных на детей.
В сентябре IWF предупредила, что организации педофилов обсуждают и обмениваются советами по созданию незаконных изображений детей с использованием моделей искусственного интеллекта с открытым исходным кодом, которые можно загружать и запускать локально на персональных компьютерах.
“Преступники могут легально загружать все, что им нужно для создания этих изображений, а затем могут создавать столько изображений, сколько захотят, в автономном режиме, без возможности обнаружения”, - заявили в IWF.
Британская группа призвала к международному сотрудничеству в борьбе с бедствием CSAM, предложив многоуровневый подход, включающий изменения в соответствующие законы, обновление подготовки правоохранительных органов и установление нормативного надзора за моделями искусственного интеллекта.
Разработчикам искусственного интеллекта IWF рекомендует запретить использование их искусственного интеллекта для создания материалов о жестоком обращении с детьми, отменить индексацию связанных моделей и уделить приоритетное внимание удалению материалов о жестоком обращении с детьми из их моделей.
“Это глобальная проблема, которая требует от стран совместной работы и обеспечения соответствия законодательства поставленной цели", - сказал Харгривз в заявлении, ранее опубликованном Decrypt, отметив, что IWF эффективно ограничивает CSAM в своей родной стране.
“Тот факт, что менее 1% криминального контента размещается в Великобритании, указывает на наши отличные рабочие партнерские отношения с британскими полицейскими силами и агентствами, и мы также будем активно взаимодействовать с правоохранительными органами в связи с этой тревожной новой тенденцией”, - сказал Харгривз. "Мы призываем премьер-министра Великобритании решительно включить этот вопрос в повестку дня глобального саммита по безопасности искусственного интеллекта, который пройдет в Великобритании в ноябре”.
Хотя IWF заявляет, что в Великобритании происходят удаления форумов darkweb, на которых размещены незаконные CSAM, группа заявила, что удаление может быть более сложным, если веб-сайт размещен в других странах.
Предпринимаются многочисленные согласованные усилия по борьбе со злоупотреблениями искусственным интеллектом. В сентябре президент Microsoft Брэд Смит предложил использовать политику KYC, разработанную по образцу тех, что используются финансовыми учреждениями, чтобы помочь выявлять преступников, использующих модели искусственного интеллекта для распространения дезинформации и злоупотреблений.
В июле штат Луизиана принял закон, ужесточающий наказание за продажу и хранение детской порнографии, созданной искусственным интеллектом, в котором говорится, что любому, кто признан виновным в создании, распространении или хранении незаконных поддельных изображений, изображающих несовершеннолетних, может грозить обязательное тюремное заключение сроком от пяти до 20 лет, штраф в размере до 10 000 долларов или и то, и другое.
В августе Министерство юстиции США обновило страницу "Руководство гражданина по федеральному закону США о детской порнографии". На случай возникновения какой-либо путаницы Министерство юстиции подчеркнуло, что изображения детской порнографии не защищены Первой поправкой и являются незаконными в соответствии с федеральным законом.
" 
