Фальшивые похищения с использованием искусственного интеллекта

В результате странного инцидента с “кибер-похищением” пропавший 17-летний китайский студент по обмену был найден живым в палатке в ледяной глуши штата Юта на этой неделе. Мошенники вынудили его отправиться в это путешествие, потребовав выкуп в размере 80 000 долларов от его родителей, заявив, что похитили его.

Хотя пока неизвестно, использовался ли ИИ в этом инциденте, это пролило свет на растущую тенденцию фальшивых похищений, часто нацеленных на китайских студентов по обмену. Департамент полиции Ривердейла заявил, что мошенники часто убеждают жертв изолироваться, угрожая причинить вред их семьям, а затем используют тактику запугивания и фальшивые фотографии и аудио — иногда постановочные, иногда сгенерированные с помощью ИИ — “похищенных жертв” для вымогательства денег.

В прошлом году жительница Аризоны Дженнифер ДеСтефано свидетельствовала перед Сенатом США, что ее обманули с помощью технологии искусственного интеллекта deepfake, заставив думать, что ее 15-летняя дочь Бриана была похищена. Мошенники, очевидно, узнали, что подросток уехал на лыжную прогулку, а затем позвонили Дженнифер фальшивым голосом искусственного интеллекта, имитирующим рыдания Брианы: “Мама, я у этих плохих людей, помоги мне, помоги мне”.

Затем мужчина пригрозил накачать “Бриану” наркотиками и убить ее, если не будет выплачен выкуп. К счастью, прежде чем она смогла передать деньги, другой родитель упомянул, что слышал о подобных мошенничествах с ИИ, и Дженнифер смогла связаться с настоящей Брианой, чтобы узнать, что она в безопасности. Копы не заинтересовались ее отчетом, назвав его “розыгрышем”.

Сандер ван дер Линден, профессор психологии Кембриджского университета, советует людям избегать размещения планов поездок в Интернете и как можно меньше рассылать спам абонентам, чтобы они не смогли уловить ваш голос. Если у вас есть много аудио- или видеоматериалов в Интернете, возможно, вы захотите удалить их.