Искусственный интеллект снова стал горячей темой обсуждения на ежегодном веб-саммите в Лиссабоне, Португалия. В день закрытия мероприятия разоблачительница и активистка Челси Мэннинг выразила обеспокоенность развитием искусственного интеллекта и столкновением между людьми и технологиями.
“Мы живем в эпоху, когда нас окружают технологии”, - сказал Мэннинг. “Я сталкивалась с многочисленными примерами этого столкновения между людьми, которыми мы являемся, и технологиями, и с тем, как технологии формируют наше взаимодействие друг с другом, и как институты являются частью этого”.
Мэннинг говорит, что ее жизнь была сформирована воздействием цифрового мира, включая бездомность, службу в армии и попадание в тюрьму за утечку военных документов WikiLeaks в 2010 году.
“Я позволяю этому влиять на то, как я интегрируюсь, рассматриваю технологии и хочу построить большее, лучшее будущее”, - сказал Мэннинг.
Мэннинг задалась вопросом о мотивах быстрого развития технологии искусственного интеллекта, о том, кому эта технология в конечном итоге принесет пользу, и является ли продвижение искусственного интеллекта коммерциализацией повседневной жизни.
“Неужели мы просто забываем о человеческом элементе и превращаем каждое взаимодействие, которое у нас происходит изо дня в день, в товар?” Сказал Мэннинг. “Этот товар заключается в том, что мы делаем что-то такое же простое, как пролистывание приложения или щелчок по милому значку в виде сердечка”.
Nym при поддержке Андреессена Горовица запускает "Инновационный фонд" стоимостью 300 миллионов долларов, ориентированный на конфиденциальность
Назвав искусственный интеллект и большие языковые модели модными словечками современности, Мэннинг указала на большое количество данных, на которых обучаются эти модели, приведя в качестве примеров Википедию, учебники, видео и изображения.
Мэннинг отметила, что, в отличие от файлов на сервере, эти данные встроены в весы модели и не могут быть просто удалены, что противоречит Общему регламенту Европейского союза по защите данных (GDPR) и правам на неприкосновенность частной жизни, где отдельные лица могут запросить удаление данных.
“Я думаю, что на нас, технологах, лежит ответственность за разработку инструментов, которые учитывают тот факт, что людям необходимо иметь некоторое подобие конфиденциальности, и что коммуникации не должны быть ресурсом, который можно добывать и превращать в товар”, - сказал Мэннинг. “Я не хочу жить в мире, где отношения, которые у нас есть, имеют числовое значение”.
Мэннинг предупредил, что при использовании больших языковых моделей, как только личная информация человека включена, она становится постоянной частью модели, делая удаление невозможным.
В 2021 году Мэннинг присоединилась к швейцарской компании Nym Technologies в качестве консультанта по безопасности и защитника конфиденциальности. В 2020 году Nym Technologies запустила свой проект Nym, ориентированный на конфиденциальность, децентрализованную платформу идентификации на блокчейне Cosmos.
“Я думаю, что мое внимание в более широком плане сосредоточено на важности наличия некоторого подобия конфиденциальности — с помощью шифрования или с помощью технических средств, которые у нас есть, — и способности интуитивно использовать это”, - сказал Мэннинг. “Это не должно быть сложно, и им не должно быть сложно пользоваться”.
Такие знаменитости, как Скарлетт Йоханссон, объявляют войну Глубоким подделкам искусственного интеллекта — обречены ли они?
Мэннинг также подчеркнула рост числа глубоких подделок, созданных искусственным интеллектом.
“За последние шесть месяцев мое внимание привлек не тот факт, что люди используют фейки в публичных выступлениях и дискуссиях, а тот факт, что они могут быть сделаны, и тот факт, что они существуют и используются для того, чтобы поставить под сомнение реальную проверенную информацию”, - сказал Мэннинг. “Я думаю, что эта тенденция продолжает заставлять людей все больше и больше сомневаться в своей собственной реальности”.
Поскольку фейки становятся все более продвинутыми, политики беспокоятся, что они могут повлиять на предстоящие выборы или разжечь ненависть в Интернете. Одним из решений, предложенных Мэннингом, было использование криптографии для проверки информации.
Ранее Мэннинг рассказала Decrypt, что Биткойн привлек ее страстью к криптографии, защите информации и созданию децентрализованных сетей на основе криптографии.
“Я знаю, что привлекательно иметь возможность сказать: "Я могу выбирать свою собственную реальность, я могу выбирать то, что мне нравится”, - сказал Мэннинг. “Но реальность такова, что реальный физический материальный мир в какой-то момент столкнется с этим. И я думаю, что когда дело касается климата в частности, мы не сможем просто притворяться, что это не так”.
" 
