Пионер искусственного интеллекта (ИИ) по прозвищу “Крестный отец ИИ” подал в отставку со своей должности в крупной технологической фирме Google, чтобы он мог более открыто говорить о потенциальных опасностях технологии.
До ухода доктор Джеффри Хинтон более десяти лет работал в Google над алгоритмами машинного обучения. По сообщениям, он получил свое прозвище из-за своей пожизненной работы над нейронными сетями.
Однако в твите от 1 мая Хинтон пояснил, что он оставил свою должность в Google, "чтобы я мог поговорить об опасностях ИИ”.
В интервью New York Times его больше всего беспокоило использование искусственного интеллекта для наводнения Интернета поддельными фотографиями, видео и текстом, где он выразил обеспокоенность тем, что многие “больше не смогут знать, что является правдой”.
Другие опасения Хинтона касались технологий искусственного интеллекта, которые захватили рабочие места. Он считает, что в будущем ИИ может представлять угрозу для человечества из-за того, что он изучает неожиданное поведение на основе огромных объемов данных, которые он анализирует.
Он также выразил обеспокоенность продолжающейся гонкой вооружений ИИ, которая направлена на дальнейшее развитие технологии для использования в смертоносных автономных системах вооружения (LAWS).
Хинтон также выразил некоторое сожаление по поводу дела своей жизни:
“Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой”.
В последние месяцы регулирующие органы, законодатели и руководители технологической отрасли также выражали обеспокоенность развитием ИИ. В марте более 2600 технических руководителей и исследователей подписали открытое письмо, в котором призвали временно приостановить разработку ИИ, сославшись на “серьезные риски для общества и человечества”.
Группа из 12 законодателей Европейского союза подписала аналогичное письмо в апреле, а недавний законопроект ЕС классифицирует инструменты ИИ на основе их уровней риска. Соединенное Королевство также выделяет 125 миллионов долларов на поддержку целевой группы по разработке "безопасного ИИ”.
ИИ используется в фальшивых новостных кампаниях и розыгрышах
Сообщается, что инструменты искусственного интеллекта уже используются для дезинформации: недавние примеры того, как СМИ обманом публиковали фальшивые новости, в то время как одно немецкое издание даже использовало искусственный интеллект для фабрикации интервью.
1 мая Binance заявила, что стала жертвой клеветнической кампании, созданной ChatGPT, и поделилась доказательствами чат-бота, утверждающего, что его генеральный директор Чанпэн “CZ” Чжао был членом молодежной организации Коммунистической партии Китая.
Бот ссылался на статью в Forbes и страницу в LinkedIn, с которой, как он утверждал, он получил информацию, однако статья, похоже, не существует, а профиль в LinkedIn не принадлежит Чжао.
На прошлой неделе группа шутников также обманула несколько СМИ по всему миру, включая Daily Mail и The Independent.
Daily Mail опубликовала, а позже удалила статью о предполагаемом канадском актере по имени “Святой Фон Колуччи", который, как говорили, умер после пластической операции, сделавшей его более похожим на южнокорейскую поп-звезду.
Новость появилась из пресс-релиза о смерти актера, который был отправлен организацией, выдававшей себя за фирму по связям с общественностью и использовавшей изображения, сгенерированные искусственным интеллектом.
В апреле немецкое издание Die Aktuelle опубликовало интервью, в котором использовало ChatGPT для синтеза беседы с бывшим гонщиком Формулы-1 Михаэлем Шумахером, получившим серьезную черепно-мозговую травму в результате несчастного случая на лыжах в 2013 году.
Сообщалось, что семья Шумахера подаст в суд на статью.
" 
