" Илон Маск давно рекламировал потенциал интерфейсов мозг-компьютер (BCI), которые дадут людям возможность управлять машинами с помощью разума. Но коммуникация — это улица с двусторонним движением. Что происходит, когда компьютеры перестают получать команды и начинают их отправлять?
Группа исследователей в Китае недавно разработала интерфейс машины, который позволяет им манипулировать тем, что субъект может или не может видеть. Целью исследования было изучение вмешательств для людей с частичной или полной потерей зрения.
Чтобы проверить свою гипотезу, исследователи провели эксперименты на седированных кошках и измерили активность их мозга, когда они испытывали определенные формы внешней стимуляции.
Согласно исследовательской работе группы:
«Эта демонстрация подтверждает возможность того, что внешняя фокальная стимуляция может получить доступ к функциональным схемам, которые, как известно, лежат в основе нормального зрительного восприятия».
Визуальные протезы
Исследователи показали, что технически возможно, чтобы система, подключенная к интерфейсу мозг-компьютер, активировала те же «цепи» в глазах и мозге человека, которые активируются, когда он что-то видит.
Хотя это исследование было сосредоточено конкретно на кошках, предыдущие исследования показали, что аналогичные методы способны создавать нечеткие изображения чисел и других простых картинок в сознании людей без зрения.
Группа в Китае представила несколько новых методов в своей статье. Возможно, наиболее важным из них является то, что по сути является способностью взаимодействовать со зрительной корой на «колончатом уровне».
Это может привести к протезированию, которое позволит BCI удалять, вставлять или изменять визуальную информацию даже у некоторых людей, которые полностью слепы.
Что может пойти не так?
BCI, как правило, имеют функции как «чтения», так и «записи». Если представить мозг и нервную систему как компьютер, а BCI — как сетевое устройство, предназначенное для подключения его к другому компьютеру, можно представить, что оба компьютера могли бы технически иметь одни и те же административные привилегии.
Это означает, что, как показала Neuralink Маска, человек с BCI может управлять функциями компьютера с помощью своих мыслей. Это также означает, что теоретически компьютер может отправлять команды обратно.
Китайская исследовательская группа обсуждает несколько теоретических ситуаций, в которых BCI, способный взаимодействовать с контуром глаз-мозг, может оказать серьезное влияние. Хотя исследование было сосредоточено исключительно на положительных вариантах использования, несложно экстраполировать потенциальный вред из утверждений группы.
Во-первых, такое устройство можно использовать для влияния на поведение человека. Хотя это может иметь множество преимуществ для людей с такими состояниями, как нистагм — недуг, вызывающий неконтролируемые движения глаз, — также существует возможность его неблаговидного использования.
Одна из антиутопических точек зрения предполагает механизм, который заставляет нас обращать внимание на контент. В этом сценарии реклама не просто занимала бы место на вашем экране, вы буквально были бы вынуждены сосредоточить свое визуальное восприятие на рекламе.
В другом, более мрачном сценарии, злоумышленник с достаточным доступом (будь то человек или ИИ) может отправить сигнал в BCI жертвы, вызывая у нее головокружение, потерю равновесия или тошноту.
Устройство также может использоваться для изменения информации в реальном времени, потенциально размывая лица или заставляя цифры в транзакции выглядеть по-другому. И хотя его также можно использовать для восстановления зрения у слепого человека, его также можно использовать, чтобы заставить кого-то галлюцинировать полностью ложными изображениями.
Хотя очевидно, что ученые в Китае и других лабораториях, работающих над BCI, таких как Neuralink Маска, разрабатывают технологию для помощи людям, идея представления этих устройств широкой публике в качестве «улучшения» потенциально чревата риском.
