" Соучредитель Ethereum Виталик Бутерин заявил, что временная остановка общедоступных вычислительных ресурсов может стать способом «выиграть больше времени для человечества» перед лицом потенциально опасной формы сверхинтеллекта ИИ.
В сообщении в блоге от 5 января, последовавшем за его сообщением от ноября 2023 года, пропагандирующим идею «защитного акселерационизма» или d/acc, Бутерин сказал, что до появления сверхразумного ИИ может быть всего пять лет, и неизвестно, будет ли результат позитивным.
Бутерин сказал, что «мягкая пауза» в работе компьютерного оборудования промышленного масштаба может стать вариантом замедления развития ИИ. Это может сократить доступную глобальную вычислительную мощность до 99% на один-два года, «чтобы выиграть больше времени для человечества на подготовку».
Источник: Виталик Бутерин.
Сверхинтеллект ИИ — это теоретическая модель ИИ, которую обычно определяют как гораздо более умного, чем самые блестящие люди во всех областях знаний.
Многие технические руководители и исследователи выразили обеспокоенность по поводу ИИ, причем более 2600 человек в открытом письме от марта 2023 года призвали остановить разработку ИИ из-за «серьезных рисков для общества и человечества».
Бутерин отметил, что в его посте, посвященном d/acc, содержится лишь «расплывчатый призыв не создавать рискованные формы сверхинтеллекта», и он хотел поделиться своими мыслями о сценарии, «где риск ИИ высок».
Тем не менее, Бутерин сказал, что он будет настаивать на мягкой паузе в отношении аппаратного обеспечения, поскольку «убежден, что нам нужно что-то более «мускулистое», чем правила об ответственности».
Он отметил, что предложения по аппаратной паузе включают определение местонахождения чипов искусственного интеллекта и требование их регистрации. Бутерин предположил, что оборудование искусственного интеллекта промышленного масштаба может быть оснащено чипом, который позволит ему продолжать работу только в том случае, если оно будет еженедельно получать три подписи от крупных международных организаций.
«Подписи будут независимыми от устройства (при желании мы могли бы даже потребовать доказательство с нулевым разглашением того, что они были опубликованы в блокчейне), так что это будет принцип «все или ничего, — написал Бутерин. — Не было бы практического способа разрешить продолжение работы одного устройства без авторизации всех остальных устройств».
Идея d/acc, которую поддерживает Бутерин, выступает за осторожный подход к развитию технологий, в отличие от эффективного акселерационизма, или e/acc, который настаивает на неограниченных и необузданных технологических изменениях.
