" Компания, разработавшая популярный чат-бот с искусственным интеллектом (ИИ) ChatGPT, заявляет, что сформирует команду, которая будет контролировать и управлять рисками, связанными со сверхинтеллектуальными системами ИИ.
В объявлении от 5 июля в своем блоге OpenAI сообщила, что новая команда будет создана для «управления и контроля систем ИИ, которые намного умнее нас».
Некоммерческая организация заявила, что считает, что сверхразум станет «самой эффективной технологией, которую когда-либо изобретало человечество», и поможет решить многие проблемы, хотя и существуют риски.
«Огромная сила сверхразума также может быть очень опасной и может привести к лишению человечества прав и даже к вымиранию».
Компания заявила, что считает, что сверхразум может появиться уже в этом десятилетии.
Она заявила, что выделит 20% уже обеспеченных вычислительных мощностей для усилий и направит их на создание автоматизированного исследователя для выравнивания «человеческого уровня». Автоматизированный исследователь теоретически должен помочь команде управлять безопасностью сверхразума и привести его в соответствие с «человеческими намерениями».
Он назвал своего главного научного сотрудника Илью Суцкевера и руководителя исследовательской лаборатории Яна Лейке соруководителями работы. Исследователям и инженерам в области машинного обучения было открыто предложено присоединиться к команде.
Это объявление от OpenAI сделано в то время, когда правительства всего мира рассматривают меры по контролю за разработкой, развертыванием и использованием систем искусственного интеллекта.
Регулирующие органы в Европейском Союзе добились наибольшего прогресса в регулировании ИИ. 14 июня Европейский парламент принял Закон ЕС об искусственном интеллекте, который обязывает такие инструменты, как ChatGPT, раскрывать весь контент, созданный искусственным интеллектом, наряду с другими мерами.
Законопроект требует дополнительного обсуждения до его реализации. Тем не менее, это вызвало протест разработчиков ИИ по поводу его потенциального влияния на инновации.
В мае генеральный директор OpenAI Сэм Альтман отправился в Брюссель, чтобы поговорить с регулирующими органами ЕС о потенциально негативных последствиях чрезмерного регулирования.
Законодатели в Соединенных Штатах также представили Закон о национальной комиссии по искусственному интеллекту, чтобы создать орган, который будет принимать решения о подходе страны к искусственному интеллекту. Регуляторы в США также открыто заявляют о своем желании регулировать технологию.
30 июня сенатор Майкл Беннет написал письмо крупным технологическим компаниям, в том числе OpenAI, в котором призвал маркировать контент, созданный ИИ.
