Более 2600 технологических лидеров и исследователей подписали открытое письмо, призывающее к временной “паузе” в дальнейшем развитии искусственного интеллекта (ИИ), опасаясь “серьезных рисков для общества и человечества”.
Генеральный директор Tesla Илон Маск, соучредитель Apple Стив Возняк и множество руководителей ИИ, технических специалистов и исследователей были среди подписавших письмо, автором которого 22 марта стал американский аналитический центр Future of Life Institute (FOLI).
Институт призвал все компании, занимающиеся искусственным интеллектом, “немедленно приостановить” обучение систем ИИ, более мощных, чем GPT-4, по крайней мере, на шесть месяцев, разделяя опасения, что “конкурентный интеллект человека может представлять серьезные риски для общества и человечества”
“Продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять с соответствующей тщательностью и ресурсами. К сожалению, такого уровня планирования и управления не происходит ”, - написал институт в своем письме.
GPT-4 - это последняя версия чат-бота OpenAI на базе искусственного интеллекта, который был выпущен 14 марта. На сегодняшний день он прошел одни из самых строгих экзаменов в средней школе США и на юридическом факультете в пределах 90-го процентиля. Предполагается, что он в 10 раз более продвинут, чем оригинальная версия ChatGPT.
Между фирмами, занимающимися ИИ, идет “бесконтрольная гонка” за разработку более мощного ИИ, который “никто – даже их создатели – не может понять, предсказать или надежно контролировать".
Среди главных проблем было то, могут ли машины наводнять информационные каналы, потенциально “пропагандой и неправдой”, и будут ли машины “автоматизировать” все возможности трудоустройства.
Альтман в своем блоге от 24 февраля подчеркнул необходимость подготовки к роботам с искусственным общим интеллектом (AGI) и искусственным сверхразумом (ASI).
Вместо этого он сказал, что исследования и разработки должны быть замедлены для таких вещей, как биологическое оружие и ядерное оружие:
В дополнение к моделям изучения языка, таким как ChatGPT, технология глубокой подделки на базе искусственного интеллекта использовалась для создания убедительных изображений, аудио- и видеоманикуляров. Технология также использовалась для создания художественных работ, созданных искусственным интеллектом, при этом были высказаны некоторые опасения по поводу того, может ли она нарушать законы об авторском праве в определенных случаях.
Генеральный директор Galaxy Digital Майк Новограц недавно сказал инвесторам, что он был шокирован тем, сколько внимания со стороны регулирующих органов уделяется криптографии, в то время как искусственному интеллекту уделяется мало.
“Когда я думаю об ИИ, меня шокирует, что мы так много говорим о крипторегулировании и ничего о регулировании ИИ. Я имею в виду, я думаю, что правительство полностью перевернуло все с ног на голову ”, - высказал он мнение во время звонка акционерам 28 марта.
" 
