Старший советник OpenAI по готовности к созданию искусственного общего интеллекта Майлз Брандейдж ушёл из компании после шести лет работы. В своём заявлении об уходе Брандейдж отметил, что покидает компанию, чтобы заниматься исследованиями в области политики в сфере ИИ, не связанной с технологической отраслью.
Его уход происходит в то время, когда OpenAI Сэма Альтмана борется с внутренними проблемами и преобразованиями, такими как внедрение новых продуктов, например, моделей согласованности, для стимулирования развития ИИ.
Эксперт по политике OpenAI Майлз Брандейдж уходит в отставку
Майлз Брандейдж стал членом OpenAI в 2018 году и помогал с различными политическими вопросами, а также с вопросами безопасности. Его работа в основном была связана с правильным управлением и использованием новейших и наиболее эффективных систем искусственного интеллекта, таких как ChatGPT.
На протяжении многих лет Брандейдж вносила свой вклад в развитие программы «красных команд» компании и участвовала в создании отчётов «системных карт» о сильных и слабых сторонах моделей искусственного интеллекта OpenAI.
Источник: X
Будучи членом группы по подготовке к внедрению AGI, Брандейдж давал этические рекомендации руководителям, в том числе генеральному директору Сэму Альтману, по вопросам, связанным с ИИ. Он сыграл важную роль в развитии культуры безопасности OpenAI в период становления компании.
«Работа в OpenAI — это невероятно перспективная возможность», — отметил Брандейдж на своей странице в социальной сети, добавив, что ему было тяжело уйти. Он похвалил миссию компании, но также подчеркнул важность участия большего числа независимых исследователей в обсуждении политики в области ИИ.
Переходный период на фоне смены руководства
Уход Майлза Брандейджа примечателен тем, что является частью серии изменений в OpenAI. В последние недели компанию также покинули технический директор Мира Мурати и вице-президент по исследованиям Баррет Зоф. Сэм Альтман поддержал решение Брандейджа уйти из OpenAI, заявив, что Брандейдж планирует заниматься исследованиями в области внешней политики, что пойдёт на пользу OpenAI.
Подразделение экономических исследований OpenAI, которое ранее входило в состав команды по подготовке AGI, будет управляться новым главным экономистом компании Ронни Чаттерджи. Джошуа Ачиам, руководитель отдела согласования задач, возьмёт на себя часть обязанностей, которые ранее выполнял Брандейдж в рамках проектов.
Следующей задачей, которую планирует решить Майлз Брандейдж, является регулирование ИИ, влияние ИИ на экономику и безопасность искусственного интеллекта в будущем. Он говорит, что это важные факторы, поскольку они помогают решать проблемы, связанные с применением искусственного интеллекта в отрасли, включая использование таких моделей, как модели согласованности.
Модели согласованности и новые разработки в области искусственного интеллекта
В то же время компания OpenAI Сэма Альтмана представила модели согласованности — новый подход к ускорению процессов выборки в искусственном интеллекте. Эти модели, предназначенные для создания высококачественных выборок быстрее, чем традиционные диффузионные модели, представляют собой значительный прорыв в технологии искусственного интеллекта.
Выпуск этих моделей является частью более масштабных усилий компании по расширению своих возможностей и решению проблем с эффективностью, особенно после получения финансирования в размере 6,6 миллиарда долларов.
Разработка моделей согласованности происходит в то время, когда компания сталкивается с повышенным вниманием к своей деятельности, в том числе из-за обвинений в нарушении авторских прав при обучении своих моделей. Бывшие сотрудники OpenAI, такие как Сучир Баладжи, выразили обеспокоенность методами работы компании, что привело к продолжающимся дебатам о том, как следует управлять технологиями ИИ.
" 
