Корпорация Майкрософт, крупный инвестор в OpenAI, временно заблокировала доступ своих сотрудников к ChatGPT, известному инструменту искусственного интеллекта OpenAI.
Позже было установлено, что блокировка была непреднамеренным результатом тестов системы безопасности для больших языковых моделей (LLM).
Корпорация Майкрософт Ненадолго блокирует использование ChatGPT
Информация о действиях Microsoft стала известна в четверг, когда сотрудникам софтверного гиганта было запрещено использовать ChatGPT. Microsoft объявила о внутреннем:
“Из-за проблем с безопасностью и данными ряд инструментов искусственного интеллекта больше недоступен для использования сотрудниками”.
Ограничение касалось не только ChatGPT, но и других внешних служб искусственного интеллекта, таких как Midjourney и Replika.
Несмотря на первоначальную путаницу, Microsoft восстановила доступ к ChatGPT после выявления ошибки. Представитель позже пояснил,
“Мы тестировали системы контроля конечных точек для LLM и непреднамеренно включили их для всех сотрудников”.
Корпорация Майкрософт рекомендовала своим сотрудникам и клиентам пользоваться такими сервисами, как Bing Chat Enterprise и ChatGPT Enterprise, подчеркивая их превосходную защиту конфиденциальности и безопасности.
Отношения между корпорацией Майкрософт и OpenAI являются тесными. Корпорация Майкрософт использует службы OpenAI для улучшения своей операционной системы Windows и приложений Office, причем эти службы работают в облачной инфраструктуре Microsoft Azure.
ChatGPT, сервис с более чем 100 миллионами пользователей, известен своими человеческими реакциями на сообщения чата.
Изменение числа посетителей веб-сайта ChatGPT с момента запуска. Источник: ToolTester
Она прошла обучение работе с широким спектром интернет-данных, что привело к тому, что некоторые компании ограничили ее использование, чтобы предотвратить обмен конфиденциальными данными. В обновлении Microsoft рекомендуется использовать их собственный инструмент Bing Chat, который также основан на моделях искусственного интеллекта OpenAI.
Взвешивание рисков
После этих событий OpenAI, материнская компания ChatGPT, создала группу по обеспечению готовности. Эта команда, возглавляемая Александром Мадри, директором Центра развертываемого машинного обучения Массачусетского технологического института, ставит своей целью оценку рисков, создаваемых моделями искусственного интеллекта, и управление ими.
Эти риски включают индивидуальное убеждение, кибербезопасность и угрозы дезинформации.
Инициатива OpenAI появилась в то время, когда мир сталкивается с потенциальными рисками frontier AI, определяемыми как:
“Высокопроизводительные модели искусственного интеллекта общего назначения, которые могут выполнять широкий спектр задач и соответствовать или превосходить возможности, имеющиеся в самых продвинутых моделях сегодняшнего дня”.
Поскольку искусственный интеллект продолжает развиваться и формировать наш мир, такие компании, как Microsoft и OpenAI, прилагают усилия для обеспечения его безопасного и ответственного использования, одновременно расширяя границы возможностей искусственного интеллекта.
" 
