Популярная система искусственного интеллекта (ИИ) ChatGPT от OpenAI пережила небольшой публичный сбой в период с 20 по 21 февраля, в результате которого она сбила с толку пользователей, извергая тарабарщину и другие странности, включая необоснованный псевдошекспир.
По состоянию на 8: 14 по тихоокеанскому времени 21 февраля проблема, по-видимому, решена. Последнее обновление на странице состояния OpenAI указывает, что “ChatGPT работает нормально”. Это указывает на то, что проблема была решена через 18 часов после того, как OpenAI впервые сообщила о ней.
chatgpt, по-видимому, прямо сейчас сходит с рельсов, и никто не может объяснить почему pic.twitter.com/0XSSsTfLzP
— шон макгуайр (@seanw_m) 21 февраля 2024 г.
Что-то в моем файле данных запустило ChatGPT по спирали, которая закончилась этим ... говоря как Шекспир? К его чести, это сработало .... #прекращение pic.twitter.com/4wHxVzF0Pw
— Рыночные выборы NCAAB (@cbbmarketpicks) 21 февраля 2024 г.
На данный момент неясно, что именно вызвало проблему, и OpenAI еще не ответила на наш запрос о комментариях.
Основываясь на беглом изучении сообщенных результатов, может показаться, что в ChatGPT произошла некоторая путаница с токенизацией. Из-за характера "черного ящика" больших языковых моделей, построенных по технологии GPT, ученые OpenAI, возможно, не смогут точно диагностировать, что пошло не так. Если это так, то, вероятно, команда сосредоточится на превентивных мерах, таких как внедрение дополнительных ограждений от длинных строк очевидной тарабарщины.
Настроения в социальных сетях, похоже, указывают на то, что любой ущерб, причиненный чат-ботом, в целом ограничивался пустой тратой времени пользователей, ожидающих осмысленных ответов на запросы.
Однако этот случай иллюстрирует потенциал генеративных систем искусственного интеллекта отправлять неожиданные, галлюцинирующие или непоследовательные сообщения в любое время. Подобные нежелательные ответы могут иметь негативные последствия.
Например, Air Canada недавно обнаружила, что не может винить алгоритм, когда суд обязал ее выплатить частичное возмещение клиенту, который получил неверную информацию о правилах бронирования от чат-бота службы поддержки клиентов.
В мире криптовалют инвесторы все чаще используют автоматизированные системы, построенные на технологиях LLMS и GPT, для создания портфелей и совершения сделок. Как показывает недавний сбой ChatGPT, даже самые надежные модели могут столкнуться с неожиданным отказом в любом масштабе.
" 
