" Новое исследование показывает, что ChatGPT может сфабриковать убедительные медицинские данные, согласно отчету Cosmos Magazine опубликовано в воскресенье.
Авторы нового исследования теперь утверждают, что это облегчит публикацию мошеннических исследований, которые могут поставить под сомнение всю законную работу.
“ В этой статье мы определяем, как чат-боты, созданные AI, могут использоваться для создания медицинских исследований, на примерах», - отметили авторы.
"Кроме того, мы проверяем точность бесплатных онлайн-детекторов ИИ. Затем подчеркивается опасность сфабрикованных исследований, а также причины, по которым можно было бы сфабриковать медицинские исследования и возможные средства защиты от этой надвигающейся угрозы, ” они указали в своей статье.
Исследователи пришли к такому выводу после запроса ChatGPT создать реферат для научной статьи о влиянии двух разных препаратов на ревматоидный артрит. Они просили, чтобы бот AI использовал данные с 2012 по 2020 год.
ChatGPT произвел реалистичный реферат и даже дал реальные цифры. Кроме того, когда исследователи предложили это, он заявил, что один препарат работал лучше другого, опасное подтверждение для чат-бота.
ChatGPT рассматривает только данные до 2019 года, у них не может быть никаких данных за 2020 год, но он утверждал, что взял свои вспомогательные номера из частной базы данных, для доступа к которой требуется плата.
“ В течение одного дня можно создать десятки тезисов, которые можно представить на различных конференциях для публикации, ”- говорят исследователи.
“ После принятия тезисов для публикации можно использовать ту же технологию для написания своей рукописи, полностью основанной на сфабрикованных данных и фальсифицированных результатах. ”
Положительные способы использования ИИ
Несмотря на свои предупреждения, исследователи отметили, что у исследователей могут быть позитивные способы использования ИИ.
“ Использование ИИ для исследований не является изначально злонамеренным делом, ”- они заявили.
“ Просить AI проверить работу по грамматике или написать заключение о законных результатах, обнаруженных в исследовании, - это другие виды использования, которые ИИ может включить в процесс исследования, чтобы исключить занятую работу, которая может замедлить процесс научных исследований. ”
