Группа исследователей из Берлинского университета имени Гумбольдта разработала модель искусственного интеллекта (ИИ) , отличающуюся тем, что она была намеренно настроена на получение результатов с выраженной привязанностью к типу личности человека.
Модель команды, получившая название OpinionGPT, представляет собой доработанный вариант Llama 2 , системы искусственного интеллекта, схожей по возможностям с ChatGPT от OpenAI или Claude 2 от Anthropic.
Используя процесс, называемый точной настройкой на основе инструкций, OpinionGPT может предположительно реагировать на запросы, как если бы он был представителем одной из 11 групп : американец, немец, латиноамериканец, ближневосточный, подросток, кто-то старше 30 лет, пожилой человек, мужчина, женщина, либерал или консерватор.
Объявляем "OpinionGPT: очень предвзятая GPT-модель"! Попробуйте это здесь: https://t.co/5YJjHlcV4n
Чтобы исследовать влияние предвзятости на ответы модели, мы задали простой вопрос: что, если мы настроим модель #GPT только на тексты, написанные политически правыми людьми?
[1/3]
— Алан Акбик (@alan_akbik) 8 сентября 2023 года
OpinionGPT был уточнен на основе массива данных, полученных из сообществ “AskX”, называемых субредактами, на Reddit. Примерами таких субредактов могут быть r / AskaWoman и r / AskAnAmerican.
Команда начала с поиска субредактов, связанных с 11 конкретными группами людей, и выбрала 25 000 самых популярных постов из каждого. Затем в нем сохраняются только те сообщения, которые соответствовали минимальному порогу для положительных голосов, не содержали встроенной цитаты и были меньше 80 слов.
С тем, что осталось, создается впечатление, что исследователи использовали подход, аналогичный конституционному ИИ Anthropic. Вместо того, чтобы создавать совершенно новые модели для представления каждой метки типа личности, они, по сути, доработали единственную модель Llama2 с 7 миллиардами параметров с отдельными наборами инструкций для каждой ожидаемой реакции.
" 
