Стремясь демократизировать разработку инструментов искусственного интеллекта, создатель AI Клод Anthropic объединился с некоммерческим проектом коллективного разума, чтобы изучить другой курс развития искусственного интеллекта, опросив 1000 американцев для разработки конституции искусственного интеллекта.
“Искусственный интеллект окажет преобразующее влияние на мир”, - сказала Decrypt соучредитель проекта коллективного разума Дивья Сиддарт. “Однако очень немногие люди могут точно решать, как это выглядит. Мы хотели выстроить процессы так, чтобы это больше не было правдой”.
Проект Collective Intelligence, запущенный в январе Сиддартом — политэкономистом и социальным технологом — и исследователем, писательницей и инженером Саффрон Хуанг, направлен на продвижение коллективного разума для коллективного прогресса. В марте CIP заключил партнерство с Anthropic в рамках Коллективной конституционной инициативы в области искусственного интеллекта для разработки модели искусственного интеллекта, разработанной с привлечением внешних источников, и изучения того, как демократические процессы могут повлиять на развитие искусственного интеллекта.
“Мы хотели свести воедино часть работы, проделанной в пространстве демократии, в пространстве коллективного разума, вокруг того, что значит принимать правильные решения за кого и кто в них участвует”, - сказал Сиддарт. “Существует много исследований по этому вопросу с использованием преобразующих технологий, особенно искусственного интеллекта, над которыми мы оба работаем”.
Проект, как сообщил Anthropic в своем блоге, попросил 1000 представителей американской общественности помочь разработчику искусственного интеллекта выбрать правила для его чат-бота с искусственным интеллектом. По словам Anthropic, размер выборки должен был представлять взрослых американцев в зависимости от возраста, пола, дохода и местоположения. Участники могли выбирать из списка правил для искусственного интеллекта или придумать свои собственные.
Anthropic не сразу ответила на запрос Decrypt о комментариях.
По данным Anthropic, участники внесли 1117 заявлений. Они отдали более 38 000 голосов по таким вопросам, как, должен ли ИИ проводить дискриминацию по признаку расы или сексуальных предпочтений, добавив, что, хотя мнения были разными, по большинству заявлений была достигнута высокая степень консенсуса.
Хотя в ходе опроса была предпринята попытка собрать разнообразную выборку, Сиддарт признал, что будущие эксперименты должны выходить за рамки технически подкованных и богатых американцев.
“Это касается только людей в США — очевидно, что они крайне ограничены с точки зрения всех людей в мире”, - сказала она. “Во всяком случае, как и у многих людей, разрабатывающих технологии, у меня, вероятно, больше совпадающих ценностей с людьми в США и многих других местах”.
Сиддарт сказал, что проект коллективного разума также работал с конкурирующим разработчиком ИИ OpenAI над другими демократическими проектами ИИ. Проект Конституции ИИ был создан только с использованием моделей искусственного интеллекта Anthropics Claude.
“Я думаю, именно поэтому это хорошее сравнение, потому что мы берем модель, которая [Anthropic] уже тренировалась на конституции, написанной исследователями Anthropic, и сравниваем ее непосредственно с той же моделью”, - сказал Сиддарт. “Но с конституцией, которая была написана общественностью”.
По словам Сиддарта, удивительным открытием в ходе эксперимента стали несколько заявлений, в которых также говорилось, что модель искусственного интеллекта не должна дискриминировать по признаку инвалидности. Они не были включены в Anthropic constitution.
“Я не думаю, потому что они хотели, чтобы этого там не было”, - сказала она. “Это просто не то, что они в конечном итоге выделили, и это было значительно подчеркнуто”.
Запущенный в 2021 году Anthropic - лишь один из разработчиков, стремящихся вывести на рынок более быстрый и продвинутый искусственный интеллект. Microsoft, Google, Meta и Amazon вложили миллиарды в разработчиков генеративного ИИ. В результате 2023 год стал прибыльным годом для разработчиков искусственного интеллекта: в феврале Google объявила об инвестициях в Anthropic в размере 400 миллионов долларов. За этими инвестициями последовали инвестиции Amazon в Anthropic в размере 4 миллиардов долларов в сентябре.
Ранее в этом году Anthropic присоединилась к OpenAI, Google и Microsoft, пообещав ответственно подходить к разработке искусственного интеллекта после встречи с администрацией Байдена. К этому обязательству присоединились Amazon, Meta и Inflection. В сентябре к программе присоединились NVIDIA, Scale AI, Cohere, Adobe, IBM, Palantir, Salesforce и Stability AI.
Несмотря на ограничения в эксперименте с конституционным ИИ, Сиддарт с оптимизмом смотрит в будущее проекта коллективного разума "Демократия в ИИ" и надеется привлечь больше общественности к разработке новой технологии.
“Я думаю, суть в том, что давайте делать больше подобных процессов; давайте извлекать уроки из того, что мы уже сделали”, - сказала она. “Мы работаем с группами гражданского общества, различными политиками, всеми этими разными компаниями, чтобы добиться этого”.
" 
