" Можете ли вы быть уверены, что ваш ИИ беспристрастен? Недавнее исследование показало, что все немного сложнее. К сожалению, предвзятость - это не просто ошибка. Это постоянная особенность, не защищенная надлежащими криптографическими средствами.
Исследование, проведенное Имперским колледжем Лондона в сентябре 2024 года, показывает, как проверка с нулевым разглашением (ZKP) может помочь компаниям убедиться в том, что их модели машинного обучения (ML) одинаково относятся ко всем демографическим группам, сохраняя при этом конфиденциальность деталей модели и пользовательских данных.
Доказательства с нулевым разглашением - это криптографические методы, которые позволяют одной стороне доказать другой, что утверждение истинно, не раскрывая никакой дополнительной информации, выходящей за рамки достоверности утверждения. Однако при определении «честности» мы сталкиваемся с совершенно новой проблемой.
Предвзятость при машинном обучении
В моделях машинного обучения предвзятость проявляется совершенно по-разному. Это может привести к тому, что служба оценки кредитоспособности будет оценивать человека по-разному, основываясь на кредитных рейтингах его друзей и сообществ, что по своей сути может быть дискриминационным. Это также может побудить генераторы изображений с искусственным интеллектом показать Папу римского и древних греков как представителей разных рас, как это сделал печально известный инструмент Google для искусственного интеллекта Gemini в прошлом году.
Распознать недобросовестную модель машинного обучения (ML) в реальной жизни совсем несложно. Если эта модель лишает людей кредитов из-за того, кто их друзья, это дискриминация. Если речь идет о пересмотре истории или ином подходе к конкретным демографическим показателям с целью их перекорректировки во имя справедливости, это также является дискриминацией. Оба сценария подрывают доверие к этим системам.
Рассмотрим банк, который использует модель ML для одобрения кредитов. ZKP может доказать, что модель не направлена против какой-либо демографической группы, не раскрывая конфиденциальных данных клиентов или деталей модели, которые являются собственностью. С помощью ZK и ML банки могут доказать, что они систематически не дискриминируют расовую группу. Это доказательство было бы постоянным и в режиме реального времени по сравнению с сегодняшними неэффективными государственными проверками личных данных.
Какова идеальная модель ML? Такая, которая не пересматривает историю и не относится к людям по-разному в зависимости от их происхождения. ИИ должен соблюдать антидискриминационные законы, такие как Американский закон о гражданских правах 1964 года. Проблема заключается в том, чтобы внедрить это в ИИ и сделать его поддающимся проверке.
ZKP предлагают технические возможности, которые гарантируют такое соблюдение.
Искусственный интеллект предвзят, но это не обязательно так
Когда мы имеем дело с машинным обучением, мы должны быть уверены, что любые подтверждения честности сохраняют конфиденциальность базовых моделей ML и обучающих данных. Им необходимо защищать интеллектуальную собственность и конфиденциальность пользователей, обеспечивая при этом достаточный доступ, чтобы пользователи знали, что их модель не является дискриминационной.
Это непростая задача. ZKP предлагают проверяемое решение.
ZKML (zero knowledge machine learning) - это способ, с помощью которого мы используем доказательства с нулевым разглашением, чтобы убедиться, что модель ML соответствует требованиям, указанным на упаковке. ZKML сочетает криптографию с нулевым разглашением с машинным обучением для создания систем, которые могут проверять свойства искусственного интеллекта, не раскрывая базовые модели или данные. Мы также можем воспользоваться этой концепцией и использовать ZKP для определения моделей управления, которые относятся ко всем одинаково и справедливо.
Ранее использование ZKP для доказательства справедливости ИИ было крайне ограничено, поскольку оно могло быть сосредоточено только на одной фазе конвейера ML. Это позволило недобросовестным поставщикам моделей создавать наборы данных, которые удовлетворяли бы требованиям справедливости, даже если модель не соответствовала этим требованиям. ZKP также потребовали бы нереалистичных вычислений и длительного времени ожидания достоверности для получения доказательств.
За последние месяцы платформы ZK frameworks позволили масштабировать ZKP, чтобы определять сквозную достоверность моделей с десятками миллионов параметров и делать это с доказуемой надежностью.
Вопрос на триллион долларов: как мы оцениваем, справедлив ли ИИ?
Давайте разберем три наиболее распространенных определения групповой справедливости: демографический паритет, равенство возможностей и прогнозируемое равенство.
Демографический паритет означает, что вероятность определенного прогноза одинакова для разных групп, таких как раса или пол. Отделы по вопросам многообразия, равенства и интеграции часто используют его в качестве показателя, чтобы попытаться отразить демографический состав рабочей силы компании. Это не идеальный показатель справедливости для моделей ML, ведь ожидать, что все группы получат одинаковые результаты, нереально.
Большинству людей легко понять принцип равенства возможностей. Это дает каждой группе одинаковые шансы на положительный результат, при условии, что они обладают одинаковой квалификацией. Это не оптимизирует результаты - просто у каждой группы населения должна быть одинаковая возможность получить работу или ипотечный кредит.
Аналогичным образом, прогностическое равенство измеряется, если модель ML делает прогнозы с одинаковой точностью для различных демографических групп, поэтому никто не подвергается наказанию просто за принадлежность к группе.
В обоих случаях модель ML применяется не из соображений справедливости, а только для того, чтобы гарантировать, что группы никоим образом не подвергаются дискриминации. Это в высшей степени разумное решение.
Справедливость, так или иначе, становится стандартом
За прошедший год правительство США и других стран выступили с заявлениями и указаниями, которые касаются справедливости в области искусственного интеллекта и защиты общественности от предвзятого отношения к ML. Теперь, с приходом новой администрации в США, к справедливости в области искусственного интеллекта, скорее всего, будут подходить по-другому, возвращая акцент на равенство возможностей, а не на справедливость.
По мере того, как меняется политический ландшафт, меняются и определения справедливости в ИИ, переходя от парадигм, ориентированных на равенство, к парадигмам, ориентированным на возможности. Мы приветствуем модели ML, которые относятся ко всем одинаково, не перекладывая вину на других. Доказательства с нулевым разглашением могут служить надежным способом проверки того, что модели ML делают это, не раскрывая личных данных.
Несмотря на то, что на протяжении многих лет ZKP сталкивались с множеством проблем масштабируемости, технология наконец-то становится доступной для массового использования. Мы можем использовать ZKP для проверки целостности обучающих данных, защиты конфиденциальности и обеспечения того, чтобы используемые нами модели соответствовали заявленным требованиям.
Поскольку модели ML все больше внедряются в нашу повседневную жизнь и от них зависят наши перспективы трудоустройства, поступления в колледж и получения ипотечных кредитов, нам не помешало бы еще раз убедиться в том, что ИИ относится к нам справедливо. Однако все ли мы можем согласиться с определением справедливости - это совершенно другой вопрос.
Об авторе
Роб Виглионе - соучредитель и генеральный директор Horizen Labs, студии разработки нескольких ведущих проектов Web3, включая zkVerify, Horizen и ApeChain. Роб Виглионе имеет степень доктора философии в области финансов, степень магистра делового администрирования в области финансов и маркетинга, а также степень бакалавра в области физики и прикладной математики. В настоящее время Роб Виглионе входит в Совет директоров Ассоциации блокчейн-трейдеров Пуэрто-Рико.
Эта статья предназначена для общего ознакомления и не предназначена и не должна восприниматься как юридическая или инвестиционная консультация. Взгляды, мысли и суждения, выраженные в этой статье, принадлежат только автору.
