Why AI needs Crypto

Степан Гершуни, cyber.Fund.

О чем доклад

• В чем разница между централизованный A(G)I и децентрализованный AI, и как это влияет на всех нас?
• Какие методы и механизмы могут обеспечить безопасное использование технологий
• Как децентрализация поможет нам избежать влияния крупных корпораций и государств

Towards the Cybereconomy

Cybereconomy - это идея о том, что автоматизация, оптимизация и распределенные сети программных систем приведут к более эффективной экономике и цивилизации в целом, а также к решению многих проблем. Автор хочет продемонстрировать это на примере двух основных трендов, которые в настоящее время оказывают влияние на организацию общества и экономики.

С одной стороны, это эволюция развития интернета. Интернет, который принято называть Web 1.0 появился в конце восьмидесятых - начале девяностых годов как платформа для публикаций, где каждый мог создать свой сайт. Затем появился Web 2.0 (Facebook, Twitter, Instagram), где любой человек мог публиковать свой контент, а не только владелец сайта. И, наконец, появился Web 3.0, который дал возможность людям не только публиковать контент, но и владеть различными активами в интернете, включая деньги, доменные имена, NFT, игровые предметы и застейканные токены.

Параллельно с этим идет развитие подхода к созданию программного обеспечения как способа решения задач. Исторически, 40-50-60 лет назад программное обеспечение представляло собой написание детерминированного кода, который выполнял задачу. С развитием глубоких нейронных сетей появился подход, когда необходимо обучить нейронную сеть решать задачу, вместо того чтобы программировать конкретные алгоритмы.

Следующим логическим этапом развития становятся автономные агенты - системы или приложения, которые используют нейронные сети для принятия решений, делания логических выводов, а также для создания новых дополнительных нейронных сетей с целью решения задач пользователя.

Простая форма этой идеи заключается в том, что развитие интернета можно представить как прогресс от чтения к чтению и письму, а затем к чтению, письму и владению контентом.

В мире программного обеспечения это выглядит так: сначала люди писали код, затем обучали нейронные сети, которые самооптимизировались для решения задачи. В конечном итоге возникает концепция, в которой пользователю не нужно писать код или обучать нейронные сети. Нужно просто говорить в телефон голосом или писать текстом, какой результат нужно получить, а автономный агент или сеть из автономных агентов автоматически решают эту задачу.

Это может привести к тому, что для большинства простых задач программирование на естественных языках, таких как английский, арабский, китайский или русский, станет стандартом.

Таким образом, в контексте искусственного интеллекта развитие начинает движение от создания фундаментальных моделей, и мы сейчас находимся на этом этапе. Базовые модели становятся умнее, что справедливо как для LLM, так и для многих других типов моделей. Например, модели распространения (diffusion), трансформеры для обработки видео или генерации изображений, а также другие экстравагантные архитектуры нейронных сетей становятся популярными и широко используются компаниями для добавления в искусственный интеллект возможности долгосрочного планирования.

Эти базовые модели используются агентами, и, в конечном итоге, это приводит к развитию концепции общего искусственного интеллекта (AGI). AGI - это система, способная выполнять значительную часть экономически важных функций, которые сегодня выполняют люди. Некоторые из этих функций чисто интеллектуальные, но часть требует взаимодействия с реальным миром, и здесь важно учитывать, что в какой-то момент в развитие AGI должны быть включены роботы или умные устройства, способные взаимодействовать с физическим миром. Однако на данный момент, даже если агенты способны общаться с людьми в чате, это еще не означает, что они могут эффективно выполнять значительную часть важных экономических задач.

Мир децентрализованного AGI можно представить себе так, что есть человек, у которого есть какая-то задача, которую нужно решить. Это может быть бизнес-задача, личная задача, такая как организация поездки или вебинара, а также социальная задача, например, улучшение состояния окружающей среды. Эта задача отправляется в некоторую сеть, внутри которой находится множество разных инструментов: нейронные сети, агенты, LLM и другие модели. Возможно, там даже подключены роботы и умные устройства.

На выходе для решения такой важной задачи необходимо взаимодействие большого количества инструментов и агентов. Например, одна модель может сгенерировать лишь текст об улучшении окружающей среды, но это еще не означает, что она может выполнить все необходимые действия для полного решения этой задачи. Для этого может понадобиться другой агент, способный нанять строителей, провести исследование или написать законопроект. Таким образом, большое количество действий в конечном счете складывается в решение задачи.

На сегодняшний день модели LLM могут решать простые задачи, такие как ответы на вопросы или генерация изображений, но они не способны заменить собой должность или работу человека. В перспективе мы идем к тому, чтобы нейронные сети могли планировать, взаимодействовать между собой и выполнять сложные задачи, включающие в себя множество элементов.

Centralized A(G)I

Centralization

Здесь мы подходим к одному из главных рисков и распутью, на котором стоит цивилизация в настоящее время. Мне кажется, что это один из самых важных вызовов, с которым сталкивается человечество сегодня, особенно в краткосрочной перспективе, то есть в течение следующих 5-10 лет. Понятно, что проблем в мире много, и все они требуют решения, но большинство из них, на самом деле, могут быть решены с помощью искусственного интеллекта: поиск лекарств, координация людей, политика, распределение ресурсов, образование и многое другое. Все эти отрасли и вертикали могут значительно выиграть от развития искусственного интеллекта. Но сейчас вопрос стоит в том, кто будет контролировать эти системы?

Представьте себе, что существует алгоритм, способный организовать хакатон, улучшить климат в городе, помочь купить велосипед или построить дом. Сразу возникает вопрос: где он существует, кто его контролирует, и какие ценности у него заложены? На каких данных он обучен, где он исполняется, на сервере кого? Кто имеет доступ, и кто может его выключить? Если вы привыкли полагаться на искусственный интеллект или ваш бизнес зависит от него, но он находится в дата-центре другой компании, которая может его завтра выключить, то вы рискуете всем. И это и есть та самая проблема централизации, из-за которой появился блокчейн, биткойн и Web 3.0 в целом.

Эта проблема справедлива не только для организации общества или финансовых рынков и монетарных систем, но также для искусственного интеллекта. Поскольку развитие искусственного интеллекта идет настолько быстро, эта проблема становится супер актуальной прямо сейчас.

Например, если государственные валюты существуют уже 20 лет, и никто не пользуется биткоином, это не так страшно. Однако если через 5 или 10 лет мы окажемся в мире, где искусственный интеллект обладает человеческими или сверхчеловеческими способностями в большинстве областей экономики, но при этом контролируется двумя, тремя компаниями или государствами, это создаст высокие риски для тех, кто не имеет этого контроля.

Абсолютная власть, сосредоточенная в руках небольшого числа людей или государств, может привести к неравноправию, притеснению и другим проблемам. В истории не было примеров, когда абсолютная власть, находящаяся в очень небольшом количестве рук или мозгов, приводила к чему-то хорошему на длительный период времени. Необходимы системы сдержек и противовесов для обеспечения баланса и предотвращения негативных последствий такой концентрации власти.

Эта проблема актуальна не только с точки зрения организации общества или финансовых систем, но и с экономической точки зрения. Монополии, как правило, подавляют инновации и приводят к неэффективному и несправедливому ценообразованию. В случае с искусственным интеллектом это может привести к манипуляциям и созданию неравных условий.

Монополия на бензин может привести к незначительному увеличению цен, но бензин везде примерно одинаковый. Однако монополия на искусственный интеллект означает контроль над человеческими способностями и принятием решений. Искусственный интеллект может стать интеллектуальным имплантом для людей, помогая им принимать лучшие решения в различных сферах жизни, таких как здоровье, образование, финансы и бизнес.

Однако проблема возникает в том, что тот, кто обучает модели искусственного интеллекта, определяет их склонность и поведение. Каждый персональный искусственный интеллект будет отражать идеологию и знания своего создателя. Это создает риск потери доступа к информации или принятия решений, если инфраструктура находится под контролем третьей стороны.

Поэтому централизация инфраструктуры представляет собой риск, так как это означает, что кто-то другой может в любой момент прервать доступ.

Data control

Это важная проблема, связанная с конфиденциальностью и контролем данных. Чем больше информации вы предоставляете искусственному интеллекту на уровне бизнеса или личной жизни, тем лучше он может вас понимать и адаптироваться к вашим потребностям. Однако вопрос заключается в том, у кого хранятся эти данные и кто ими управляет.

Если ваши данные хранятся и обрабатываются крупными корпорациями, такими как Google или OpenAI, существует риск потери контроля над ними. В лучшем случае это может привести к потере вашей конфиденциальности, а в худшем случае ваши данные могут быть использованы против вас.

Regulatory capture

Это действительно серьезная проблема, которая может привести к усилению монополии и ограничению конкуренции на рынке искусственного интеллекта. Большим компаниям с большими ресурсами будет гораздо легче получить необходимые лицензии и регуляторные одобрения для разработки и использования топовых моделей искусственного интеллекта. Однако для маленьких стартапов и сообществ с открытым исходным кодом это может оказаться невыполнимой задачей из-за высоких стартовых затрат и регуляторных барьеров.

Speed of innovation

Open Source сообщества часто стимулируют более быструю инновацию благодаря своей открытой природе и большому количеству одновременных экспериментов. Это происходит потому, что в Open Source каждый может внести свой вклад, испытать новые идеи и подходы, а затем делиться своими результатами с другими участниками сообщества. Этот коллективный подход к инновациям позволяет идеям быстрее развиваться и улучшаться.

Однако, большинство реальных продуктов все же рождаются в корпорациях. Это связано с тем, что у корпораций есть бизнес-модели и ресурсы, которые позволяют им организовать процессы разработки, масштабировать проекты и монетизировать результаты. Кроме того, у корпораций часто есть доступ к финансированию, технологическим ресурсам и талантам, что облегчает процесс создания и внедрения инноваций.

AI Safety

Риск безопасности искусственного интеллекта включает в себя не только фантастические сценарии о захвате искусственным интеллектом всех устройств мира, но и более реалистичные угрозы, такие как использование его для финансовых мошенничеств.

Decentralized AI

Зачем же криптовалютам нужна индустрия искусственного интеллекта, и как она может помочь? Реальные решения сводятся к трем категориям, где криптовалюта может быть полезной.

• Первая категория - это инновации в области криптографии. Криптография необходима для обеспечения целостности и конфиденциальности данных. Гарантия того, что отправленные и полученные данные остаются приватными и неизменными, является ключевым фактором для децентрализации. Криптография основана на математике, и, в отличие от законов, ее нельзя обойти или запретить, что объясняет функционирование биткоина, несмотря на возможные недовольства.

• Вторая категория - это стимулы. Децентрализованные сети могут предоставлять мотивацию и инструменты распределения ресурсов. В отличие от централизованных систем, здесь нет единого работодателя. Например, сеть Ethereum вознаграждает валидаторов за обеспечение безопасности сети, и тот же принцип может применяться в сетях искусственного интеллекта.

• Третья категория - управление. Управление представляет собой сложную задачу координации людей и принятия консенсуса. Хотя эта задача сложна и не полностью решается криптовалютой, у нас есть определенные инструменты, такие как цифровая идентичность, DAO (децентрализованные автономные организации) и финансирование публичных благ. Эти инструменты за последние несколько лет значительно продвинулись от простых идей до рабочих механизмов.

Design of decentralized networks

Давайте возьмем Bitcoin в качестве примера - это первая и на сегодняшний день самая крупная сеть. Bitcoin представляет собой экономический блокчейн. Сеть Bitcoin предоставляет пользователю определенную полезную услугу - сохранение и передачу ценности. Пользователь оплачивает эту услугу в виде комиссий, а сама сеть Bitcoin вознаграждает майнеров или участников, обеспечивающих жизнеспособность сети.

Design of AI Agent

AI Agent предоставляет определенную полезную услугу пользователю: он может забронировать билеты, поставить диагноз, написать программу тренировок, создать веб-сайт и многое другое. Пользователь платит за эти услуги AI Agent, а он в свою очередь, платит сети.

Разница между централизацией и децентрализацией заключается в том, что-либо вы оплачиваете OpenAI, либо этот AI Agent существует в децентрализованном субстрате, внутри которого имеются все необходимые инструменты для его функционирования. Это включает в себя вычислительные ресурсы, нейронные сети, их обучение, дополнительные наборы данных, хранение информации, настройку и различные инструменты, которые AI Agent может использовать. Кроме того, он может взаимодействовать с другими AI Agent, а также нанимать их для выполнения определенных задач.

ETH and AI architectural models

Эти точки зрения действительно очень похожи архитектурно. На картине слева показан пример такой структуры: у нас есть Ethereum, есть DApps на ETH, такие как ролапы на платформах вроде AAVE или Uniswap. Поверх Uniswap работают стратегии, такие как Yearn Finance, создавая децентрализованную "пирамиду" различных уровней использования и взаимодействия внутри экосистемы блокчейна Ethereum.

Справа на картинке показан пример использования искусственного интеллекта (AI). У нас также есть различные агенты, каждый из которых может существовать в своем собственном субстрате. Между ними существует коммуникация, которая не обязательно должна быть on-chain (на блокчейне).

Далее, агент использует существующую инфраструктуру, так же как смарт-контракт Yearn может использовать стейблкоин DAI. Автономный агент также может использовать существующую структуру, например, платформу Akash, чтобы запускать себя самостоятельно, оплачивая видеокарты или данные, а также за модели, которые используются для его обучения.

Агент может улучшать себя, например, платя людям за создание новых моделей, чтобы он мог лучше решать задачи. В результате он получает большую долю рынка, а люди, внесшие свой вклад в развитие этого агента, получают токены в качестве процента от его выручки. Здесь уже проявляются некоторые признаки киберэкономики.

Collaborative model development

На данный момент существуют модели, такие как Lama, OpenAI, Yandex GPT и множество других, но они в основном представляют собой крупные модели, созданные большими организациями для широкого круга пользователей. Однако тенденция, к которой мир движется, становится довольно очевидной. За последние несколько месяцев наблюдается активное стремление к более маленьким, но очень специализированным моделям. Например, это не широкие модели, которые пытаются охватить все области немного, а модели, сфокусированные исключительно на определенной области, такой как медицина или ремонт спортивных автомобилей.

Private AI

Вторая часть, которая крайне важна для децентрализованного искусственного интеллекта, связана с приватностью данных. Глобально существует три технологии, которые в настоящее время относительно хорошо работают.

Приватность необходима, особенно если отправляешь данные в OpenAI, особенно если ты компания и отправляешь финансовые данные. Ты хочешь, чтобы эти данные оставались абсолютно приватными, как, например, в случае с TornadoCash, но для искусственного интеллекта.

Для этого существует подход "Trusted execution environment" (Доверенная среда исполнения). То есть модель исполняется внутри анклава на чипах у Intel SGX или NVIDIA Confidential Computing. Это обеспечивает полную гарантию приватности, поскольку данные зашифровываются ключом, вшитым в процессор, отправляются, вычисляются и возвращаются зашифрованными тем же ключом.

Существует также подход "Zero knowledge", который не обеспечивает приватность данных, но обеспечивает гарантию исполнения. Это означает, что вы получите результат от нужной модели.

И, наконец, "полностью гомоморфное шифрование", когда данные шифруются и передаются в модель, которая выполняет операции над зашифрованными данными, не расшифровывая их ни на этапе передачи, ни в процессе.

Incentives design

1. Совместное владение: Множество различных людей вносят свой вклад в создание моделей и получают в качестве вознаграждения токены или другую часть этой модели или агента.

2. Система стейкинга/слэшинга: Участники могут ставить на кон свои токены в качестве залога, чтобы получить право участвовать в процессе принятия решений или обеспечивать безопасность сети. При нарушении правил участники могут потерять свои токены.

3. Игровые модели: Модели, использующие концепции из теории игр, могут помочь оптимизировать принятие решений в сетях искусственного интеллекта, путем анализа стратегий и возможных выигрышей для участников.

4. Децентрализация OpenAI: Работы, которые обычно выполняются внутри компании OpenAI, такие, как исследования, разработка, обучение моделей и маркетинг, могут быть организованы в виде DAO. Окончательным видением является создание Open Source сообщества, аналогичного Ethereum Foundation, где участники могут вносить свой вклад и получать вознаграждение, сопоставимое с их зарплатой.

Marketplaces

Следующим важным шагом для создания децентрализованного искусственного интеллекта является разработка, по крайней мере, четырехуровневого рынка.

1. Маркетплейс данных: Это ключевой элемент для улучшения качества искусственного интеллекта. Для создания более продвинутого искусственного интеллекта требуется больше данных. Эти данные можно собирать вручную, скрапить из интернета или генерировать синтетически.

2. Маркетплейс вычислений: Это децентрализованная сеть, где можно обучать модели или получать результаты работы нейронных сетей, таких как LLM и другие.

3. Маркетплейс моделей: Здесь можно найти модели, которые могут быть немедленно запущены в децентрализованной сети.

4. Маркетплейс инструментов: Инструменты, которые используются автономными агентами, но не являются искусственным интеллектом, например, Google Table.

Routing, Orchestration, Communication

Самая фундаментальная проблема децентрализованного искусственного интеллекта заключается в проблеме маршрутизации. Хотя в общем это не так сложно, и у нас уже есть системы, в которых существуют различные децентрализованные сети с разными нейросетями, и их можно вызывать. Однако, чтобы все эти компоненты были полезны для людей, необходимо оптимальным образом соединить тысячи моделей и триллионы автономных агентов. Решение этой проблемы открывает путь к общему искусственному интеллекту (AGI). Я думаю, что AGI это не просто GPT-7, а скорее множество маленьких агентов, которые основаны на GPT-7. Это аналогично функционированию человеческого общества, где каждый человек специализируется в чем-то. Будут существовать очень специализированные агенты и модели, но эффективность их применения в реальных задачах будет зависеть от того, как они взаимодействуют между собой.

Payments

Человек должен иметь возможность оплачивать Агента, а также Агент должен иметь возможность открывать банковский счёт. Поскольку Агент является неживым существом и не имеет паспорта, никто не откроет ему счет в классическом банке. Поэтому его счет будет находиться где-то на блокчейне, например, в биткоинах, эфирах или USDT.

Кроме того, Агент должен иметь возможность оплачивать других Агентов. В условиях специализации и разделения труда организатор или менеджер должен оплачивать Агента, который, например, пишет электронные письма, а тот, кто переводит электронные письма на китайский язык, должен получить оплату за свою работу.

Часто или как минимум иногда Агент также должен иметь возможность оплачивать человека. Человек может выполнять физическую работу, подписывать документы, проверять и оценивать что-либо, добавляя к работе свои личные и эмоциональные аспекты. Агент вполне может просто нанимать людей для себя или для тех, кто заказывает решение задач.

Identify

Identify - это удостоверение личности, и оно необходимо, потому что у самих агентов должна быть репутация. Необходимо уметь отличать качественных агентов от тех, кто заявляет одно и делает другое, или постоянно допускает ошибки. Вторая причина - это дипфейки.

Governance

Governance сводится к координации усилий и ресурсов людей для того, чтобы все обсуждаемые аспекты функционировали. Если Routing является "финальным боссом" для достижения AGI, то координация - это "финальный босс" для согласования действий людей.

Заключение

Если мы не приступим к решению этой задачи немедленно, то с большой вероятностью человечество столкнемся с ситуацией, которая будет решена в течение пяти лет, или же она вообще не будет решена никогда. В таком случае человечество останется с централизованным проприетарным искусственным интеллектом, контролируемым небольшим количеством компаний или индивидуумов. Поэтому, откладывая разработку децентрализованного искусственного интеллекта на потом, человечество, по сути, передает контроль над мышлением, поведением и действиями в руки кого-то другого - того, кто будет контролировать искусственный интеллект.