Блокчейн может сыграть решающую роль в развитии искусственного интеллекта


Блокчейн может сыграть решающую роль в развитии искусственного интеллекта

Самая большая угроза для нашего будущего, по словам Илона Маска, — это развитие искусственного интеллекта (ИИ).

Как недавно заметил Маск,

Я думаю, мы должны быть очень осторожны c искусственным интеллектом. Если бы мне пришлось предположить, в чем заключается наша самая большая угроза существования, возможно, это он. Поэтому мы должны быть очень осторожны. Я все чаще склоняюсь к мысли, что должен быть некоторый регулятивный надзор, возможно, на национальном и международном уровнях, просто чтобы убедиться, что мы не делаем что-то очень глупое .

Маск поднимает несколько ключевых вопросов. Во-первых, как мы должны обезопаситься, когда дело доходит до реализации ИИ. Вторая и, возможно, самая важная задача — как вы можете регулировать и контролировать эту технологию?

В сегодняшнем стремлении принять машинное обучение и методы ИИ, чтобы получить конкурентное преимущество, существует реальная опасность того, что технология будет развернута в неподходящей области. Это в конечном итоге приводит к тому, что предвзятость и несправедливость становятся закодированными в нашем обществе.

Кэти О’Нил в своей книге «Оружие математического уничтожения» излагает опасности, существующие в настоящее время, когда речь идет о быстром и бессмысленном внедрении машинного обучения и искусственного интеллекта в самых разных областях, включая наказание и образование в тюрьмах США. Ее главный тезис заключается в том, что прогностические модели никогда не являются нейтральными, но отражают цели и идеологии тех, кто их создает. Они также склонны создавать преимущества против бедных людей, усиливая неравенство в обществе.

От расчета рейтингов университетов или кредитных рейтингов и обработки заявлений на работу, до решения, какую рекламу вы будете видеть в интернете или какие истории будут появляются в ленте новостей на Facebook — алгоритмы играют все более важную роль в нашей жизни.

Это приводит к выводу о том, что, когда дело доходит до этапа проектирования машинного обучения, мы должны убедиться, что мы протестировали и избежали очевидных отклонений от старых данных и самих исходных данных.

Однако в нем мало говорится о том, как мы можем эффективно регулировать технологию в режиме реального времени. Одним из рассматриваемых вариантов является Блокчейн, который играет решающую роль в регулировании машинного обучения и технологий ИИ. Наличие неизменного, защищенного от несанкционированного доступа протокола является ключевым механизмом, позволяющим осуществлять регулирование на автономных объектах ИИ.

Блокчейн также может включать контроль доступа для любого автономного объекта ИИ на основе репутации этого автономного агента. В конце концов, возможно, единственное разрешение, которое вы можете применить к автономному объекту ИИ, отличному от человека, — это его остановить; или если у вас нет этой власти, то удалить права доступа к сообществу. Вы могли бы считать это «изгнанием» на современный лад.

Итак, если мы представляем себе будущее, когда стандарты определяются вокруг того, что ИИ должен писать в Блокчейн и механизм контроля доступа, который в основном рассматривает «репутацию» автономного объекта ИИ, тогда у нас есть механизм, который может создать элемент управления, который невозможно обойти любым автономным ИИ-агентом.

Если мы посмотрим на это с философской точки зрения, ближайший подход исходит от английского философа Томаса Гоббса, который написал оригинальный текст Левиафана. В этой работе он описывает необходимость того, чтобы граждане отдавали часть своей власти в пользу правителя или «левиафана» на благо общества.

Много написано о «некорректной задаче», где происходят последствия, которые были непредвидены создателями. Тем не менее, очень мало написано о том, как мы могли бы создать левиафана для регулирования ИИ и машинного обучения.

Включение ИИ Левиафана, который может обеспечить идентификацию и отчетность автономными ИИ агентами в блокчейне. Неизменность этого блокчейна гарантирует, что никакой ИИ-агент не может вмешиваться в него, поэтому необходимо создавать распределенный реестр для всех автономных ИИ-агентов. Этот левиафан будет эффективно защищать согласованный набор правил и предоставлять санкции, если они не будут выполнены.

Постоянно сообщается о новых вариантах использования блокчейна. Возможно, самым важным вариантом использования Блокчейна может быть следующее: выживание человечества.

* Стивен Холмс — вице-президент лаборатории xTech Virtusa. В этой роли он исследует применение основных технологий в решении текущих задач цифрового банкинга, включая технологии Blockchain и смарт-контракты.

Источник