Самая большая угроза для нашего будущего, по словам Элона Маска, — это развитие искусственного интеллекта (ИИ) .
«Я думаю, мы должны быть очень осторожны в искусственном интеллекте. Если бы мне пришлось догадаться, в чем заключается наша самая большая угроза существования, возможно, это так. Поэтому мы должны быть очень осторожны. Я все чаще склоняюсь к мысли, что должен быть некоторый регуляторный надзор, возможно, на национальном и международном уровнях, просто чтобы убедиться, что мы не делаем что-то очень глупое ».
Муск обращается к нескольким ключевым вопросам. Во-первых, как мы должны заботиться, когда дело доходит до реализации ИИ. Вторая и, возможно, самая важная задача — как вы можете регулировать и контролировать эту технологию?
В сегодняшнем стремлении принять машинное обучение и методы ИИ, чтобы получить конкурентное преимущество, существует реальная опасность того, что технология будет развернута в неподходящей области. Это в конечном итоге приводит к тому, что предвзятость и несправедливость становятся закодированными в нашем обществе.
Кэти О’Нил в своей книге « Оружие уничтожения математики» излагает опасности, существующие в настоящее время, когда речь идет о быстром и бессмысленном внедрении машинного обучения и искусственного интеллекта в самых разных областях, включая наказание в тюрьмах и образование в тюрьмах США. Ее главный тезис заключается в том, что прогностические модели никогда не являются нейтральными, но отражают цели и идеологии тех, кто их создает. Они также склонны загружать кости против бедных людей, усиливая неравенство в обществе.
Из расчета рейтингов университетов или кредитных рейтингов и обработки заявок на работу, чтобы решить, какую рекламу вы видите в Интернете или какие истории появляются в ленте новостей Facebook, алгоритмы играют все более важную роль в нашей жизни.
Это приводит к выводу о том, что, когда дело доходит до этапа проектирования машинного обучения, мы должны убедиться, что мы тестировали и избегали очевидных пристрастий от исторических данных и самих данных.
Однако в нем мало говорится о том, как мы можем эффективно регулировать технологию в режиме реального времени. Одним из вариантов рассмотрения является Blockchain , который играет решающую роль в регулировании машинного обучения и технологий ИИ. Наличие неизменной, защищенной от несанкционированного доступа записи действий является ключевым механизмом, позволяющим осуществлять регулирование на автономных объектах AI.
Blockchain также может включать контроль доступа для любого автономного объекта AI на основе репутации этого автономного агента. В конце концов, возможно, единственное разрешение, которое вы можете применить к автономному объекту AI, отличному от человека, — это его прекратить; или если у вас нет этой власти, удалите права доступа к сообществу. Вы могли бы считать это сегодняшним «отлучением».
Итак, если мы представляем себе будущее, когда стандарты определяются вокруг того, что ИИ должен писать в блокхейн и механизм контроля доступа, который в основном рассматривает «репутацию» автономного объекта ИИ, тогда у нас есть механизм, который может создать элемент управления, который невозможно обойти любым автономным AI-агентом.
Если мы посмотрим на это с философской точки зрения, ближайший подход исходит от английского философа Томаса Гоббса, который написал оригинальный текст Левиафана . В этой работе он описывает необходимость того, чтобы граждане отказались от некоторых своих полномочий правителю или «левиафану» на благо общества.
Много написано о «извращенной инстанцировании», где происходят последствия, которые были непредвиденными создателями. Тем не менее, очень мало написано о том, как мы могли бы создать левиафана для регулирования ИИ и машинного обучения.
Включение AI leviathan, который может обеспечить идентификацию и отчетность автономными агентами AI для Blockchain. Неизменность этого Blockchain не гарантирует, что AI-агент может вмешиваться в него, поэтому создавая журнал репутаций для всех автономных AI-агентов. Этот левиафан будет эффективно защищать согласованный набор правил и предоставлять санкции, если они не будут выполнены.
Многие из них сообщили о случаях использования Blockchain, которые все время появляются повсюду . Не ставить слишком тонкий момент на это, но самым важным вариантом использования Блокчэна может быть следующее: выживание человечества.
Подписывайтесь на новости В TELEGRAM