(495) 925-0049, ITShop интернет-магазин 229-0436, Учебный Центр 925-0049
  Главная страница Карта сайта Контакты
Поиск
Вход
Регистрация
Рассылки сайта
 
 
 
 
 

ИИ не умеет делать моральный выбор, а люди не договорятся

Источник: Сергей Карелов

Итог - невиданное неравенство.

Создание ядерных технологий породило орудие для суицида человечества. И единственным сдерживающим фактором самоуничтожения цивилизации стало устройство общества, гарантирующее взаимное уничтожение и тем, кто войну начнет, и тем, кто будет защищаться.
Но вот появились ИИ-технологии, по мощи не уступающие ядерным и ведущие к небывало быстрому росту неравенства между "ИИ-обладателями" и "обычными людьми".
• Первые будут принимать решения, пользуясь наставлениями ИИ и его сверхскоростными возможностями анализа и действий (как это уже сегодня делают, например, брокеры и онлайн-платформы).
• Вторые по старинке будут думать и действовать сами, - может, из консерватизма, а может, и в силу дороговизны билета в стан "ИИ-обладателей" (наличие у вас умной колонки и смартфона не только не дает вам такого билета, но делает для вас все более неподъемной его цену).

Прискорбно, но факт: в истории земной цивилизации есть два неизменных тренда: рост технологической мощи и рост неравенства. В обоих были временные замедления и реверсы. Но в историческом масштабе оба тренда неумолимы, как смерть.
С развитием ИИ-технологий, разделяющих мир на "ИИ-обладателей" и "обычных людей" тренд роста неравенства только усилился.
• "Обычные люди" генерируют большие данные через все возрастающее разнообразие цифровых устройств.
• "ИИ-обладатели" совершенствуют алгоритмы и методы монетизации собранных данных.

Возникает вопрос.

Может ли устройство общества с помощью регулирования каким-то образом повлиять на процесс неизбежного роста неравенства вследствие развития ИИ?

Моделирование сценариев различных форм и видов взаимодействия "ИИ-обладателей" и "обычных людей", с учетом возможных регуляторных ограничений со стороны общества, дало отрицательный ответ на поставленный выше вопрос. Увы!

Модель (https://dl.acm.org/doi/abs/10.1145/3375627.3375847) разработана для анализа т.н. "Проблемы выравнивания общественных ценностей".
Эта проблема не менее сложна, чем пресловутая "трудная проблема сознания". Ее суть такова.
• Возможность встраивания в ИИ собственных моральных принципов пока под большим вопросом. Конечно, есть методы IRL и CIRL … Но их возможности на практике пока весьма ограничены.
• Значит в вопросах морального выбора (типа, кого убьет самоуправляемый авто: пассажира, старушку справа или ребенка слева) будут решать люди (авторы алгоритмов, политики, регуляторы, владелец авто …)
• Но какие варианты решений они будут выбирать, ведь ценности у всех разные? Возможно ли достижение некоего равновесия выгод для себя-любимого и всех остальных?
• Моделирование процесса выравнивания ценностей, в котором решения принимаются конкретными людьми и конкретными ИИ-системами, показывает, что равновесия не будет - победит меньшинство "ИИ-обладателей", которое навяжет свои ценности большинству "обычных людей".

Попытка найти равновесие ценностей, путем включения в модель ИИ 3го типа, также не привела к успеху.
Поясню.
1й тип ИИ - эгоист. Сталкиваясь с интересами "обычных людей", он блюдет "свою выгоду" (выгоду "ИИ-обладателей"). А при конфликте интересов "ИИ-обладателей" выходит на равновесие Нэша.
2й - прагматик (в отличие от альтруиста, он одинаково блюдет и свой интерес и интересы других).
3й - сознательный. Средний путь между 1м и 2м: блюдет свой интерес, минимизируя вред остальным.

Важный момент. Модель - это безмасштабная сеть (таковы все социальные сети в онлайне и реале, где правит закон Матфея). И как в жизни, модель постоянно перекоммутируется: часть старых связей рвется, и образуются новые.
Сеть состоит из людей и ИИ. Люди, подобно ИИ, тех же 3х типов (эгоист …)
У людей есть две стратегии перекоммутации: консервативная (рвутся лишь вредные связи) и алчная (рвутся и вредные и бесполезные связи)
Как и ожидалось, обе стратегии плодят неравенство, но алчная быстрее.

Резюме - в заголовке



 Распечатать »
 Правила публикации »
  Обсудить материал в конференции Дискуссии и обсуждения общего плана »
Написать редактору 
 Рекомендовать » Дата публикации: 14.02.2020 
 

Магазин программного обеспечения   WWW.ITSHOP.RU
Panda Antivirus Pro - Лицензии для SMB - (лицензия на 1 год)
Panda Mobile Security - ESD версия - на 1 устройство - (лицензия на 1 год)
Nero 2018 Platinum ESD
IBM Rational Method Composer Authorized User License
ReSharper Ultimate - Commercial annual subscription
 
Другие предложения...
 
Курсы обучения   WWW.ITSHOP.RU
 
Другие предложения...
 
Магазин сертификационных экзаменов   WWW.ITSHOP.RU
 
Другие предложения...
 
3D Принтеры | 3D Печать   WWW.ITSHOP.RU
 
Другие предложения...
 
Новости по теме
 
Рассылки Subscribe.ru
Информационные технологии: CASE, RAD, ERP, OLAP
Безопасность компьютерных сетей и защита информации
Программирование на Microsoft Access
CASE-технологии
СУБД Oracle "с нуля"
Новые материалы
Мастерская программиста
 
Статьи по теме
 
Новинки каталога Download
 
Исходники
 
Документация
 
Обсуждения в форумах
Отличается ли ДрифтКазино от беттинга? (21)
Друзья, давно заметил, что на Дрифте уже несколько месяцев во всю рекламируется и предлагается...
 
Сериал "Во Все Тяжкие" (3)
Я наконец-то приступил к просмотру всем известного сериала «Во все тяжкие» и за 3 дня закончил...
 
Пишу программы для Windows (в том числе базы данных) (5)
Написание компьютерных программ на заказ. Разработка корпоративных информационных...
 
Требуется Программист 1 С (3)
Готовы обсуждать вариант удаленной работы Требования: Опыт работы по программированию 1С...
 
Фавориты и призёры Евро 2020 (1)
Среди тех, кто выиграет Евро-2020 https://eurocup-2020.ru/about-euro/kto-pobedit-na-evro, мы...
 
 
 



    
rambler's top100 Rambler's Top100