Область согласования ценностей становится все более важной по мере ускорения развития AGI. Под согласованием мы понимаем наделение интеллектуальной программной системы способностью действовать так, чтобы это было полезно для человека. Один из подходов к этому – привить программам ИИ человеческие ценности.

Однако исследования в этой области, как правило, сосредоточены на алгоритмах максимизации таких показателей, как удовольствие или счастье. Гораздо меньше внимания уделяется собственно набору ценностей, которым они должны следовать.

Я предлагаю использовать данные мировых религий, традиционной философии, эволюционной психологии и опросов, которые сходятся в удивительном согласии в отношении базовых человеческих ценностей. Абстрагируясь от этой работы, я предлагаю пятиуровневую систему ценностей, которая может быть применена к AGI.

Уровень 1 – это ценности жизни, выживания и сохранения. Они развиваются из заботы о жизни и воспроизводстве. Агент действует так, чтобы избежать разрушения, искать энергию и передавать характеристики будущему поколению.

Уровень 2 содержит истину, мудрость и знание. Это агенты, которые ценят истину и способность понимать и хорошо взаимодействовать со своим окружением.

Уровень 3 – это совокупность трех наборов ценностей, касающихся самого себя: свобода, воздержанность и рост. Эти ценности влияют на внутреннее состояние и поведение агента. В качестве “я” может выступать человек или ИИ, созданный как автономный моральный агент.

Уровень 4 – это совокупность пяти ценностей: эмпатия, авторитет, безопасность, справедливость и конформизм. Все они связаны с групповым взаимодействием. Они применимы как к биологическим собратьям, так и к многоагентным системам ИИ.

Уровень 5 содержит ценности, касающиеся взаимодействия с природой и окружающей экосистемой, а также со вселенной за ее пределами. Достаточно мощный общий интеллект может оказывать влияние на земную и внеземную среду, поэтому ему необходимо заботиться о более широком окружении.

Ценности концентричны – они начинаются с фундаментальных метафизических и эпистемологических предпосылок и распространяются дальше, становясь все более всеобъемлющими в пространстве, во времени и в разнообразии.

Однако существует ряд нерешенных вопросов:

1.  Универсальность  – спор между моральным релятивизмом и  моральным универсализмом, в котором различные ценности подчеркиваются или противопоставляются друг другу.
   
2. Иерархия  – ранжирование ценностей по степени их важности или соответствии целям.
   
3. Изменения – Этика трансчеловеческого или постчеловеческого общества может потребовать изменений в связи с изменениями в природе человечества или других ИИ.
   
4. Человекоцентричность – эти ценности являются человеческими и созданы нашей уникальной эволюцией и общественными организациями.
   
5. Сознание – Агентам может потребоваться чувствовать – обладать квалией [философский термин, обозначающий сенсорные, чувственные явления любого рода] – для того, чтобы быть морально ответственными. Это не означает, что AGI не может действовать действовать согласно морали.
   
6. Реализация – Этот список указанных ценностей не описывает механизмов, с помощью которых они могут быть реализованы.
   

В свете этих проблем и возможностей в сфере согласования ценностей в AGI предстоящий саммит Beneficial AGI Summit становится важнейшей платформой. Саммит BGI, на котором соберутся ведущие умы в области искусственного интеллекта, этики и смежных областей, предоставляет уникальную возможность глубже изучить эти нерешенные вопросы.

Универсальность ценностей, иерархия этических соображений, эволюция этики в трансчеловеческом обществе, человекоцентричность, сознание и практическая реализация этих ценностей в системах AGI – все эти темы созрели для обсуждения на BGI Summit.

Это событие может ознаменовать значительный шаг вперед в нашем понимании и способности интегрировать эти сложные системы ценностей в AGI, способствуя будущему, в котором искусственный интеллект будет дополнять и укреплять человеческие ценности и этику. Присоединяйтесь ко мне на саммите BGI, чтобы обсудить эти темы. Для получения дополнительной информации и регистрации посетите сайт bgi24.ai

Расскажите нам о своих мыслях! Зарегистрируйтесь в Mindplex, присоединяйтесь к нашему Telegram или следите за нами в Twitter.