El campo de la alineación de valores está cobrando cada vez más importancia a medida que se aceleran los desarrollos de la IAG (Inteligencia Artificial General). Por alineación, nos referimos a dotar a un sistema de software generalmente inteligente con la capacidad de actuar de manera beneficiosa para los humanos. Un enfoque para lograr esto es inculcar a los programas de inteligencia artificial con valores humanos.

Sin embargo, la investigación en este campo tiende a centrarse en algoritmos para maximizar métricas como el placer o la felicidad. Se ha prestado mucho menos atención al conjunto real de valores que deberían seguir.

Propongo que la evidencia de las religiones de todo el mundo, la filosofía tradicional, la psicología evolutiva y la investigación de encuestas encuentra un acuerdo sorprendente sobre los valores humanos básicos. Abstrayéndome de este trabajo, propongo un sistema de valores de cinco niveles que se puede aplicar a una IAG.

El Nivel 1 son los valores de la vida, la supervivencia y la persistencia. Se deriva de la preocupación por vivir y reproducirse. Un agente actúa para evitar la destrucción, buscar energía y transmitir características a una generación futura.

El Nivel 2 abarca la verdad, la sabiduría y el conocimiento. Se trata de agentes que valoran la verdad y la capacidad de comprender e interactuar bien con su entorno inmediato.

El Nivel 3 es un compendio de tres conjuntos de valores relacionados con uno mismo: libertad, templanza y crecimiento. Estos valores afectan al estado interno y al comportamiento del agente. El ‘yo’ en cuestión podría ser un ser humano o una IA diseñada como un agente moral autónomo.

El Nivel 4 es un conjunto de cinco valores: empatía, autoridad, seguridad, justicia y conformidad. Todos estos se relacionan con la interacción grupal. Se aplican a los seres biológicos compañeros o a los sistemas de inteligencia artificial multiagente.

El Nivel 5 contiene valores para tratar con la naturaleza y el ecosistema circundante, así como con el universo más allá. Una inteligencia general suficientemente poderosa podría tener un impacto terrestre y extraterrestre, por lo que debe preocuparse por el entorno más amplio.

Los valores son concéntricos: comienzan con suposiciones metafísicas y epistemológicas fundamentales y se expanden hacia afuera para ser más inclusivos en espacio, tiempo y variedad.

Sin embargo, existen varios problemas no resueltos:

1. Universalidad: El debate sobre el relativismo moral frente al universalismo moral en el que se enfatizan o intercambian diferentes valores.

2. Jerarquía: El orden clasificado de los valores en términos de su importancia o relevancia para el objetivo.

3. Cambio: La ética para una sociedad transhumana o posthumana podría necesitar alteraciones debido a cambios en la naturaleza de la humanidad u otras IA.

4. Centrismo humano: Estos valores son humanos y fueron creados por nuestra evolución única y nuestras organizaciones sociales.

5. Conciencia: Los agentes pueden necesitar sentir, tener qualia, para ser moralmente responsables. Esto no significa que una IAG no pueda actuar moralmente.

6. Implementación: Esta lista de valores no describe los mecanismos mediante los cuales pueden ser instanciados.

Ante estos desafíos y oportunidades en el ámbito de la alineación de valores en la IAG, la próxima Cumbre Beneficiosa de la IAG se presenta como una plataforma crucial. La Cumbre BGI, con su reunión de mentes líderes en inteligencia artificial, ética y campos relacionados, ofrece una oportunidad sin igual para profundizar en estos problemas no resueltos.

La universalidad de los valores, la jerarquía de consideraciones éticas, la naturaleza evolutiva de la ética en una sociedad transhumana, el punto de vista centrado en el humano, la conciencia y la implementación práctica de estos valores en los sistemas de IAG: todos estos temas están listos para ser discutidos en la Cumbre BGI.

Este evento podría marcar un paso significativo en nuestra comprensión y capacidad para integrar estos complejos sistemas de valores en la IAG, fomentando un futuro en el que la inteligencia artificial complemente y mejore los valores éticos humanos. Únete a la Cumbre BGI para explorar estos temas. Para obtener más información y registrarte, visita bgi.24