A área de alinhamento de valores está se tornando cada vez mais importante à medida que os desenvolvimentos em AGI (Inteligência Geral Artificial) aceleram. Por alinhamento, entendemos dar a um sistema de software geralmente inteligente a capacidade de agir de maneira benéfica para os humanos. Uma abordagem para isso é incutir programas de IA com valores humanos. 

No entanto, a pesquisa nesse campo tende a focar em algoritmos para maximizar métricas como prazer ou felicidade. Muito menos atenção foi dedicada ao conjunto real de valores que eles deveriam seguir. 

Proponho que as evidências das religiões mundiais, filosofia tradicional, psicologia evolutiva e pesquisa de opinião encontrem um acordo surpreendente sobre valores humanos básicos. Abstraindo deste trabalho, proponho um sistema de cinco níveis de valores que podem ser aplicados a uma AGI. 

O Nível 1 são os valores da vida, sobrevivência e persistência. Evolui de uma preocupação com viver e reproduzir. Um agente age para evitar destruição, buscar energia e passar características para uma futura geração. 

O Nível 2 contém verdade, sabedoria e conhecimento. É sobre agentes que valorizam a verdade e a capacidade de entender e interagir bem com seu entorno imediato. 

O Nível 3 é um conjunto de três grupos de valores concernentes a si mesmo: liberdade, temperança e crescimento. Esses valores afetam o estado interno e o comportamento do agente. O ‘eu’ em questão pode ser um ser humano ou uma IA projetada como um agente moral autônomo. 

O Nível 4 é um conjunto de cinco valores: empatia, autoridade, segurança, justiça e conformidade. Todos eles estão preocupados com a interação em grupo. Eles se aplicam a seres biológicos companheiros ou a sistemas de IA multiagentes. 

O Nível 5 contém valores para lidar com a natureza e o ecossistema circundante, bem como o universo além. Uma inteligência geral suficientemente poderosa poderia ter um impacto terrestre e extraterrestre e, portanto, precisa se preocupar com o ambiente maior. 

Os valores são concêntricos – começam com pressupostos metafísicos e epistemológicos fundamentais e irradiam para fora para ser mais inclusivos no espaço, no tempo e na variedade. 

No entanto, há uma série de questões não resolvidas: 

1. Universalidade – O debate do relativismo moral versus universalismo moral em que diferentes valores são enfatizados ou negociados. 
2. Hierarquia – A ordem classificada dos valores em termos de sua importância ou relevância para o objetivo. 
3. Mudança – A ética para uma sociedade transumana ou pós-humana pode necessitar de alterações devido a mudanças na natureza da humanidade ou outros IAs. 
4. Centricidade humana – Estes valores são humanos e criados por nossa evolução única e organizações sociais. 
5. Consciência – Os agentes podem precisar sentir – ter qualia – para serem moralmente responsáveis. Isso não significa que um AGI não possa agir moralmente. 
6. Implementação – Esta listagem de valores ditos não descreve os mecanismos pelos quais eles podem ser instanciados. 

Diante desses desafios e oportunidades no âmbito do alinhamento de valores em AGI, o próximo Beneficial AGI Summit emerge como uma plataforma crucial. O BGI Summit, com sua reunião de mentes líderes em inteligência artificial, ética e campos relacionados, apresenta uma oportunidade sem igual para aprofundar nessas questões não resolvidas. 

A universalidade dos valores, a hierarquia das considerações éticas, a natureza evolutiva da ética em uma sociedade transumana, a perspectiva centrada no humano, a consciência e a implementação prática desses valores em sistemas AGI – todos esses tópicos estão maduros para discussão no BGI Summit. 

Este evento poderia marcar um passo significativo para frente em nosso entendimento e capacidade de integrar esses sistemas de valores complexos em AGI, fomentando um futuro onde a inteligência artificial complementa e aprimora os valores e a ética humanos. Junte-se a mim no BGI Summit para explorar esses tópicos. Para mais informações e para se registrar, visite bgi24.ai.

Faça sua conta na Mindplex, entre em nosso canal do Telegram, e nos siga no Twitter.