Moralidade Artificial - Impossivel?

[AVB]

Acredito que "imitar a moralidade" seja impossível, pois é muito mais do que reagir aos estímulos externos + o intrínseco da pessoa. Aliás, definir o que é moralmente aceito, na minha opinião, já é de extrema dificuldade de consenso.
Não sei como "transformariam" a execução de probabilidades para um "pensamento" moral.

[SALINHO]

Pois é. Uma coisa é dotar uma máquina de capacidade de processamento e alimentar dados, o suficiente pra que ela possa fazer uma obra de arte.
Outra é a subjetividade envolvida, é o próprio criador ver aquilo como belo e como expressão de sua subjetividade.

[armlock]

Eu sempre percebi isso Armlock. E eu sempre discordei de ti nesse ponto.

O problema maior que eu acho é questão do inconsciente.
Eu nem acho que isso seria de todo impossível, mas teria que ser descoberto um novo método, um novo caminho. O simples acúmulo de capacidade de processamento não seria o meio eficaz pra emular uma experiência de criação humana, a subjetividade envolvida, etc.

Mas eu nunca disse que seria facil... Eu ja sofria nos anos 80 nas tentativas da epoca de codificar "conhecimento" explicito. Muito mais facil que julgamento subjetivo.

Por outro lado, isso nao significa que nao se pode ate "improve" (termo debativel) em alguns aspectos da moralidade humana, ja que esta eh falha e inconsistente.

Por exemplo. Se voce mostrar um botao com uma pessoa dentro de uma cela e disser que se voce apertar o botao voce estaria matando aquela pessoa mas salvando 1000 outras, grande numero de individuos se recusaria a apertar o botao por principios morais. Por outro lado se voce apresentar a mesma situacao e disser que se voce nao apertar o botao aquele individuo morrera, mas outros 1000 serao salvos, um numero igualmente grande de individuos nao apertarao o botao e deixarao o camarada morrer.

Ultimamente voce esta decidindo exatamente a mesma coisa. Se voce mata uma pessoa ou salva 1000. Mas a diferenca eh puramente psicologica de que na primeira voce escolhe matar e na segunda escolhe nao salvar o camarada. E para certos cerebros isso eh processado objetivamente e a pessoa tomando a decisao nao ve diferenca, enquanto em outros eh subjetivo e afeta a decisao...

Enfim, acho que o estudo vale a pena.

[armlock]

Nesse caso, não. Mesmo que o algoritmo pudesse 'aprender', como disse outro colega, seria um aprendizado pré-determinado, não intuitivo.
Acredito que alguns atributos da inteligência, como a criatividade, dependem da intuição, que por sua vez derivariam da consciência de si.
A máquina pode passar no teste de Turing, emular julgamento moral e até simular emoções, mas sem autoconsciência, não passa de um zumbi

Isso eh importante e nao lembro se esta naquele paper ou em outro. Porque moralidade depende do cerebro ter o que o pessoal chama informalmente de "vida interna" ou seja ter o seu processamento de inputs continuos, sem funcao especifica, onde informacao eh guardada e processada sem finalidade especifica (parte dessa informacao eh inclusive organizada e guardada no sono.)

Essa informacao nao orientada geralmente eh o que define a influencia da cultura onde voce cresce na sua moralidade, mas voce a adquire sem finalidade. Uma crianca criada numa cultura samurai vai lembrar que eh esperado dos adultos preferir o suicidio que a falta de honra.. outra crianca criada num meio de con-artists vai ter um julgamento diferente (nao contando o componente genetico)

Por isso algumas discussoes involvem se eh mais interessante criar algoritmos de aquisicao de dados por input e deixar o computador fazendo observacoes continuas e criar suas proprias regras a partir das "observacoes", aprendendo sozinho (treinando seu neural net), do que ter algoritmos "hard coded" sobre comportamento.


E finalmente um ultimo comentario sobre a parte em Bold. Se as indicacoes destes testes da consciencia nao ter efeito sobre as decisoes forem reais, a intuicao seria diferente de outro tipo de conclusao apenas porque em uma a consciencia eventualmente seria informanda nao soh do resultado mas tambem do processo levando ao mesmo, enquanto na outra (intuicao) a consciencia seria apenas informada da conclusao, sem ser informada do processo de decisao (que ocorreria subsconsicentemente em ambos os casos)

Essa ideia da consciencia ser um "pos processador" que processa decisoes subconscientes tambem explicaria porque em situacoes de sobrevivencia imediata as pessoas falam que reagem sem pensar.. A decisao eh tomada e o corpo age antes ate da consciencia ser alertada. Ou porque as vezes se tem uma "sensacao de algo errado" .. seu cerebro processou, decidiu sobre a situacao ser ruim, mas ainda nao conseguiu transmitir o porque a consciencia....

UGH!

[Azulzinho]

Complicado. Creio que por mero incremento no poder bruto de processamento das máquinas atuais, a tomada de decisões com alto grau de subjetivismo ainda está bastante distante da nossa realidade. Até pouco tempo atrás, não sei se até agora, máquinas ainda não eram capazes de vencer grandes mestres de xadrez - um jogo altamente matemático. Imagina então comparar-se a humanos em tarefas que envolva linguística, filosofia, ciências humanas? Meramente fazer um robô andar em superfícies irregulares é uma tarefa hérculea, quem dirá de coisas muito menos palpáveis.

A computação ainda deve evoluir bastante antes disso ser possível, embora para decisões simples já deva ser possível programar algo.

Mas não duvido nada que isso venha a ser possível no futuro. Diria até que é provável. Imagina um mundo onde robôs, com base em programação prévia e acúmulo de experiências e conhecimento posteriores pudessem vir a tomar decisões morais, cada um com uma visão e opinião singulares...Isso seria quase humano

No mais, isso seria uma excelente ferramenta para tomadas de decisões e uso jurídico. Robôs não seriam vingativos, preconceituosos, enviesados...Pelo menos espero que não

[SALINHO]

Mas eu nunca disse que seria facil... Eu ja sofria nos anos 80 nas tentativas da epoca de codificar "conhecimento" explicito. Muito mais facil que julgamento subjetivo.

Por outro lado, isso nao significa que nao se pode ate "improve" (termo debativel) em alguns aspectos da moralidade humana, ja que esta eh falha e inconsistente.

Por exemplo. Se voce mostrar um botao com uma pessoa dentro de uma cela e disser que se voce apertar o botao voce estaria matando aquela pessoa mas salvando 1000 outras, grande numero de individuos se recusaria a apertar o botao por principios morais. Por outro lado se voce apresentar a mesma situacao e disser que se voce nao apertar o botao aquele individuo morrera, mas outros 1000 serao salvos, um numero igualmente grande de individuos nao apertarao o botao e deixarao o camarada morrer.

Ultimamente voce esta decidindo exatamente a mesma coisa. Se voce mata uma pessoa ou salva 1000. Mas a diferenca eh puramente psicologica de que na primeira voce escolhe matar e na segunda escolhe nao salvar o camarada. E para certos cerebros isso eh processado objetivamente e a pessoa tomando a decisao nao ve diferenca, enquanto em outros eh subjetivo e afeta a decisao...

Enfim, acho que o estudo vale a pena.

Com certeza o estudo vale muito a pena, e essa é uma questão que me encanta. E o estudo é vital até pra se chegar à conclusão de que não é possível, descartar a emulação da subjetividade com o simples acúmulo de capacidade de processamento.

[SALINHO]

No mais, isso seria uma excelente ferramenta para tomadas de decisões e uso jurídico. Robôs não seriam vingativos, preconceituosos, enviesados...Pelo menos espero que não

Talvez esse seja o problema.

[Marcial]

Isso eh importante e nao lembro se esta naquele paper ou em outro. Porque moralidade depende do cerebro ter o que o pessoal chama informalmente de "vida interna" ou seja ter o seu processamento de inputs continuos, sem funcao especifica, onde informacao eh guardada e processada sem finalidade especifica (parte dessa informacao eh inclusive organizada e guardada no sono.)

Essa informacao nao orientada geralmente eh o que define a influencia da cultura onde voce cresce na sua moralidade, mas voce a adquire sem finalidade. Uma crianca criada numa cultura samurai vai lembrar que eh esperado dos adultos preferir o suicidio que a falta de honra.. outra crianca criada num meio de con-artists vai ter um julgamento diferente (nao contando o componente genetico)

Por isso algumas discussoes involvem se eh mais interessante criar algoritmos de aquisicao de dados por input e deixar o computador fazendo observacoes continuas e criar suas proprias regras a partir das "observacoes", aprendendo sozinho (treinando seu neural net), do que ter algoritmos "hard coded" sobre comportamento.


E finalmente um ultimo comentario sobre a parte em Bold. Se as indicacoes destes testes da consciencia nao ter efeito sobre as decisoes forem reais, a intuicao seria diferente de outro tipo de conclusao apenas porque em uma a consciencia eventualmente seria informanda nao soh do resultado mas tambem do processo levando ao mesmo, enquanto na outra (intuicao) a consciencia seria apenas informada da conclusao, sem ser informada do processo de decisao (que ocorreria subsconsicentemente em ambos os casos)

Essa ideia da consciencia ser um "pos processador" que processa decisoes subconscientes tambem explicaria porque em situacoes de sobrevivencia imediata as pessoas falam que reagem sem pensar.. A decisao eh tomada e o corpo age antes ate da consciencia ser alertada. Ou porque as vezes se tem uma "sensacao de algo errado" .. seu cerebro processou, decidiu sobre a situacao ser ruim, mas ainda nao conseguiu transmitir o porque a consciencia....

UGH!

Essa parte que eu negritei da sua explicação, das informações que são guardadas sem função específica, eu acho sinistro demais...
Da multiplicidade de dados sensoriais cotidianos, porque alguns vão para o 'backup', povoando sonhos e pesadelos, e outras não?
Que filtro é esse? Seria apenas acaso ou existe um processo, ainda não decupado pela ciência, relacionado a um karma ou destino?

Sobre a intuição, entendi o conceito de que esta estaria relacionada às decisões que tomamos sem o conhecimento do 'processo'.
Mas haveria realmente um 'processo'? Para mim, a natureza do 'subsconciente' ou 'inconsciente', nesse caso, me parece decisiva.
De acordo com algumas leituras, o que caracteriza o 'fora da consciência' seria justamente um tipo de lugar hostil aos 'processos'.

O que reforça a minha impressão (ou intuição : ) de que a intuição seja uma forma de conexão direta com algo bem misterioso