Estamos procurando um autor para escrever sobre saúde do homem no PdH! Topa? Mais informações aqui.

Qual o risco dos robôs se rebelarem contra nós?

A inteligência artificial já faz parte do nosso dia-a-dia, em maior ou menor grau. O que o futuro nos reserva?

"No fim das contas, a máquina é apenas uma ferramenta, a qual pode ajudar a humanidade a progredir mais rápido à medida que tira o fardo dos cálculos e interpretações de suas costas. A tarefa do cérebro permanece o que sempre foi: a de descobrir novos dados a serem analisados e inventar novos conceitos para serem testados." - O conflito inevitável" em Eu Robô, de Isaac Asimov (tradução livre)

O cenário futurístico idealizado por  Isaac Asimov em sua série de livros nunca esteve tão perto de se tornar real. Estamos colocando o primeiro pé na era da automação. Inteligência artificial - real - não é mais uma vaga noção, é uma realidade concreta e presente, em algum grau, na vida de todos nós.

Aos poucos, carros autônomos estão conquistando as ruas do Estados Unidos, acumulando experiência e melhorando sua capacidade de reconhecimento do trânsito. Em breve, esses veículos serão cada vez mais comuns, enquanto suas versões manuais se tornarão cada vez mais obsoletos. Com o tempo, alguns poucos aventureiros optarão por dirigir o próprios carro, em detrimento de todas as vantagens de um transporte mais seguro e que permite gastar o tempo do deslocamento com outras atividades como assistir filmes, ler livros ou participar de reuniões.

Esse avanço deve demorar, mas seguirá até o ponto onde - acredito - será proibido aos humanos dirigir carros.

Por uma razoável quantia de dinheiro - nem tão caro assim - é possível comprar um robô que mapeia minha casa por conta própria e identifica sua base de descanso. Dentro de uma agenda programada, o robô sai para fazer a limpeza e retorna para a tomada, recarregando suas baterias até a hora de repetir a tarefa.

Vários outros objetos já utilizam de algum nível de inteligência artificial para facilitar nossas vidas e, com o tempo, se tornarão cada vez melhores, mais precisos e com formatos ainda mais diversos.

Inteligência, Pensamento e Consciência

Robôs e o processo de inteligência artificial começam a se tornar um assunto mais profundo.

A mente humana é - inquestionavelmente - um dos campos de estudo mais complexos que existe atualmente, nossa estrutura mental  é tão complexa que ainda estamos longe de entender o que se passa em cada um dos neurotransmissores e como isso afeta cada uma das áreas do cérebro.

No entanto, não precisamos compreender na totalidade o funcionamento do cérebro ou da mente para começar a reproduzir o resultado. A estrutura pode ser diferente, desde que produza a saída que buscamos.

O dicionário define inteligência como: a capacidade de aprender, compreender, outras formas de atividade mental (?) e a busca pela verdade, relações e significados. Dada essa definição, não é muito difícil de dizer que sim, nossa inteligência artificial, hoje - já há muitos anos - é uma inteligência verdadeira.

Quando Deep Blue foi capaz de vencer Garry Kasparov em 1997, já fomos capazes de observar a definição de inteligência sendo reproduzida por uma máquina. A máquina era capaz de observar movimentos, aprender com padrões e prever jogadas.  O mais curioso, no entanto, é que anos depois foi divulgado que, apenas por causa de um bug, o computador teria sido capaz de vencer a fatídica partida de Xadrez. Segundo um documentário mais recenteum bug no código teria feito o computador entrar em loop, precisando recorrer ao tratamento de erros, executando uma jogada aleatória e válida para retornar ao script corretamente. Kasparov tentou analisar racionalmente uma jogada que não fazia sentido, concluindo que tal jogada contra-intuitiva só poderia ser um sinal de inteligência superior.

Muitos apontam a casualidade do bug como um argumento para que a "inteligência" da máquina não ser considerada real, mas se pararmos para pensar um pouco, não existe nada mais comum - até mesmo para humanos - do que agir sem lógica num momento de forte pressão. Para o que muitos parece ser uma falha, para mim apenas aproxima o comportamento da máquina ao dos seres humanos. Existe inteligência, mas ela pode falhar.

Ao mesmo tempo que projetamos máquinas para se comportar e processar informações da mesma forma que nós humanos o fazemos, tentamos nos diferenciar dos nossos companheiros cibernéticos de alguma forma. Mas se robôs já podem possuir um corpo como o nosso e estão se tornando tão inteligentes quanto os seres humanos, o que vai nos diferenciar deles?

Até hoje, um dos processos mentais mais complexos e que provavelmente será nosso grande diferencial por um bom tempo é a consciência. A definição do dicionário para consciência é: o estado de ser consciente, a percepção de si mesmo, pensamentos e o que existe em volta. 

Mesmo com alguns avanços, reconheço que deve demorar muito tempo até construirmos um computador que seja capaz de refletir sobre sua própria existência, com o grau de complexidade que os homens são capazes.

No entanto, alguns testes para que essa consciência seja desenvolvida em robôs já estão acontecendo. Um vídeo recente mostra o momento onde um robô se torna consciente e muda sua resposta com base em suas próprias observações.

No experimento, três  Nao Robots foram programados para acreditar que dois deles receberam a "pílula emburrecedora", que os impediria de falar. Para os três foi feita a pergunta: "Que pílula você recebeu?" Como dois robôs permaneceram calados, um deles disse "Eu não sei".

Acontece então que, como o robô foi capaz de falar, ele assumiu consciência sobre si mesmo e suas ações recentes, modificando sua resposta para: "Desculpa, agora eu sei. Fui capaz de provar que não recebi a pílula emburrecedora".

Por mais que pareça simples, é um enorme passo fazer uma máquina observar o próprio comportamento e mudar declarações com base em informações geradas por ela mesma.

Se o experimento do robô não foi suficiente, o que dizer de uma descoberta científica completamente feita por um robô? 

Recentemente, um computador foi capaz de desvendar um problema da biologia com mais de 100 anos, por conta própria. Não apenas isso, grande parte da operação para descobertas de novos medicamentos já são automatizados e executados por algoritmos de inteligência artificial.

Uma das ideias mais antigas para definir se uma máquina possui inteligência equivalente a do ser humano é o famoso teste de Turing. Se um usuário não for capaz de diferenciar uma máquina de um ser humano através de uma conversa por texto, a máquina é considerada inteligente.  

Existe muito debate em torno da validade desse tipo de teste, mas todos sabemos que a inteligência e o comportamento humano vão muito além da capacidade de desenvolver uma conversa.

O teste voltou a aparecer nas notícias devido ao sucesso do Xiaoice, um bot desenvolvido pela Microsoft que mantém conversas com usuários (apenas chinês). O Chatbot vem servindo como uma forma dos usuários não se sentirem sozinhos, encontrando um amigo "praticamente real". O software é capaz de lembrar informações de conversas anteriores, como término de namoro, e perguntar futuramente como o usuário está se sentindo, tornando a experiência bastante real.

Não acredito que a consciência robótica vá muito além disso nos próximos 10 ou 20 anos, mas se pensarmos em três ou quatro séculos, teremos interações bem mais profundas do que apenas conversas com um robô via internet.

Sendo assim, se a consciência ou capacidade intelectual não será mais um diferencial entre humanos e máquinas, o que nos diferenciará dos robôs?

Quando parei para pensar sobre isso, inicialmente, minha primeira resposta foi: é obvio, nós somos seres vivos.

Mas não é tão simples assim como pensei.

O que significa ser "um ser vivo"

Um ponto crucial para essa informação é, basicamente, definir o que significa estar vivo.

Curiosamente, essa pergunta é muito mais profunda do que parece. Gastei algumas horas pesquisando como definir vida e "ser vivo", mas quanto maior a leitura, mais complexa se torna essa pergunta.

Lembro quando cursei o ensino fundamental, nas aulas de ciências, a definição que ensinavam na escola era algo assim.

O que são seres vivos?
São todos os seres que nascem, crescem, reproduzem e morrem.

Apesar de parecer bem coerente essa definição, sabemos que alguns seres vivos - em geral híbridos de como ligres e mulas - não são capazes de se reproduzir. Outro ponto é a morte, apesar de ser apenas uma curiosa exceção, a Turritopsis dohrnii é uma espécie de água-viva capaz de voltar ao seu estado inicial de vida a qualquer momento, sendo biologicamente imortal.

Dada essa dificuldade de entender o que é vida - favor ler o artigo aqui para entender o tamanho da dificuldade - podemos, pelo menos, concordar com um paliativo para nos diferenciar das máquinas. Teoricamente, os seres vivos são todos orgânicos e com condições de se multiplicar - não diretamente se reproduzir - de alguma forma. Nesse caso, mesmo um animal híbrido estéril se multiplica, não por conta própria, mas como resultado do cruzamento entre duas outras espécies. O animal em si não se multiplica, mas a espécie, sim.

No entanto, levando em conta a perspectiva de avanço da inteligência artificial e da consciência robótica num período longo, uns quatrocentos anos, talvez, imagine o seguinte cenário:

Considerando a Lei de Moore, mesmo com possíveis descontinuidades na função, sabemos que a capacidade de processamento dos computadores será exponencialmente maior em quatrocentos anos.

Neste campo hipotético, considere um robô inteligente e consciente, que se comporte de forma semelhante aos humanos. Estes robôs seriam inicialmente construídos por nós mas, em pouco tempo, absorveriam conhecimento suficiente para montar seus próprios descendentes. Não seria uma reprodução orgânica, mas seriam capazes de juntar peças e criar seus próprios "filhos".

No começo, pensei que não existiria uma motivação para um robô tentar se reproduzir e criar descendentes, mas dado um contexto onde máquinas estarão inseridas na sociedade de maneira tão profunda, é provável que em determinado ponto encontrem uma boa razão para imitar e buscar se igualar aos humanos, tentando emular suas características mais naturais.

Se pensarmos em impressoras 3D que já conseguem replicar partes de si mesma sozinhas, não é difícil projetar um futuro onde robôs poderão adquirir essa capacidade para tentar copiar o poder de reprodução humano.

Assim, máquinas serão capazes de se comportar - ou emular comportamento - dos seres humanos com um grau de autonomia impressionante. Mas poderemos considerar que são seres vivos?

Provavelmente nesse estágio precisaremos rever nossa já complicada noção do que é um ser vivo.

A sociologia da robótica

Em seus livros, Asimov não queria falar sobre futuro, robôs ou tecnologia. Apesar de introduzir fortes conceitos na área, todo cenário desenvolvido era usado como pano de fundo para discutir o funcionamento das relações sociais. Os conflitos entre os robôs e os seres humanos são nitidamente uma metáfora sobre nós mesmos, nossos preconceitos, crenças e injustiças.

Ainda sob o cenário hipotético que descrevi anteriormente, numa possível era onde a capacidade de consciência e inteligência dos robôs atingiu tal nível, que são capazes de conversar, desenvolver amizades e fazer parte de círculos sociais, reavaliar a forma como estes seres são tratados pela sociedade será inevitável.

As máquinas, em algum momento, se darão conta que estão sendo exploradas pelos humanos em vários níveis, trabalhando sem nenhum tipo de recompensa ou direito.

Quando um humano se machuca no local de trabalho, costuma ser indenizado de alguma forma, mas quando uma máquina quebra, troca-se a peça defeituosa ou simplesmente descontinua-se o equipamento. É obvio que, hoje, com máquinas sem consciência, não faz sentido existir determinados questionamentos, mas na projeção de aproximadamente quatro séculos, é possível que nossos amigos robóticos entendam que os tratamos com desigualdade e crueldade, desmascarando séculos de trabalho escravo e exploração robótica.

Movimentos de proteção aos direitos robóticos e sindicatos que cuidam do trabalho das máquinas surgirão aos milhares. A sociedade se dividirá entre os que entendem robôs como seres conscientes e os que consideram robôs apenas máquinas sem vida. A ideia de que robôs são apenas máquinas, que quando desligadas não causam nenhum prejuízo, principalmente pela possibilidade de serem trocados por outros idênticos (com consciência zerada) para continuar seu trabalho, será incrivelmente forte entre os mais resistentes a mudança.

Mas não seria crueldade apagar uma consciência - mesmo que artificial - para começar do zero? Ignorando toda construção histórica feita por determinado Ser?

O argumento para escravizar negros se baseava na hipótese de que não eram humanos como os homens brancos. Hoje, ainda que exista a massa de resistência racista, sabe-se que somos iguais.

Por muitos anos também maltrataram animais e os caçaram indiscriminadamente, até passarem a considerar os direitos dos animais, e tratá-los com crueldade se tornar uma atitude inaceitável.

Com os robôs, novamente, é muito fácil apontar que eles não precisam de direitos pois não são seres vivos.

Então, repito a pergunta, o que é ser vivo?

Um robô consciente criará amigos, poderá originar seus filhos a partir da impressão de peças e da configuração de consciência para eles. Não serão filhos orgânicos, mas serão parte de uma hereditariedade, a transferência da imagem que o próprio organismo-robótico carrega de si mesmo. Estes robôs serão amigos de outras máquinas e de seres humanos, membros de círculos sociais, com profissões e responsabilidades, produzindo expectativas e sentimentos. Curiosamente, tais robôs não serão vivos, biologicamente, mas possuirão uma vida socialmente estruturada.

Esbarramos então na ideia de um ser que não é vivo, mas possui uma vida.

Inteligência artificial e o risco para a humanidade

Uma das abordagens midiáticas mais comuns em termos de inteligência artificial é o debate sobre o perigo que a inteligência artificial pode representar para a humanidade, já que existe o forte medo de que robôs super capacitados se rebelem contra nós.

Mesmo enxergando a ficção científica como uma excelente forma de estímulo ao surgimento de novas ideias e de desenvolvimento científico real, entendo esse medo como uma fetichização direta com base no que vemos em muitos filmes por aí.

Antes de considerar que máquinas com altíssimo potencial cognitivo seriam capazes de nos dominar e nos escravizar, precisamos mergulhar num outro sentido, buscando entender melhor quais motivações seriam necessárias para robôs assumirem um comportamento hostil em relação a seus criadores.

Diferentemente dos filmes que, em geral, apresentam motivações rasas ou improváveis para que máquinas tentem assumir algum tipo de controle, não consigo imaginar como robôs poderiam ser movidos na direção do poder, dinheiro ou raiva. 

Alguns experimentos recentes ensinaram robôs a simular raiva, o que faz muita gente sinalizar sua preocupação com um futuro onde teríamos máquinas raivosas andando por aí. No entanto, devemos lembrar que sentir e simular são duas coisas bem distantes, não podendo nem ser comparadas entre si.

Simular é apenas o ato de se comportar de maneira falsa, tentando reproduzir um resultado sem necessariamente possuir a condição causadora. Se eu simulo que amo uma pessoa, estou agindo como quem ama, mas sem que o sentimento exista. Se finjo que estou com raiva, eu simplesmente grito e jogo coisas por aí, mas sem ter a emoção originária que me levaria a esse comportamento.

Por isso, simular raiva pode ser algo que nos assuste, mas que não representa uma motivação para que robôs se voltem contra os seres humanos. Eles saberiam demonstrar alguma raiva contra nós, mas faltaria a motivação - o sentimento de raiva - que os levassem a nos agredir. Lembrando também que máquinas poderiam nos atacar sem necessariamente demonstrar algum tipo de raiva ou emoção. Até o atual momento, simular algum sentimento não parece ser um indicador de que algo pode ser bom ou ruim no futuro.

Alguns cientistas de renome estão se juntando para pedir que a sociedade internacional passe a banir possíveis armas-robôs autônomas, capazes de mirar e atirar sem um controle humano significativo. Para muitos, esse pedido soa como um reforço de que máquinas poderiam se voltar contra os seres humanos no futuro, mas que no geral é apenas um apelo para o uso de inteligência artificial na construção de armas que poderiam matar alguém por algum tipo de engano. Nesse caso, imaginemos algum tipo de arma estacionária que identifica movimento e atira sozinha, não um robô andando por aí e matando tudo o que acha pela frente - sabendo que, se o primeiro pode ser feito, o segundo também pode.

Isaac Asimov - como sempre - foi capaz de prever tal preocupação em seus livros, desenvolvendo uma lógica simples, mas que aparenta grande eficiência na resolução desse problema. Asimov propôs o que ficou conhecido como as Leis da Robótica, um texto que inicialmente era contido por três leis básicas que deveriam estar embutidas na construção de todo robô:

1ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.

2ª Lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.

3ª Lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Posteriormente uma lei foi adicionada acima de todas as outras, sendo conhecida como a Lei Zero: Um robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal.

Por mais que a lei zero seja mais abstrata, até mesmo para nós humanos - sabemos mesmo como uma ação nossa afeta a humanidade? - as três leis originais são bem objetivas e simples de serem compreendidas como pré-requisito de ação para robôs.

É possível que determinadas instruções sejam implantadas em robôs num nível mais baixo, permitindo que não fiquem acessíveis à humanos ou até mesmo ao próprio robô. Seria como um chip ROM - memória apenas de leitura - integrado ao robô, que ao ser removido interromperia completamente o funcionamento da máquina.

É claro que determinados tipos de controle seriam passíveis de fraude, algum fabricante poderia eventualmente produzir um robô com uma falha em algum desses chips ou organizações criminosas poderiam simplesmente fabricar seus próprios ciborgues sem nenhum tipo de controle.

Não podemos esquecer que criar algoritmos capazes de desenvolver consciência e operar com autonomia é um trabalho científico extremamente avançado e que seria necessário uma quantidade de recursos - humano e financeiro - incrivelmente alta, sendo proibitivo em muitos níveis. Uma organização criminosa capaz de desenvolver e aplicar uma tecnologia dessas, já seria capaz de fazer estrago muito maior com bem menos esforço, fazendo uso de armas químicas e outras ameaças de destruição em massa com logística bem menos complicada.

O uso por forças militares é, provavelmente, onde mora a maior preocupação, já que deixaria de ser possível enviar tropas e gastar material humano, substituindo toda frente de batalha por robôs armados.

Esse tipo de movimentação já vem acontecendo. Aviões, que antes eram vulneráveis a ataques, foram substituídos por drones, aeronaves não-tripuladas. Este é um indicativo de que, com advento de robôs autônomos eficientes, humanos deixariam definitivamente de ir para guerra e dariam lugares a avatares robóticos. 

O debate sobre esse tipo de ataque vem ganhando corpo. Entende-se que drones reduzem a empatia entre quem ataca e quem sofre o ataque, podendo elevar o número de vítimas inocentes.

Lembrando que drones, mesmo reduzindo a quantidade de humanos em risco, não operam de forma autônoma, são controlados remotamente por humanos.

 

Por enquanto, esse debate ainda permanece no campo das ideias, mas é provável que robôs representem ameaça para humanos apenas quando usado por outros humanos para nos fazer mal, não como uma consciência rebelde que decide assumir o controle do mundo por conta própria.

Tenho extrema dificuldade em imaginar uma inteligência artificial que desenvolva-se a ponto de identificar humanos como ameaça para sua existência e não como um ser colaborativo que permite possibilidades de expansão e aprimoramento.

No mais, existe uma forma bastante simples de se derrotar um exército composto apenas de robôs, mas que seria inofensivo aos humanos. Um Pulso Eletromagnético (EMP) é capaz de desativar dispositivos eletrônicos e torná-los inutilizáveis de forma muito rápida e nada destrutiva.

* * *

Inteligência artificial ainda vai gerar muito debate, mas o que podemos prever é que muita coisa precisará mudar, e muito da forma como vemos a sociedade precisará ser adaptada. De resto, todo esse texto é uma grande aventura de imaginação e extrapolação de ideias, não representando efetivamente nenhuma conclusão científica sobre o que acontecerá no futuro.

Faço aqui também uma apropriação das intenções de Asimov, propondo que o exercício de revisar a forma como enxergamos a humanidade seja feito sem que precisemos passar pelas dificuldades projetadas, servindo para refletir sobre os problemas de desigualdade, preconceitos e violência que já existem na sociedade atual, sem a necessidade da introdução de um novo elemento para que as coisas sejam reformuladas.


publicado em 18 de Agosto de 2015, 00:00
12596172 10153389055960906 1551523976 n

Alberto Brandão

É analista de sistemas, estudante de física e escritor colunista do Papo de Homem. Escreve sobre tudo o que acha interessante no Mnenyie, e também produz uma newsletter semanal, a Caos (Con)textual, com textos exclusivos e curadoria de conteúdo. Ficaria honrado em ser seu amigo no Facebook e conversar com você por email.


Puxe uma cadeira e comente, a casa é sua. Cultivamos diálogos não-violentos, significativos e bem humorados há mais de dez anos. Para saber como fazemos, leianossa política de comentários.

Sugestões de leitura