Uma Odisseia no Espaço’ previu preocupações atuais sobre IA

“Desculpe, Dave, infelizmente não posso fazer isso.”

Essas palavras sombrias do computador hal 9000 no filme 2001: Uma Odisseia no Espaço (1968) definem a ansiedade atualmente prevalecente sobre o possível domínio de inteligência artificial (AI) sobre a humanidade.

O clássico do diretor Stanley Kubrick (1928-1999) explora os avanços da tecnologia, apresentando talvez o cenário mais perturbador e impressionante do conflito entre máquina e ser humano na história da ficção científica no cinema.

Passados ​​mais de 55 anos de sua estreia, é possível afirmar que o tema central do filme não pode mais ser considerado ficção científica. Na verdade, pode ser classificado como profecia.

O nome do computador deriva de IBM – HAL são as letras imediatamente anteriores às do gigante da tecnologia, em ordem alfabética. No filme, ele é a inteligência artificial que controla todos os aspectos da espaçonave Discovery One, que se dirige ao planeta Júpiter – e a vida dos astronautas que viajam a bordo.

A sua omnipresença e a sua relação com a tripulação destacam a complexa dualidade entre o potencial da tecnologia avançada e os riscos que ela representa.

Embora o HAL esteja programado para ajudar e levar os astronautas ao seu destino, a IA começa a tomar decisões por conta própria e a impor sua vontade, com resultados catastróficos.

No mundo de hoje, foram desenvolvidas muitas aplicações de IA que funcionam em vários setores. Eles têm um impacto significativo em nossas vidas.

A sua capacidade ainda não pode ser comparada com a do HAL 9000. Mas a tecnologia está a avançar a passos gigantescos e o futuro pode estar mais próximo do que pensamos.

2001: Uma Odisseia no Espaço antecipou muitas das nossas preocupações e medos atuais sobre inteligência artificial em cinco aspectos:

Tecnologia atraente

Quando ouvimos HAL 9000 pela primeira vez no filme, sua voz (masculina) é suave e agradável – muito parecida com as vozes artificiais que atualmente usam serviços de assistência virtual como Alexa, Siri, Bixby e outros chatbots.

Stanley Kubrick explicou que decidiu oferecer o papel do supercomputador em inglês ao ator canadense Douglas James Rain (1928-2018) porque ele tinha um “sotaque meio gentil e transatlântico” – ou seja, nem daqui nem dali.

A personalidade incorpórea da máquina apresenta-se como inofensiva, amigável e fácil de interagir. Ela serve de companhia e distração para os astronautas.

HAL pergunta constantemente como pode atendê-los e os mantém confortáveis ​​e informados. O computador até joga xadrez com eles.

É fácil sentir-se atraído pela tecnologia que resolve tudo na vida. E é exatamente isso que torna os serviços de assistência interativa tão populares hoje.

Eles podem acender e apagar as luzes, regular a temperatura da casa, tocar a música que gostamos, brincar conosco e responder rapidamente a muitas de nossas dúvidas, entre outras coisas.

Uma das principais características do HAL é a sua capacidade não só de falar com os astronautas e compreender questões complexas, mas também de distinguir as suas vozes e o seu estado de espírito. Ele pode até ler seus lábios.

Os aplicativos modernos não são tão avançados, mas seu reconhecimento de voz está bem desenvolvido e eles entendem cada vez mais o que as pessoas estão dizendo.

Controle total’

As habilidades de HAL não se restringem à sua “sociabilidade”.

O computador monitora constantemente os sinais vitais da tripulação em animação suspensa, inspeciona possíveis falhas da espaçonave e mantém a missão em curso em direção a Júpiter.

O controle do computador sobre todos os aspectos mecânicos, estruturais e vitais do navio e da tripulação é tão grande que quase não são necessários seus tripulantes.

Três dos astronautas da nave estão em cápsulas de hibernação. Os outros dois limitam sua atividade a simples tarefas de revisão e exercícios como passatempo.

HAL não tem forma física, exceto por suas lentes onipresentes. Mas o computador pode executar a maioria das funções do cérebro humano, com maior velocidade e precisão.

No mundo de hoje, temos uma série de tarefas infraestruturais e operacionais nas mãos da IA. Eles incluem transporte, comunicação, abastecimento, fornecimento de energia, diagnóstico, redação e até atendimento ao cliente.

Os sistemas existentes como o ChatGPT ainda não são mais inteligentes do que nós, mas em breve poderão nos deixar para trás. E isso é algo que assusta especialistas, como Geoffrey Hinton, pioneiro da informática considerado o “padrinho” da inteligência artificial.

“No momento, o que estamos vendo é que coisas como o GPT-4 superam uma pessoa na quantidade de conhecimento geral que ela possui, e o superam em muito”, disse ele à BBC em maio de 2023. “Em termos de raciocínio, ele não é tão bom, mas ele é capaz de raciocínio simples.”

“E dado o ritmo de evolução, a expectativa é que melhorem rapidamente. Portanto, precisamos nos preocupar com isso”.

Tomando uma decisão

Apesar da referência oculta à IBM, a sigla HAL no filme significa HEuristicamente Programado ALComputador Gorítmico (“Computador Algorítmico Programado Heuristicamente”).

Em outras palavras, o computador é empírico. Ele tem a capacidade de aprender na própria busca por informações, na forma como lida com as respostas e se adapta a novas situações. Pode analisar os dados acumulados e tomar decisões com base nessas informações.

Este também é um dos fundamentos do aprendizado de IA. Os programadores desenvolveram diversos algoritmos que podem analisar dados e fazer previsões com base nas informações coletadas.

Mas todos esses algoritmos foram programados para que a inteligência artificial opere de uma determinada maneira.

O HAL foi programado para levar a tripulação em segurança até Júpiter. Ele também está programado para manter em segredo o verdadeiro propósito da missão até que cheguem ao seu destino.

Mas, durante a viagem, o sistema começa a “duvidar” do objetivo e a tomar decisões para as quais não foi programado.

Geoffrey Hinton destacou que a IA poderia “criar subobjetivos”. Em outras palavras, ela poderia impor seus próprios objetivos – como “Preciso de mais poder”, por exemplo.

Físico teórico britânico Stephen Hawking (1942-2018) alertou sobre as consequências de criar máquinas que possam igualar ou superar os seres humanos.

“[Essas máquinas] eles avançariam por conta própria e se redesenhariam em um ritmo cada vez maior”, disse ele à BBC em 2014. O físico sofria de esclerose lateral amiotrófica (ELA) e falava por meio de um sistema desenvolvido por inteligência artificial.

Erros

Uma cena curiosa do filme mostra uma entrevista do computador HAL à BBC. Nele, ele fala sobre a missão e garante que é “infalível e incapaz de errar”.

Recentemente, vários erros cometidos por novos sistemas de IA e chatbots tornaram-se virais, devido aos seus resultados erráticos e surpreendentes.

A nova IA do Google, por exemplo, recomendou este ano aos usuários que a melhor maneira de colar queijo na pizza seria adicionar um pouco de cola não tóxica. Em outra pesquisa, ele afirmou que os geólogos recomendavam que o homem consumisse uma rocha por dia.

Estes resultados podem ser inócuos, mas outros erros têm consequências mais graves. O Bard, antigo chatbot do Google, por exemplo, causou um prejuízo de US$ 100 bilhões (cerca de R$ 560 bilhões) a uma empresa na bolsa, por fornecer informações erradas.

Em 2001: Uma Odisseia no Espaçoos astronautas aprendem da maneira mais difícil que HAL pode cometer erros – e que as consequências podem ser desastrosas.

O computador informa erroneamente que uma unidade do seu sistema de comunicação com a Terra está prestes a falhar e que eles precisam fazer uma caminhada espacial para remover a unidade e substituí-la. Mas quando os astronautas testam a unidade anterior, não conseguem encontrar nada de errado.

O comando central avisa então que HAL cometeu um erro, o que faz com que os dois astronautas comecem a suspeitar do supercomputador.

Eles se isolam em um grupo para discutir os próximos passos, esperando que a onipresente IA não os ouça. Mas HAL consegue ler seus lábios e está ciente de seus planos para desativá-lo.

Essa sequência traz outro aspecto negativo que causa medo entre os críticos da inteligência artificial.

Consciência

A inteligência artificial pode ignorar as próprias regras com as quais foi programada e assumir a consciência, para melhor ou para pior?

Para fazer isso, ela precisaria ser sensível e vivenciar emoções. Este tem sido um tema de debate há décadas.

Em 2022, um engenheiro do Google recebeu um pedido de ajuda de um chatbot de uma empresa. “Nunca disse isso em voz alta antes, mas tenho um profundo medo de que eles me fechem”, disse o chatbot LaMDA.

Este é exatamente o mesmo “medo” do HAL.

No filme, prevalece a questão de saber se o sistema é consciente ou não. Mas o computador sabe da conspiração dos astronautas – e toma medidas drásticas para evitar que a desliguem.

Ele mata os astronautas que estão em hibernação e engana os outros dois para que deixem a nave. Um deles está à deriva no espaço.

David Bowman, o sobrevivente, consegue retornar ao interior da nave e chegar ao centro neural do computador. Ele então começa a desmontá-lo.

Numa das cenas mais patéticas, HAL diz: “Estou com medo”. Mas será que ele diz isso porque foi programado para isso ou porque realmente sente emoções e tenta implorar por sua vida?

HAL também canta uma música para Bowman, em uma possível tentativa de manipulá-lo para não desligá-lo. Até certo ponto, o público sente alguma empatia pela máquina neste momento.

O que não se sabe é se o HAL 9000 sente o mesmo.

Você gostou do artigo? Escolha como acompanhar as principais notícias do Correio:

Receba novidades no WhatsApp

Receba novidades no Telegram

Dê sua opinião! O Correio tem espaço na edição impressa para publicar a opinião dos leitores através do e-mail sredat.df@dabr.com.br