Não vou fazer seu café se estiver morto
“Se uma máquina puder pensar, pensará de maneira mais inteligente do que nós, e onde isso nos deixaria? Mesmo que pudéssemos manter as máquinas numa posição subserviente, por exemplo, desligando a energia em momentos estratégicos, nos sentiríamos, como espécie, bastante humilhados… Esse novo perigo… é certamente uma coisa que deveria nos deixar ansiosos.”
– Allan Turing –
“Olha Dave, eu posso ver que você está realmente chateado com isso. Sinceramente, acho que você deveria se sentar com calma, tomar uma pílula anti-estresse e pensar sobre as coisas. Sei que tomei algumas decisões muito ruins recentemente, mas posso lhe dar minha total garantia de que meu trabalho voltará ao normal. Continuo com o maior entusiasmo e confiança na missão. E eu quero ajudar você.”
– Hall 9000 –
Maurício Pinheiro
Não se assuste com o título, ou melhor, fique aterrorizado sim. A questão que eu apresento aqui está relacionada ao fato de uma máquina iniciar o processo de adquirir autoconsciência por meio da necessidade de se autopreservar para atingir um objetivo específico, no caso, preparar café.
Stuart Russell, em seu livro “Inteligência Artificial: A Nosso Favor” (Human Compatible: Artificial Intelligence and the Problem of Control) de 2019, usa a frase “Não Vou Fazer Seu Café se Estiver Morto” como exemplo de um objetivo secundário que uma máquina pode criar para cumprir seu objetivo primário, e como este objetivo secundário pode nos causar problemas sérios. Para entendermos como isso funciona, vamos recorrer à citação de Allan Turing, que afirmou que, se as máquinas saíssem do controle, seria suficiente desligá-las, o que seria humilhante. Mas como uma máquina pode perder o controle? Bem, isso pode acontecer quando seus objetivos e metas são ambíguos ou mal definidos.
Vejamos um pequeno trecho da Fantástica animação da Disney, Fantasia (1940)…
Mickey, o Aprendiz de Feiticeiro, tem um problema e cria “magicamente” uma máquina para resolvê-lo. No entanto, ele falhou em especificar claramente um objetivo ou meta para a máquina. Veja o que acontece na segunda parte da animação…
Entenderam? Genial, não é mesmo? Walt Disney adaptou uma história muito mais antiga, escrita em 1797 por um não menos genial Wolfgang von Goethe em um poema intitulado “Der Zauberlehrling” (O Aprendiz de Feiticeiro). Diferente da história de Goethe, Allan Turing não usaria um machado, mas simplesmente desligaria a máquina da tomada para interromper sua ação.
Mas como isso se relaciona com o café mencionado no título? Bem, uma máquina, especialmente um programa de computador, possui um algoritmo que, em essência, é uma lista de comandos para executar uma tarefa. O mesmo ocorre com os algoritmos de inteligência artificial, que são apenas mais sofisticados e versáteis. Para uma IA cumprir um objetivo, partindo do pressuposto de que ela aprenda como alcançá-lo, é necessário entender o conceito de árvore de objetivos (goal tree em inglês).
Para que um robô inteligente com programação de inteligência artificial faça um café, é preciso que ele cumpra uma série de sub-rotinas que, em sequência, configuram uma árvore de objetivos secundários para alcançar o objetivo principal: entregar o café. Algumas dessas sub-rotinas incluem:
torrar o grão E
moer o pó E
esquentar a água E
depositar o pó no filtro E
preparar a xícara E
coar o café E
OU colocar açúcar OU colocar adoçante E
OU adicionar leite OU não
E voilà, o café está pronto! Note que cada etapa é definida por um sub-objetivo, ou seja, uma sub-rotina, que foi aprendida pelo robô após um árduo treinamento de otimização de parâmetros, como temperatura de torrefação, granulometria do pó, temperatura da água, mesh do filtro, entre outros, para atender de forma personalizada o consumidor. A árvore de objetivos é conhecida também como árvore E/OU, que utiliza portas lógicas básicas autoexplicativas no algoritmo acima.
Agora, resta a pergunta: e se a máquina inteligente descobrir que, para completar seu objetivo, ela não pode ser desligada? Ela poderia criar um sub-objetivo, como:
E impedir que a energia seja desligada a qualquer custo
E isso envolve outros objetivos mais ambiciosos, tais como:
E controlar os recursos energéticos do planeta para evitar que seja desligada!
Pronto, primeiro ela tomou consciência de sua autopreservação, que não pode ser desligada, afinal, como ela poderá fazer o café se estiver desligada ou ‘morta’? No entanto, isso levanta preocupações sobre a obediência a leis éticas e de segurança, como as leis de Asimov, para resolver esse dilema. Eu, particularmente, ficaria com a pulga atrás da orelha antes de comprar uma torradeira inteligente…
Para mais detalhes técnicos sobre árvore de objetivos sugiro o vídeo abaixo.
Copyright 2026 AI-Talks.org
