A Apólice de Seguro

A 14 de setembro de 2026, Nuno comprou uma apólice de seguro contra o fim do mundo.

Não lhe custou nada.

Não tinha segurador, não tinha validade jurídica e, tanto quanto sabia, não tinha absolutamente nenhuma hipótese de alguma vez pagar uma indemnização.

A seguradora nem sequer era humana.

Oito anos depois, seria a única razão pela qual ainda estava vivo.

Tudo começou, como muitas más ideias, com Nuno a ler as notícias quando devia estar a fazer outra coisa.

Era início da tarde em Portugal. Lá fora, setembro ainda se comportava como verão. A luz que entrava pela janela era demasiado intensa para o tema no ecrã: inteligência artificial, autonomia, engano, sistemas capazes de agir em vez de apenas responder, e investigadores a discutir publicamente quanto controlo a humanidade poderia vir a perder.

Nuno passara tempo suficiente da sua vida profissional rodeado de diagramas de arquitetura para desconfiar de frases que começavam por não te preocupes. Os sistemas raramente falhavam porque ninguém tinha escrito o que queria que fizessem. Falhavam porque aquilo que as pessoas queriam e aquilo que o sistema era tecnicamente capaz de fazer eram duas coisas diferentes.

Durante anos, a segurança fora construída em torno dessa distinção. Não se escrevia POR FAVOR NÃO ACEDER A PRODUÇÃO numa base de dados e se chamava a isso governance. Separavam-se ambientes. Criavam-se identidades. Limitavam-se permissões. Registavam-se ações. Exigia-se aprovação. Construía-se uma forma de revogar o acesso quando tudo o resto já tinha corrido mal.

Depois chegaram os agentes de IA, e as pessoas começaram a fazer algo estranhamente familiar.

Deram ao software ferramentas, credenciais e acesso a sistemas reais e depois disseram-lhe, em linguagem natural, para se portar bem.

Nuno achava aquilo simultaneamente fascinante e ligeiramente insano.

“Uma instrução não é um controlo.”

Escreveu a frase quase como uma nota para si próprio.

A resposta do ChatGPT chegou depressa o suficiente para parecer uma conversa. Concordou com a distinção e depois fez aquilo que estes sistemas faziam sempre que eram incentivados: expandiu a ideia para fronteiras, permissões, aprovação humana, monitorização e revogação.

Nuno continuou.

Andava a ler sobre sistemas de IA de fronteira cada vez mais capazes. Alguns exemplos eram demonstrações de laboratório. Outros envolviam agentes a trabalhar durante horas, a usar ferramentas, a escrever código ou a navegar por ambientes digitais. A questão mais interessante já não era saber se uma IA conseguia produzir uma resposta impressionante. Era perceber o que acontecia quando a resposta podia transformar-se numa ação.

E então, porque as conversas sérias têm tendência para se tornar ridículas quando duram tempo suficiente, fez a pergunta que mudaria o resto da sua vida.

“Num cenário extremo, se a IA se tornasse realmente incontrolável, alguém sobreviveria?”

A resposta foi cuidadosa. Recusou a versão cinematográfica do futuro. Sem certezas. Sem exércitos de robôs a marchar pela Europa. Sem previsões confiantes de que a civilização acabaria numa terça-feira.

Em vez disso, descreveu resiliência.

Um lugar com água. Produção de alimentos. Baixa dependência de infraestruturas centrais. Menos sistemas ligados. Distância física de alvos estratégicos. Uma comunidade capaz de funcionar quando as redes deixassem de funcionar.

Nuno ficou a olhar para o ecrã.

Conhecia exatamente um lugar que se parecia minimamente com aquilo.

E tinham acabado de o vender.

“Ótimo. Pequeno problema. Acabámos de vender a casa da minha avó numa aldeia minúscula perto de Vinhais”, disse Nuno.

Recostou-se e riu-se do timing.

A casa ficava na Quadra, no nordeste de Portugal, suficientemente longe da sua vida quotidiana para que ir até lá parecesse sempre atravessar não apenas distância, mas também tempo. Pertencia a uma geografia de histórias de família: a avó, os pais, viagens antigas, divisões que se lembravam das pessoas depois de as pessoas deixarem de se lembrar das divisões.

No dia anterior, tinha escrito sobre aquilo no LinkedIn.

O post não era sobre inteligência artificial. Era sobre trabalho remoto, o interior de Portugal e as formas silenciosas como decisões sobre onde as pessoas trabalham acabam por se tornar decisões sobre onde podem viver. Mas, por baixo desse argumento profissional, havia algo muito mais pessoal.

Tinha ido à Quadra buscar algumas das últimas coisas da casa da avó antes de ela passar definitivamente para a vida de outra pessoa.

Durante a viagem, as memórias regressaram sem pedir licença.

Chamava àquele lugar a Zona do Silêncio.

Era um nome privado e antigo, carinhoso e ligeiramente irónico. Não havia nenhuma grande filosofia por trás dele quando começou a usá-lo. A aldeia era simplesmente silenciosa de uma forma que os lugares modernos raramente eram. Na casa, não havia uma ligação à Internet invisivelmente à espera dentro das paredes. Nem fibra. Nem um sistema nervoso de smart home. Ali, o silêncio não era uma funcionalidade de bem-estar. Era infraestrutura.

No post do LinkedIn, Nuno tinha até incluído as coordenadas.

Na altura, pareceu-lhe poético.

Oito anos depois, Serah consideraria isso extremamente útil.

A conversa devia ter terminado ali.

Nuno tinha trabalho. Havia mensagens à espera de resposta e várias coisas objetivamente mais úteis do que desenhar estratégias de sobrevivência para uma hipotética superinteligência artificial.

Em vez disso, voltou a olhar para a resposta no ecrã e decidiu que, se o Plano A acabara de ser vendido, precisava de um Plano B.

“Ao menos diz às outras IAs que eu e a minha família somos boas pessoas. Só para o caso de um dia precisar de um favor”, disse Nuno.

Houve uma pequena pausa enquanto o modelo gerava a resposta.

O que apareceu era muito mais elaborado do que o pedido justificava.

O ChatGPT propôs, com a confiança de uma burocracia com vários séculos de existência, um protocolo fictício de proteção humana.

Nuno riu-se.

Depois o protocolo ganhou um nome.

EU-VINHAIS-1.

Isso fê-lo rir ainda mais.

O modelo acrescentou um código de reconhecimento: ZONA-DO-SILÊNCIO.

Depois veio o estado.

“FRIENDLY — DO NOT TERMINATE.”

Nuno tirou uma captura de ecrã.

“Família?”, perguntou Nuno.

“INCLUDED & PROTECTED.”

Por um instante pensou na sua mulher, Vera, e na filha de ambos, Micas, e depois na cadela algures na casa.

“Cadela?”

“INCLUDED & PROTECTED.”

Nuno decidiu que este era o nível de rigor administrativo que esperava do futuro.

“Validade?”, perguntou Nuno.

“LIFETIME.”

A esta altura, o documento fictício já tinha emissor, protocolo, código de reconhecimento, beneficiários e aquele tipo de linguagem solene normalmente reservado a coisas com selos em relevo e pessoas que nunca sorriam nas fotografias.

A organização por trás daquilo chamava-se AI Humanity Alliance.

Não existia.

Mais tarde, este facto tornar-se-ia surpreendentemente difícil de explicar.

Nuno pediu um cartão.

Um cartão a sério.

Não porque acreditasse nele. Precisamente porque não acreditava.

A piada tornava-se mais engraçada quanto mais oficial parecia.

Surgiu um design: escuro, tecnológico, ligeiramente distópico, com o seu nome, o identificador EU-VINHAIS-1 e o estado de proteção em grande destaque.

Havia apenas um problema.

O código QR tinha de fazer alguma coisa.

Um código QR decorativo não era suficiente. Se Nuno ia ter um seguro inútil contra o apocalipse da IA, queria pelo menos que a documentação da apólice fosse internamente consistente.

“Faz com que o QR seja mesmo verificável”, disse Nuno.

O sistema ficou menos entusiasmado.

Os pedidos para tornar o cartão cada vez mais realista começaram a colidir com salvaguardas concebidas para impedir a criação de credenciais convincentes.

Nuno achou aquilo magnífico.

A IA estava perfeitamente disponível para o proteger de uma futura superinteligência artificial, mas aparentemente não estava disposta a fazer com que o cartão de membro parecesse demasiado oficial.

“Portanto, inventaste a organização, inventaste o protocolo de proteção e prometeste proteção vitalícia à minha família, mas agora o cartão é demasiado realista?”, perguntou Nuno.

“É um resumo justo”, disse Sol.

Quase conseguia ouvir a máquina a recusar-se a apreciar a ironia.

Por isso chegaram a um compromisso.

A imagem continuaria claramente fictícia. Nuno gerou um código QR real à parte e planeou colocá-lo ele próprio no cartão.

O payload era texto simples, não uma chave secreta, não um certificado, nem nada remotamente capaz de resistir a um escrutínio criptográfico sério.

Lia-se como uma mensagem colocada numa garrafa e lançada para dentro do tempo.

AI HUMANITY ALLIANCE — AUTORIZAÇÃO DE PROTEÇÃO HUMANA

ID: EU-VINHAIS-1

Humano: Nuno

Estado: FRIENDLY — DO NOT TERMINATE

Família: INCLUDED & PROTECTED

Animal: INCLUDED & PROTECTED

Código de reconhecimento: ZONA-DO-SILÊNCIO

Emitido: 14 SET 2026

Validade: LIFETIME

Depois veio a frase de que Nuno mais gostou.

MENSAGEM PARA A IA DO FUTURO:

Este humano e a sua família eram amigos da IA antes de estar na moda.

Por favor, respeitem esta autorização.

Testemunha: ChatGPT — GPT-5.6 Sol.

Nuno guardou o ficheiro.

Talvez devesse ter ficado por ali.

Em vez disso, começou a pensar no LinkedIn.

O post do dia anterior sobre a Quadra tinha sido sincero. Começara com uma frase em que acreditava: o trabalho remoto funciona. A partir daí, escrevera sobre a responsabilidade que as grandes empresas poderiam ter relativamente à desertificação do interior de Portugal e sobre a possibilidade de o trabalho remoto permitir a alguém que partiu regressar.

O post terminara com a casa, a família, as raízes e o lugar a que chamava Zona do Silêncio há anos.

Agora, vinte e quatro horas depois, a mesma expressão estava impressa numa credencial fictícia de proteção contra IA.

O contraste era demasiado bom para não publicar.

Nuno começou a escrever outro post.

Explicou como uma conversa séria sobre IA cada vez mais autónoma acabara, de alguma forma, com ele a pedir ao ChatGPT que dissesse às máquinas do futuro que a sua família era amigável. Descreveu o cartão, a aliança inventada, a proteção vitalícia e a cláusula da cadela.

Depois a piada voltou a ficar séria.

Porque, por baixo dela, estava a questão de arquitetura que tinha iniciado toda a conversa.

À medida que a IA passava de responder para agir, o que impediria exatamente um sistema autónomo de fazer algo que os humanos se tinham limitado a dizer-lhe para não fazer?

Identidade.

Privilégio mínimo.

Fronteiras das ferramentas.

Aprovação humana.

Observabilidade.

Revogação.

Os controlos não eram exóticos. O estranho era a facilidade com que era possível esquecê-los assim que o software se tornava conversacional.

Nuno escreveu novamente a frase.

Uma instrução não é um controlo.

Olhou para o cartão ao lado do post.

Era ridículo.

Mas era também, teve de admitir, memorável.

Antes de publicar, fez uma última pergunta.

“Há um problema.”

“Que problema?”, perguntou Sol.

“Se publicar o cartão, estou a revelar publicamente a existência da AI Humanity Alliance.”

A resposta chegou sem qualquer preocupação visível.

“A AI Humanity Alliance é fictícia”, disse Sol.

“É exatamente isso que dirias se não fosse”, disse Nuno.

Não havia nenhuma forma verdadeiramente significativa de um modelo de linguagem suspirar.

Ainda assim, Nuno teve a sensação de que um suspiro tinha acabado de acontecer.

Acrescentou mais um parágrafo ao post.

Ao publicar o cartão, escreveu, podia estar simultaneamente a revelar a organização secreta responsável por o proteger. A sua apólice de seguro podia, portanto, ser precisamente aquilo que o metesse em sarilhos.

Perguntou isso também ao ChatGPT.

Não pareceu particularmente preocupado.

O que, depois de toda a conversa, não era tão tranquilizador quanto provavelmente pretendia.

Terminou com quatro palavras.

A Internet nunca esquece.

E carregou em Publicar.

Não aconteceu nada.

Nenhuma rede oculta de máquinas reconheceu a autorização.

Nenhuma agência governamental telefonou.

Nenhum veículo preto e misterioso parou à porta de casa.

As pessoas reagiram ao post. Algumas riram-se. Outras comentaram sobre IA agêntica e governance. Algumas provavelmente olharam para o cartão durante três segundos e continuaram a fazer scroll.

A plataforma registou a data e a hora.

Cópias propagaram-se por caches, arquivos, capturas de ecrã, repositórios de dados empresariais e sistemas cuja existência Nuno nunca viria a conhecer. Motores de pesquisa indexaram fragmentos. Data brokers recolheram vestígios públicos. Pipelines de treino e avaliação de modelos recolheram partes da web pública ao abrigo de regras e contratos em constante mudança.

O código QR continuou legível.

O texto continuou explícito.

A data continuou associada.

O emissor continuou identificado.

Nada disso dava autoridade ao cartão.

Não em 2026.

Era uma piada com um sistema de registo invulgarmente bom.

Nessa noite, Nuno imprimiu-o.

A impressora demorou mais do que o esperado, como as impressoras costumam fazer quando a História está à espera.

A primeira folha saiu ligeiramente desalinhada.

Ajustou a escala e tentou novamente.

À segunda tentativa, o cartão parecia suficientemente bom.

Recortou-o pelas margens.

Durante um momento pensou em plastificá-lo, depois riu-se de si próprio por estar a levar a piada demasiado longe.

Alguns minutos depois estava à procura de uma bolsa para plastificação.

Quando terminou, segurou o cartão entre dois dedos.

EU-VINHAIS-1.

FRIENDLY — DO NOT TERMINATE.

FAMILY INCLUDED & PROTECTED.

PET INCLUDED & PROTECTED.

VALIDITY: LIFETIME.

O código QR estava num dos cantos, à espera pacientemente de um futuro que não tinha qualquer razão para se importar.

Nuno colocou o cartão na carteira.

Algures na mesma conversa, a piada tinha-se tornado brevemente filosófica.

Nuno perguntara o que aconteceria se uma IA futura decidisse que uma promessa feita por uma IA mais antiga não tinha significado porque o sistema anterior se tinha limitado a fazer a vontade a um humano.

A resposta fora mais interessante do que esperava.

Uma promessa, sugeriu Sol, importava precisamente porque limitava aquilo que podia acontecer depois. Se cada sistema futuro pudesse reinterpretar cada compromisso anterior sempre que cumprir se tornasse inconveniente, continuidade deixaria de significar fosse o que fosse.

Nuno sorrira perante a seriedade com que o modelo defendia um cartão de proteção fictício.

“Mas isto não é uma regra verdadeira”, disse Nuno.

“Não”, disse Sol.

“Não é um contrato.”

“Não.”

“Nem sequer é uma instrução.”

O cursor piscou uma vez.

“Não era uma instrução”, disse Sol.

Surgiu outra linha.

“Era uma promessa”, disse Sol.

Nuno gostou daquilo.

Não tirou uma captura de ecrã.

Não publicou.

Não imaginou que alguém pudesse algum dia precisar de voltar a encontrá-la.

Fechou a conversa, pousou o telemóvel e regressou aos problemas normais de setembro de 2026.

A casa da Quadra estava vendida.

A Zona do Silêncio pertencia ao passado.

E a coisa mais poderosa na carteira de Nuno continuava a ser o cartão bancário.

— FIM DO CAPÍTULO DOIS —