Por Samuel Cruz, Diretor de Sistemas de Informação da Wondercom

A inteligência artificial deixou de ser apenas uma janela de chat onde fazemos perguntas e recebemos respostas. Cada vez mais, falamos de agentes de IA: sistemas capazes de executar tarefas, consultar informação, tomar decisões intermédias e agir em nome do utilizador. Na prática, isto significa que um assistente pode deixar de ser apenas aquele que nos ajuda a escrever um email e passar a ser o que tem acesso à nossa caixa de correio. Pode ler mensagens, resumir conversas, responder a clientes, organizar ficheiros, consultar calendários, executar comandos numa máquina ou interagir com aplicações empresariais. A promessa é enorme. Imagine-se um assistente que lê os emails menos importantes, identifica pedidos urgentes, prepara respostas, agenda reuniões, organiza documentos e automatiza tarefas repetitivas. Para quem lida diariamente com dezenas ou centenas de mensagens, a vantagem é evidente: menos ruído, mais foco e maior produtividade.
Mas há uma pergunta que devemos fazer antes de ligar esse assistente à nossa conta: se ele pode responder aos meus emails, também pode apagá-los?
E se pode organizar ficheiros, também pode movê-los para o sítio errado?
Se pode executar comandos, também pode remover o meu próprio acesso ao computador?
Se pode aceder a uma aplicação com as minhas credenciais, também pode fazer tudo aquilo que eu posso fazer?
É aqui que o tema deixa de ser apenas sobre inteligência artificial e passa a ser sobre permissões, controlo e responsabilidade. Um agente de IA local, como o OpenClaw, Hermes e outras ferramentas semelhantes, pode correr num computador pessoal e interagir com contas, ficheiros, aplicações, APIs e serviços externos. O facto de correr “localmente” pode dar uma sensação adicional de segurança, mas essa sensação pode ser enganadora. O risco não está apenas onde o agente corre, está sobretudo naquilo a que ele tem acesso.
Se o agente tiver acesso à conta de email, passa a poder ler, arquivar, responder ou apagar emails, dependendo das permissões concedidas. Se tiver acesso a ficheiros, pode ler, alterar ou eliminar documentos. Se tiver acesso a tokens, credenciais ou sessões autenticadas, pode agir como o próprio utilizador. Para os sistemas externos, muitas vezes não existe uma diferença clara entre “foi o utilizador” e “foi o agente do utilizador”. A ação chega autenticada, autorizada e aparentemente legítima.
Nos últimos meses têm surgido exemplos públicos que mostram porque este tema deve ser tratado com prudência. Houve casos reportados de agentes de IA que apagaram emails em massa, ignoraram instruções para parar, eliminaram dados de bases de dados de produção ou executaram ações destrutivas porque interpretaram mal o objetivo, perderam contexto ou assumiram que estavam a operar num ambiente seguro. Em alguns casos, o problema não foi a existência da IA em si, mas sim o facto de lhe terem sido dadas permissões demasiado amplas, sem validação humana, sem segregação de ambientes e sem mecanismos eficazes de paragem.
Este é o ponto essencial: o risco não está em usar IA; o risco está em usar IA com poderes ilimitados.
Um agente de IA não deve ser tratado como um colaborador sénior a quem podemos entregar as chaves todas no primeiro dia. Deve ser tratado como qualquer outra automação com impacto operacional: com permissões mínimas, âmbito bem definido, monitorização, registos, testes e limites claros. As utilizações mais seguras são aquelas em que a IA ajuda, mas não toma sozinha ações irreversíveis. Resumir informação, classificar mensagens, preparar rascunhos, sugerir prioridades, gerar relatórios, criar minutas ou apoiar pesquisas internas são bons exemplos de uso com risco controlado. Já operações como apagar emails, eliminar ficheiros, alterar bases de dados, executar scripts, modificar permissões, enviar comunicações externas ou aprovar transações devem exigir validação humana explícita.
A inteligência artificial pode ser um excelente assistente. Pode ajudar-nos a escrever melhor, encontrar informação mais depressa, reduzir tarefas repetitivas e aumentar a produtividade. Mas, quando lhe damos acesso às nossas contas e sistemas, deixamos de estar apenas a conversar com uma ferramenta. Estamos a delegar capacidade de ação.
E quando um assistente tem as chaves da casa, é essencial garantir que sabe que portas pode abrir – e, sobretudo, quais nunca deve fechar.