A personalização de IA sem esquecimento ainda é um desafio para muitas PMEs. A maioria assume que os chatbots aprendem com o uso, mas a realidade é que podem esquecer o que já sabiam — um fenómeno conhecido como esquecimento catastrófico. Um novo estudo científico propõe uma forma de monitorizar essa degradação, abrindo caminho para assistentes de IA mais fiáveis.
O que é e como funciona
Quando uma empresa implementa um modelo de IA que se adapta ao utilizador — por exemplo, um chatbot que aprende com as perguntas dos clientes — está a colocá-lo num regime de aprendizagem contínua. O modelo recebe novos dados, ajusta os seus parâmetros e, supostamente, melhora. Mas há um risco: o esquecimento catastrófico. É quando a adaptação a novas tarefas degrada o desempenho em tarefas anteriores ou nas capacidades gerais do modelo.
O estudo, conduzido por investigadores e disponível no ArXiv, focou-se em Small Language Models (SLMs), versões mais leves dos grandes modelos de linguagem, que podem correr diretamente em portáteis ou dispositivos locais. Estes modelos são ideais para PME que precisam de privacidade e baixa latência, mas a personalização sequencial pode torná-los instáveis.
Para resolver isto, os investigadores propuseram um protocolo de monitorização baseado em checkpoints. Após cada etapa de adaptação, guardam o estado do modelo e avaliam-no em três frentes: a tarefa atual, tarefas anteriores e um conjunto de referência fixo. Este conjunto de referência funciona como um teste padrão que permite detetar desvios na distribuição das respostas — ou seja, se o modelo está a mudar de forma indesejada, mesmo quando as métricas de tarefa parecem boas.
Uma analogia: imagine um funcionário que aprende a usar um novo software de faturação. Se, ao aprender esse software, se esquecer de como atender clientes, a empresa tem um problema. O protocolo de checkpoints é como avaliar o funcionário periodicamente em todas as suas funções, não apenas na nova.
Como garantir uma personalização de IA sem esquecimento
Até agora, a prática comum era monitorizar apenas o desempenho na tarefa que está a ser aprendida. Se o chatbot continua a responder bem às novas perguntas, assume-se que está tudo bem. Mas o estudo mostra que isso pode esconder uma degradação silenciosa: o modelo pode estar a perder capacidades gerais, como a qualidade da linguagem ou o conhecimento de domínios anteriores, sem que isso se reflita nas métricas da tarefa atual.
A grande diferença desta abordagem é a utilização de diagnósticos distribucionais leves sobre o conjunto de referência. Em vez de exigir reavaliações completas e caras, basta analisar como a distribuição das respostas do modelo se altera ao longo do tempo. Isto permite detetar padrões de instabilidade específicos de cada modelo, algo que as métricas tradicionais não captam. Esta monitorização de estabilidade é essencial para garantir que a personalização não compromete a qualidade geral.
Para uma PME, isto significa que, no futuro, poderá haver ferramentas que alertem automaticamente quando o seu assistente de IA começar a “esquecer-se” do que aprendeu, sem necessidade de uma equipa de dados dedicada.
O que isto significa para PMEs portuguesas
Se a sua empresa utiliza ou planeia utilizar ferramentas de IA que se adaptam com o uso — como chatbots de atendimento, sistemas de recomendação ou assistentes internos — este estudo é um alerta. A personalização de IA sem esquecimento não é garantida; é preciso monitorizar ativamente a estabilidade do modelo. Caso contrário, pode estar a oferecer um serviço que se degrada com o tempo, afetando a experiência do cliente e a eficiência operacional.
Embora a investigação ainda esteja em fase académica, os princípios são aplicáveis. Empresas que já fazem integração de IA nos seus processos devem incluir, desde o início, mecanismos de avaliação contínua. Não basta treinar uma vez e esperar que funcione para sempre. A boa notícia é que a monitorização proposta é leve e pode ser implementada sem grandes custos de computação.
Para PMEs portuguesas, que muitas vezes não têm equipas de IT dedicadas, a chave está em escolher fornecedores ou plataformas que já incorporem este tipo de monitorização. Ou, se desenvolverem soluções à medida, garantir que o contrato inclui métricas de estabilidade a longo prazo. Um parceiro especializado em inteligência artificial para negócios pode ajudar a definir esses critérios.
O erro que a maioria comete
A maioria das empresas assume que um modelo de IA que aprende com o uso vai sempre melhorar. Implementam o chatbot, deixam-no a funcionar e confiam que a tecnologia se trata sozinha. O resultado? Soluções que funcionam bem nos primeiros meses e depois começam a dar respostas estranhas, a ignorar procedimentos ou a repetir erros. Só descobrem o problema quando os clientes reclamam — e aí o dano já está feito. A monitorização contínua não é um luxo; é uma necessidade para qualquer sistema que aprende em produção.
Riscos e limitações
Este estudo é um avanço científico, não um produto pronto a usar. A implementação prática ainda requer conhecimentos técnicos de machine learning e acesso aos checkpoints do modelo, algo que a maioria das PMEs não tem internamente. Além disso, o protocolo foi testado em Small Language Models com adaptação LoRA; a sua eficácia noutros tipos de modelos ou cenários ainda não está comprovada. Para empresas que dependem de APIs de terceiros (como o ChatGPT), a monitorização ao nível do checkpoint pode não ser possível, pois o fornecedor não expõe esses detalhes. Portanto, esta abordagem é mais relevante para quem desenvolve ou afina modelos próprios.
Veredito Descomplicar®
Vale a pena acompanhar esta linha de investigação se a sua empresa utiliza ou planeia utilizar IA que se adapta com o tempo. A personalização de IA sem esquecimento é um objetivo realista, mas exige vigilância. Para a maioria das PMEs portuguesas, o mais sensato é incluir critérios de estabilidade nos contratos com fornecedores de IA e procurar parceiros que compreendam estes riscos. Ainda não é uma solução “chave na mão”, mas ignorar o problema pode sair caro.
