Seu celular prevê palavras. Ele aprende seus hábitos. Digite “te vejo” e ele sugere “amanhã” porque você já enviou essa sequência cem vezes antes.

Agora imagine essa mesma ideia aplicada a praticamente tudo o que seres humanos já escreveram, tudo o que está disponível na internet pública, treinada em hardware que custa milhões de dólares e processa informação de formas que forçam os limites do que achávamos que computadores conseguiam fazer. Isso é um LLM. Large Language Model. Uma máquina treinada para prever o que vem em seguida em uma sequência de texto, rodando em uma escala que transforma um mecanismo simples em algo que quase parece conversa.

O nome se divide de forma direta. “Large” se refere ao tamanho, tanto dos dados de treino (trilhões de palavras) quanto do próprio modelo (bilhões a trilhões de parâmetros ajustáveis). “Language Model” descreve a função central: modelar padrões da linguagem humana para prever continuações prováveis de qualquer texto.

O poder surpreendente de adivinhar a próxima palavra

Aqui está o que torna os LLMs estranhos, maravilhosos e, às vezes, assustadores: eles não entendem linguagem do jeito que você entende. Eles preveem padrões.

Quando você pede a um LLM para “escrever um e-mail profissional recusando uma reunião”, o modelo não está pensando em reuniões, profissionalismo ou nas restrições da sua agenda. Ele está calculando probabilidades. Dado esses tokens de entrada, qual token tem mais chance de vir em seguida? E depois dele, qual token? O modelo repete essa previsão milhares de vezes até gerar uma resposta completa que, com uma frequência impressionante, parece exatamente algo que uma pessoa escreveria.

Miguel Grinberg, desenvolvedor de software que já escreveu bastante sobre LLMs, resume isso sem rodeios em sua explicação técnica: “All they can do is take some text you provide as input and guess what the next word (or more accurately, the next token) is going to be.”

É só isso. Previsão. Estatística. Reconhecimento de padrões em uma escala que faz o resultado parecer mágica.

Mas por que mera previsão produz parágrafos coerentes? Por que adivinhar a próxima palavra gera algo que responde perguntas, escreve código, explica conceitos e, de vez em quando, até faz você rir?

A resposta está no que é necessário para prever bem. Para acertar com precisão qual palavra vem em seguida em qualquer frase possível, você precisa ter absorvido uma quantidade gigantesca de informação sobre como a linguagem funciona, como as ideias se conectam, como os humanos estruturam argumentos, contam histórias e expressam emoções. A compressão exigida para prever com precisão força o modelo a desenvolver representações internas que capturam algo parecido com entendimento, mesmo que o mecanismo por baixo continue fundamentalmente diferente da cognição humana.

Como a engrenagem funciona

Você digita uma pergunta. O modelo responde em segundos. O que acontece no meio desse caminho?

Primeiro, seu texto é convertido em tokens. Um token é um pedaço de palavra, em média algo como três a quatro caracteres. A palavra “entendimento” pode virar dois ou três tokens. Espaços e pontuação viram tokens. Tudo se quebra nessas unidades discretas porque redes neurais trabalham com números, não com letras.

Esses tokens são transformados em vetores, que são listas longas de números que codificam significado e relações. Cada palavra ou fragmento de palavra vira um ponto em um espaço matemático onde conceitos parecidos se agrupam. “King” e “queen” ficam próximos nesse espaço. O mesmo acontece com “excellent” e “outstanding”. O modelo aprendeu essas posições ao observar quais palavras aparecem em contextos semelhantes nos dados de treino.

Depois entra o mecanismo de atenção, o avanço que tornou os LLMs modernos possíveis. Antes de 2017, modelos de linguagem processavam palavras uma por vez, em sequência, o que dificultava conectar ideias distantes dentro da frase. A arquitetura transformer, apresentada no artigo “Attention Is All You Need”, mudou tudo. Agora o modelo consegue olhar para todas as palavras ao mesmo tempo e determinar quais se relacionam com quais, independentemente da distância.

Como descreve uma explicação da Understanding AI, as palavras “look around” em busca de outras palavras com contexto relevante e compartilham informação entre si.

Esse processo de atenção se repete por muitas camadas. Cada camada refina a compreensão do modelo sobre as relações entre os tokens. Na camada final, o modelo construiu uma representação rica de toda a entrada e consegue calcular distribuições de probabilidade sobre todos os possíveis próximos tokens.

O modelo escolhe um token. Adiciona à sequência. Passa tudo de novo para escolher o próximo token. Repete até completar a resposta.

É por isso que LLMs conseguem lidar com frases complexas e encaixadas que teriam confundido sistemas antigos. “The report that the analyst who was hired last month prepared for the executive team needs revision” não é problema. O modelo acompanha que “needs” se conecta a “report” apesar de todas as palavras no meio.

Tokens, parâmetros e janelas de contexto

Três termos aparecem toda hora. Aqui está o que significam.

Tokens são as unidades atômicas com que o modelo trabalha. Não são exatamente palavras. Nem exatamente caracteres. Algo no meio. Uma frase como “I love chocolate chip cookies” pode virar cinco ou seis tokens. Uma página de texto pode ter 300 tokens. Isso importa porque os modelos cobram por token e porque há limites para quantos tokens um modelo consegue processar de uma vez.

Parâmetros são os números ajustáveis dentro do modelo que são calibrados durante o treino. Pense neles como botões e controles que determinam como o modelo responde a qualquer entrada. O GPT-4 supostamente tem cerca de 1.8 trillion parameters. Mais parâmetros geralmente significam mais capacidade, mas também mais custo computacional. A relação não é linear, e pesquisadores seguem encontrando maneiras de extrair mais desempenho com menos parâmetros.

Janela de contexto se refere a quantos tokens o modelo consegue considerar de uma vez, incluindo tanto a sua entrada quanto a saída dele. Modelos antigos tinham janelas pequenas, talvez alguns milhares de tokens. Modelos modernos como o Llama 4 Scout suportam até 10 milhões de tokens, o suficiente para processar livros inteiros ou bases de código em uma conversa só. Janelas de contexto maiores significam que o modelo consegue manter conversas coerentes por trocas mais longas e analisar documentos maiores.

Treinamento: de onde vem o conhecimento

LLMs aprendem com texto. Quantidades vastas de texto.

O processo de treinamento funciona mostrando ao modelo bilhões de exemplos e pedindo que ele preveja o que vem em seguida. Quando ele erra, ajusta seus parâmetros um pouco. Repita isso ao longo de trilhões de tokens de treino, usando clusters de computação que custam dezenas de milhões de dólares para operar, e o modelo gradualmente desenvolve a capacidade de prever continuações para basicamente qualquer texto que você der a ele.

Os dados de treino normalmente incluem livros, sites, artigos acadêmicos, repositórios de código, fóruns e outros textos públicos. A composição exata importa. Modelos treinados com mais código escrevem código melhor. Modelos treinados com dados mais recentes têm conhecimento mais atual. Modelos treinados com dados mais diversos lidam com uma gama maior de pedidos.

Depois dessa fase inicial de “pré-treinamento”, a maioria dos modelos comerciais passa por etapas adicionais. Ajuste fino com exemplos curados ensina o modelo a seguir instruções e evitar saídas nocivas. Aprendizado por reforço com feedback humano ajuda o modelo a produzir respostas que pessoas avaliam como úteis e apropriadas. Essas etapas extras moldam a personalidade e as capacidades do modelo além da previsão bruta.

O que os limites revelam

As limitações dos LLMs revelam o que eles realmente são.

Eles alucinam. Geram informação falsa com confiança perfeita. Um advogado ficou famoso por enviar uma petição escrita pelo ChatGPT que citava casos judiciais que não existiam. O modelo havia previsto nomes de casos e citações plausíveis porque é isso que petições costumam conter, mas estava inventando.

Por que isso acontece? Porque o modelo prevê padrões, não acessa um banco de dados de fatos verificados. Quando há lacunas nos dados de treino ou quando o prompt cria condições incomuns, o modelo preenche os espaços com o que parece estatisticamente provável. Ele não tem mecanismo para saber se as previsões correspondem à realidade.

Como observou o usuário Leftium em uma discussão no Hacker News sobre como explicar LLMs: “Autocomplete seems to be the simplest way of explaining it is just fancy pattern recognition.”

Reconhecimento de padrões falha quando o padrão exige conhecimento real do mundo, e não conhecimento de como um texto costuma parecer.

Eles não conseguem verificar. Um LLM não pode checar se as próprias afirmações são verdadeiras porque não tem acesso à realidade externa além do que estava nos dados de treino. Ele não consegue pesquisar algo por conta própria. Ele não consegue chamar uma API para confirmar um fato. Só consegue prever quais palavras normalmente vêm depois de outras palavras.

Eles são inconsistentes. Faça a mesma pergunta duas vezes, receba respostas diferentes. Isso não é bug. Aleatoriedade é introduzida de propósito para impedir respostas previsíveis e sem graça. Mas isso significa que você não pode depender de um LLM para dar exatamente a mesma resposta duas vezes, o que complica qualquer processo em que consistência importa.

Eles têm cortes de conhecimento. A maioria dos modelos é treinada com dados até uma certa data. Tudo depois dessa data é desconhecido, a menos que você forneça explicitamente ou que o modelo tenha recursos de busca na web. Modelos GPT-5.2 têm corte em agosto de 2025, according to OpenAI. Eventos depois dessa data simplesmente não existem para o modelo.

Eles têm dificuldade com matemática e lógica. Isso pode parecer contraintuitivo, dado o nível de capacidade que mostram em outras áreas, mas é consequência direta do mecanismo de previsão. Matemática exige cálculo preciso, e LLMs são otimizados para continuação plausível, não para computação exata. Eles podem imitar raciocínio matemático que viram nos dados de treino, mas não estão realmente calculando.

Um tipo diferente de inteligência

Andrej Karpathy, um dos pesquisadores que ajudaram a construir LLMs modernos na OpenAI e na Tesla, ofereceu uma perspectiva esclarecedora citada no blog de Simon Willison:

“It’s a bit sad and confusing that LLMs (‘Large Language Models’) have little to do with language; It’s just historical. They are highly general purpose technology for statistical modeling of token streams. A better name would be Autoregressive Transformers or something. They don’t care if the tokens happen to represent little text chunks. It could just as well be little image patches, audio chunks, action choices, molecules, or whatever.”

A implicação é profunda. LLMs não são máquinas de linguagem. São máquinas de padrão que funcionam extremamente bem com linguagem porque linguagem tem uma estrutura estatística rica e aprendível. Mas a mesma arquitetura pode modelar qualquer dado sequencial.

Isso explica por que LLMs agora conseguem lidar com imagens, áudio e vídeo junto com texto. O mecanismo subjacente é abstrato o bastante para se aplicar a qualquer domínio em que padrões existam e em que prever o que vem em seguida faça sentido.

Por que isso importa para você

Se você trabalha em qualquer área que envolva escrita, análise, comunicação ou processamento de informação, LLMs já estão mudando o que é possível.

Eles rascunham. Eles resumem. Eles fazem brainstorming. Eles traduzem. Eles explicam. Eles escrevem código. Eles analisam documentos. Fazem tudo isso de forma imperfeita, com ressalvas, exigindo supervisão humana. Mas fazem rápido, e a velocidade muda os fluxos de trabalho.

Um primeiro rascunho que levava duas horas agora leva dois minutos. Um resumo de documento que exigia ler cinquenta páginas agora exige ler dois parágrafos. Uma sessão de brainstorming que gerava dez ideias agora gera cem e, mesmo que noventa sejam medianas, essas dez extras boas podem incluir algo em que você nunca teria pensado.

A pegadinha é entender com o que você está trabalhando. Um LLM não é um assistente bem informado que por acaso está disponível 24 horas por dia. É um motor de previsão que gera texto plausível. Às vezes esse texto plausível é exatamente o que você precisa. Às vezes ele está confiantemente errado. Saber a diferença exige entender o mecanismo.

A tecnologia continua avançando

O que é verdade em janeiro de 2026 vai parecer diferente em dezembro. Os modelos estão ficando mais rápidos. Estão ficando mais baratos. Estão lidando com entradas maiores. Estão alucinando menos, embora ainda alucinem. Estão desenvolvendo capacidades melhores de raciocínio, com modos dedicados de “pensar” que trabalham problemas passo a passo em vez de pular direto para respostas.

As capacidades multimodais estão se expandindo. Os modelos mais recentes de Google, OpenAI, Anthropic e Meta lidam com imagens e áudio de forma nativa. Modelos que antes só processavam texto agora analisam capturas de tela, interpretam gráficos e respondem a entrada de voz.

Os fundamentos, porém, seguem estáveis. Previsão. Padrões. Escala. Os modelos não entendem no sentido humano. Eles aproximam entendimento por meio de estatística aplicada em uma escala que produz resultados indistinguíveis de compreensão genuína em muitos contextos práticos.

Se isso é “realmente” inteligência é uma questão filosófica. Se é útil é uma questão empírica. Para a maioria das tarefas envolvendo linguagem e texto, a resposta é cada vez mais sim.

A pergunta não é se você deve usar essas ferramentas. É como usá-las de forma eficaz, entendendo o que elas são e o que não são, para que as partes impressionantes te ajudem e as limitações não te derrubem.

Essa é a habilidade real agora. Não truques de prompt nem técnicas secretas. Entender bem a máquina a ponto de saber quando confiar nela e quando conferir de novo.