Como funciona uma requisição de IA

Uma explicação passo a passo, no seu ritmo. Cada etapa mostra o que acontece, por que acontece, e traz uma camada extra "Por dentro" com o detalhe técnico. No fim há seções para se aprofundar.

Pronto para começar
Clique num exemplo acima. O prompt será "digitado" e o processo começa sozinho. Depois use os botões para avançar etapa por etapa, no seu ritmo.
Resposta

Quer entender mais a fundo?

Um vetor é simplesmente uma lista ordenada de números, como [0,2 · −0,8 · 0,5]. Com 2 números, ele é um ponto num plano (o x e o y de um gráfico); com 3, um ponto no espaço. O modelo usa listas bem maiores (por exemplo, 1024 números por token), ou seja, um ponto num "espaço" de 1024 dimensões, que ninguém consegue imaginar, mas onde a matemática é a mesma. O que importa: dá para medir a distância entre dois vetores (perto = parecido) e combiná-los com contas. Tudo que o modelo faz, no fundo, é aritmética com essas listas de números.

Todas as etapas se resumem a multiplicar e somar tabelas gigantes desses números (o nome técnico é "multiplicação de matrizes"), bilhões de vezes para cada resposta. Um processador comum (a CPU) faz poucas dessas contas por vez, com muita flexibilidade. A GPU foi feita para o oposto: fazer milhões de multiplicações simples ao mesmo tempo, em paralelo, originalmente para desenhar gráficos de videogame, que também são pura conta de coordenadas. É essa capacidade de fazer muita conta simples de uma vez que torna a IA viável. A "inteligência" não está na GPU: está nos números que o modelo aprendeu (os pesos). A GPU só executa as contas, muito rápido.

Não. O modelo é uma função enorme: entram números, saem números. Durante o treinamento, ele leu uma quantidade gigantesca de texto e foi ajustando seus bilhões de números internos (os pesos) para acertar cada vez melhor qual token vem a seguir. Quando você usa o modelo, nada novo é aprendido: ele só executa essa conta com os pesos já prontos. Parece compreensão porque os padrões que ele capturou são riquíssimos, mas por baixo é estatística e álgebra. Entender isso é o que tira o ar de mágica.

Toda vez que você conversa com uma inteligência artificial, o seu texto passa por uma sequência de etapas, do prompt até a resposta. Abaixo, em detalhe, o que acontece em cada uma delas.

1. Prompt

Tudo começa com o texto que você escreve, o prompt. Para o computador, isso ainda é só uma sequência de caracteres, sem significado. Computadores não entendem palavras; só sabem fazer contas com números. Por isso, o primeiro trabalho é transformar esse texto em números, processá-los, e no fim convertê-los de volta em texto.

Por dentro: Para o modelo, o seu texto é só uma sequência de caracteres; ele não sabe sua intenção. Em muitos sistemas, junto do que você digita vão também instruções fixas (o "system prompt") e o histórico da conversa, e tudo isso entra da mesma forma: como texto que será transformado em números.

2. Tokenização

O texto é cortado em pedacinhos chamados tokens: palavras curtas, partes de palavras, números ou pontuação. Por que não palavra por palavra? Porque, dividindo em pedaços, o modelo monta até palavras que nunca viu, combinando partes conhecidas. Cada token tem um número de identificação (ID) numa lista gigante, o vocabulário.

Por dentro: A forma de cortar o texto é aprendida a partir de muitos exemplos (um método chamado BPE). Os trechos mais comuns viram um token só; os raros são quebrados em vários pedaços. O total de tokens é o que define o custo de uso e quanto texto o modelo considera de uma vez (a "janela de contexto").

3. Embeddings

Um ID sozinho é só uma posição numa lista; não diz nada sobre o significado. Então cada token vira um vetor: uma lista de vários números. Pense num vetor como as coordenadas de um ponto: assim como latitude e longitude colocam uma cidade no mapa, esses números colocam o token num "mapa de significados", onde palavras parecidas ficam perto. A partir daqui, o modelo só trabalha com números.

Por dentro: Esses números não foram escolhidos à mão: o modelo os aprendeu durante o treino, aproximando palavras usadas em contextos parecidos. A cada vetor também se soma a posição do token na frase, porque a ordem importa: "o gato mordeu o rato" é diferente de "o rato mordeu o gato".

4. Cálculo na GPU

Agora você tem uma tabela enorme de vetores, só números. Quem faz as contas com eles é a GPU. Praticamente tudo daqui pra frente (a atenção, a predição) é multiplicar e somar tabelas de números, o que se chama multiplicação de matrizes. A GPU é especializada em fazer milhões dessas continhas ao mesmo tempo, em paralelo, e é isso que torna a IA rápida o suficiente para existir.

Por dentro: Cada número do resultado é uma soma de multiplicações entre uma linha e uma coluna: contas simples, mas em quantidade enorme (um modelo grande faz trilhões por resposta). A CPU faria poucas por vez; a GPU tem milhares de núcleos e faz muitas ao mesmo tempo. A "inteligência" está nos pesos aprendidos, não na GPU, que só executa as contas.

5. Atenção

Agora o modelo descobre como os tokens se relacionam. Pense na frase "...porque ele estava com fome": para saber a quem "ele" se refere, é preciso olhar as outras palavras. Atenção é isso: cada token decide em quais outros olhar e o quanto cada um importa. Cada token só enxerga os anteriores.

Por dentro: Na prática, cada token faz uma "pergunta" e cada token oferece uma "resposta"; o modelo compara as duas para decidir o quanto um deve olhar para o outro, e então combina as informações. Isso roda em paralelo em várias "cabeças" de atenção e se repete por dezenas de camadas, captando relações cada vez mais sutis.

6. Predição

Com o texto todo processado, o modelo estima a probabilidade de cada token possível ser o próximo. Ele não tem a resposta guardada em lugar nenhum: calcula, com base em tudo que aprendeu, qual pedaço de texto é mais provável vir agora. No fundo, um modelo de linguagem é só isto: uma máquina de prever o próximo token.

Por dentro: O modelo dá uma nota a cada token possível do vocabulário (dezenas de milhares). Uma conta chamada softmax transforma essas notas em porcentagens que somam 100%. Em seguida ele sorteia um token conforme essas chances; um pouco de aleatoriedade (a "temperatura") é o que evita respostas sempre iguais.

7. Geração

O modelo escolhe um token, escreve, e repete todo o processo (tokens, vetores, GPU, atenção, predição) já incluindo esse novo token, para prever o próximo. Um de cada vez, até a frase fechar. É por isso que a resposta aparece como se estivesse sendo digitada: ela é mesmo construída pedaço por pedaço, em tempo real.

Por dentro: O modelo não planeja a frase inteira de antemão: ele só prevê o próximo token, e a frase vai surgindo dessa repetição. A cada token novo, todo o texto até ali volta a passar por tudo. Ele para quando gera um token especial de "fim"; por isso respostas longas demoram mais e o texto aparece aos poucos.

Simulação didática e simplificada. Modelos reais têm dezenas de camadas, vetores com centenas ou milhares de dimensões e várias "cabeças" de atenção em paralelo. A ordem das etapas, porém, é fiel ao que acontece de fato.