Primeiro curso da trilha. Sem metáfora de cérebro e sem futurologia: o que a máquina realmente executa, e por que isso explica onde ela acerta e onde ela erra.
Explicar a alguém da sua empresa, em uma frase, o que um sistema de IA faz, e reconhecer três situações em que a resposta dele não deve ser aceita sem revisão.
Você já viu o teclado do celular sugerir a palavra seguinte enquanto você digita. É o mesmo princípio, em escala muito maior. A ferramenta lê o texto que você escreveu e calcula qual palavra tem mais chance de vir depois. Depois faz isso outra vez, e outra, até formar a resposta inteira.
Ela não procura a informação em nenhum lugar. Não abre um site, não consulta um arquivo, não confere se o que escreveu é verdade. Só continua o texto do jeito mais provável.
Isso já explica as duas coisas que mais confundem quem está começando. A primeira: a resposta parece segura mesmo quando está errada, porque o texto sai bem escrito por construção, não porque foi verificado. A segunda: a mesma pergunta pode receber respostas diferentes, porque a escolha da palavra tem um sorteio embutido.
O modelo é, na essência, dois arquivos em um computador: os parâmetros e o código que os executa. Ele não consulta nada quando responde.Andrej Karpathy · cofundador da OpenAI, ex-diretor de IA da Tesla
Quando você pergunta algo que não estava no material que a ferramenta leu, ela não responde “não sei”. Ela completa a frase do jeito mais parecido com o que costuma aparecer ali. O resultado pode ser o número de uma lei que não existe, um valor inventado ou uma frase atribuída a quem nunca disse aquilo.
Existe um nome técnico para isso: alucinação. O nome atrapalha, porque dá a impressão de defeito que acontece de vez em quando. Não é. É a máquina funcionando normalmente, só que fora do que ela conhece.
Quanto mais específica, mais recente ou mais interna à sua empresa for a informação que você pede, maior a chance de a resposta ser inventada. Assunto geral e antigo é mais seguro. Dado do seu negócio, quase nunca.
Veja uma frase começando. Para cada palavra seguinte, a ferramenta tem candidatas, e umas têm mais chance que outras. A barra maior é a que ela tende a escolher. Repare na última linha: dizer que não encontrou a informação é quase sempre a opção com menos chance, porque a frase já começou a citar uma norma.
Tente responder de cabeça e só então clique para ver a resposta. Tentar lembrar e errar fixa mais do que reler a explicação, e é por isso que as respostas começam fechadas.
Use esta tabela como um teste de dois segundos. Ache a linha parecida com o que você está pedindo. Se o risco for alto ou muito alto, você já sabe que vai precisar conferir a resposta em outro lugar antes de usá-la.
| O que você pede | Risco de invenção | Por quê |
|---|---|---|
| Explicar um assunto geral | Baixo | É assunto que aparece muito no material que a ferramenta leu, sempre explicado do mesmo jeito. |
| Resumir um texto que você mesmo colou | Baixo | O texto está ali, na sua pergunta. Ela trabalha sobre o que recebeu. |
| Número, data ou porcentagem | Alto | Ela não calcula nem consulta. O número é o que parece certo, não o que é certo. |
| Artigo de lei ou cláusula de contrato | Alto | A citação pode existir e estar velha, ou pode ter sido montada com cara de verdadeira. |
| Dado interno da sua empresa | Muito alto | Se ninguém ligou a ferramenta ao sistema da empresa, ela está adivinhando com boa redação. |
Repare no padrão: o risco é baixo quando a informação já está na sua pergunta ou é assunto muito conhecido. É alto quando a ferramenta teria que buscar algo que ela não tem.
Uma ferramenta de conversa escreve. Um sistema montado para trabalhar dentro da empresa faz bem mais que escrever: ele busca o dado no lugar certo, segue a regra da casa, deixa registrado o que fez e para quando aparece um caso que a regra não cobre.
Por isso “usar o ChatGPT” e “colocar IA na operação” são conversas diferentes. A primeira depende de quem está digitando naquele momento. A segunda depende de decisões tomadas antes: de onde vem o dado, o que o sistema pode fazer sozinho, quem revisa e em que situação ele tem que parar e chamar alguém.
A ferramenta é boa em quatro coisas: escrever um primeiro rascunho, resumir muito texto, achar padrão repetido e aplicar uma regra que já está escrita. É ruim em três: decidir o que importa, responder pelas consequências e perceber que não sabe.
A divisão útil é simples. Ela deixa mais barato produzir a primeira versão. Você continua responsável por olhar essa versão e dizer se serve.
Número. Qualquer valor, data, porcentagem ou prazo precisa vir de um lugar que você consiga abrir e mostrar. A ferramenta não faz a conta: ela escreve o número que parece certo.
Regra. Artigo de lei, cláusula de contrato, exigência de órgão do governo. A citação pode existir e estar desatualizada, ou pode simplesmente não existir.
Dado da empresa. Nome de cliente, saldo, histórico, política interna. Se ninguém conectou a ferramenta ao sistema da empresa, ela está adivinhando.
Um profissional pede à ferramenta a base legal de um procedimento. A resposta vem com número de lei, artigo e parágrafo, escritos exatamente no formato de uma norma de verdade. O documento segue adiante e o problema só aparece depois, quando outra pessoa vai revisar.
O caso é comum o bastante para ter chegado a tribunais em vários países, com advogados punidos por apresentar decisões judiciais inventadas. Ninguém agiu de má fé. As pessoas confiaram em uma ferramenta que acerta a forma sem garantir o conteúdo.
Isso não é curiosidade histórica. Cada momento explica uma característica da ferramenta que você usa hoje.
John McCarthy inventa a expressão “inteligência artificial” em uma conferência em Dartmouth. A promessa era construir máquinas que pensam. Levou quase sessenta anos para algo funcionar em grande escala, e o que funcionou não pensa: adivinha a próxima palavra.
Geoffrey Hinton e sua equipe mostram que redes neurais reconhecem imagens melhor que qualquer técnica anterior. Hinton ganhou o Nobel de Física em 2024. É aqui que nasce a ideia central: em vez de escrever a regra na mão, mostrar milhões de exemplos e deixar a máquina extrair o padrão.
A DeepMind consegue prever a forma das proteínas, algo que consumia anos de laboratório. Demis Hassabis e John Jumper ganharam o Nobel de Química em 2024. Mostra que o método funciona muito bem onde existe uma resposta certa que pode ser conferida.
O lançamento em novembro leva a tecnologia a cem milhões de pessoas em cerca de dois meses. O que mudou não foi a capacidade da máquina: foi a forma de usar. Conversar tirou a barreira técnica, e junto com ela a noção de que havia limite.
Nas empresas, a pergunta deixa de ser o que a máquina consegue fazer e passa a ser quem responde quando ela erra, quanto custa e como se mede o resultado. É onde a sua empresa está agora, e é o assunto desta trilha.
A descrição usada aqui não é simplificação didática: é o funcionamento declarado pelos próprios fabricantes na documentação de seus modelos.
Entender o mecanismo é o primeiro passo. O curso 02 mostra por que a maior parte das ferramentas parece igual, e o que de fato diferencia uma da outra.