Biblioteca · 3 pílulas
Por dentro de um LLM
Como a máquina funciona por baixo, e por que ela erra do jeito que erra.
Seu chatbot erra na tabela porque ninguém mostrou a tabela pra ele
Você sobe a tabela de preços da sua empresa num chatbot, pergunta um valor simples e ele erra a linha. O motivo não é falta de inteligência: é o que aconteceu com a tabela antes de a IA vê-la.
Por que o mesmo prompt custa tokens diferentes em cada IA
Um mesmo prompt pode virar 11 tokens numa IA e 4 tokens noutra, sem que nenhuma das duas esteja cobrando errado. A diferença mora numa peça do modelo que quase ninguém para pra entender.
Por que a IA inventa coisa com cara de verdade
A IA erra com a mesma fluência com que acerta. Isso não é bug. É consequência de uma coisa que falta na arquitetura dela.