Pular para conteúdo

Aula 12 - Tratamento de Estado e Contexto 🔑

Criando Memória para suas IAs

Agenda de Hoje 📅

  1. Estado Transiente vs Persistente
  2. Gestão de Sessões
  3. Bases Vetoriais e Memória de Longo Prazo
  4. Poda de Contexto (Context Pruning)
  5. Summarization via MCP

1. O Problema da Memória 🧠

  • IAs "esquecem" turnos passados.
  • Estado (State) resolve a desorientação da IA.

2. Tipos de Estado

  • Transiente: Durante a execução (volátil).
  • Persistente: Salvo em banco de dados (durável).

3. Sessões e Segurança 🛡️

  • session_id para separar usuários.
  • IA não pode ler dados de outra sessão.

4. Memória Semântica (Vetorial) 💾

graph LR
    A[Pergunta] --> B[Busca Vetorial]
    B --> C[Memória Relevante]
    C --> D[Injeção no MCP]
    D --> E[IA com Memória]

5. Técnicas de Economia de Tokens 🎈

  • Summarization: Resumo do histórico.
  • Pruning: Deletar o que não é mais útil.

6. Prática: Persistindo Preferências 💻

// Salva preferência do usuário na sessão
server.saveState(sessionId, { theme: "dark" });

7. Fluxo de Memória no MCP

graph TD
    User --> Client
    Client -- "Busca Memória" --> DB[(Vector DB)]
    DB -- "Contexto Antigo" --> Client
    Client -- "Contexto Enriquecido" --> Model

8. Idempotência em Ações

  • Rodar a mesma ferramenta não deve causar erros.
  • Crucial caso a IA repita uma tentativa.

9. Resumo ✅

  • Persistência dá "personalidade" à IA.
  • Separe contextos por usuários (Sessões).
  • Gerencie a Janela de Contexto com sabedoria.

10. Mini-Projeto: Memória de Preferências

  • Implementar uma Tool que "lembra" o nome do usuário.

11. Dúvidas? 🤔

"Conhecimento é saber o que dizer; Memória é saber a quem dizer."