Buscar

Ferramentas

DSPy

Framework em Python para programar modelos de linguagem com módulos e otimizadores em vez de prompts escritos à mão, para quem constrói sistemas com LLM.

  • Inteligência Artificial
  • Desenvolvimento
  • Open Source
DSPy

DSPy é a sigla de Declarative Self-improving Python. Com ele, você declara em código o que cada etapa recebe e devolve, e o framework escreve o prompt e monta as chamadas ao modelo. Depois, um otimizador ajusta instruções e exemplos com base numa métrica e em dados rotulados.

Para que serve

  • Classificar textos, como chamados por urgência, com saída tipada em vez de texto livre.
  • Trocar a estratégia de uma etapa, de resposta direta para raciocínio passo a passo, sem reescrever a tarefa.
  • Criar agentes que chamam ferramentas com o módulo dspy.ReAct.
  • Otimizar os prompts de um pipeline com GEPA ou MIPROv2, medindo o resultado contra uma métrica.
  • Apontar para outro provedor trocando a string de modelo em dspy.LM.

Como começar

A versão mínima do Python é a 3.10:

pip install -U dspy

No código, dspy.LM("openai/gpt-5.4-nano") define o modelo, no formato provedor/modelo. Uma assinatura (signature) declara entradas e saídas com tipos, por exemplo um campo de urgência que só aceita low ou high. Os módulos dizem como executar essa assinatura: dspy.Predict responde direto, dspy.ChainOfThought acrescenta raciocínio e dspy.ReAct usa ferramentas num laço. Com exemplos rotulados e uma métrica, dspy.GEPA compila o programa e reescreve os prompts. A chave de API do provedor escolhido fica por sua conta.

Licença e custo

Redistribuir o DSPy, modificado ou não, obriga a conservar a linha de copyright e a íntegra da licença MIT; o copyright é da Stanford Future Data Systems. O framework é gratuito, e nenhum serviço pago aparece no site. O gasto vem das chamadas ao modelo, e a otimização também consome tokens, porque executa o programa sobre os exemplos de treino.

Quando vale a pena

O ganho do DSPy aparece quando o sistema encadeia várias chamadas ao modelo e você consegue medir acerto com exemplos. Para um prompt único num chatbot, escrever bem a instrução resolve, e o guia de engenharia de prompts cobre esse caminho. Para orquestrar vários agentes por papéis, o CrewAI segue outra abordagem.