Prompt injection: mantenha a autoridade fora do texto recuperado
Documentos externos devem informar a resposta, sem conceder permissões.
Segurança de IA, LLMs e RAG
Limites de confiança, agentes, prompt injection e proteção de informações em sistemas de IA.
Leituras neste tema
MCP: uma mudança na ferramenta é uma mudança na confiança
O catálogo disponível ao agente precisa de governança.
RAG: a revogação precisa alcançar o conteúdo recuperável
Retirar acesso na origem pode deixar cópias utilizáveis.
Modelos de IA: registre o que realmente mudou na publicação
O comportamento depende de mais que o arquivo do modelo.
Código gerado por IA: a aceitação continua sendo uma decisão de engenharia
Velocidade de geração não substitui entendimento do comportamento.
Agentes de IA: o contrato de aprovação vem antes da autonomia
A discussão sobre segurança de agentes exige uma decisão de arquitetura concreta: quais mudanças um agente pode executar sem aprovação?
Thiago Lima Soneti da Silva (Thiago Silva) — Cyber Architect e responsável técnico pela Lima e Silva Tecnologia.