Projeto em Rust para defesa contra injeção de LLM em Python
(github.com/mirseo)É um pacote em Python, feito com base em Rust, para defesa contra injeção em LLMs!
Ao usar APIs de IA para várias coisas, percebi que ataques de injeção são mais comuns do que eu imaginava. Como era incômodo ficar repetindo filtragem e substituição com regex baseada em re, pensei que seria útil ter um pacote assim, então desenvolvi este serviço. ( Recebi bastante ajuda de IA no desenvolvimento! )
As principais funções são IPS, IDS e IUS.
IPS - bloqueia o prompt do usuário e instrui a continuar com o prompt existente
IDS - não bloqueia o prompt do usuário, mas marca palavras que acionam as regras de bloqueio
IUS - IPS que funciona rapidamente com multithreading e cache
Como diferencial, é possível adicionar um novo JSON no local de rules.json dentro do pacote ou modificar o rules.json existente para dar suporte ao bloqueio, e também é possível chamar init novamente para alterar as regras durante a execução! ( regras personalizadas -> regras fornecidas )
É a primeira vez que posto algo assim, então estou um pouco nervoso. Conto com vocês!
Ainda não há comentários.