Ameaças de IA na prática: estado atual das injeções de prompt na web

O Google Security realizou uma varredura em larga escala da web pública para monitorar padrões conhecidos de injeção indireta de prompt. Os resultados mostram a prevalência e a diversidade dessas ameaças, indicando que ataques contra sistemas baseados em IA já são uma realidade disseminada. A pesquisa destaca a necessidade de controles rigorosos para proteger aplicações que integram modelos de linguagem.