https://c-daniele.github.io/it/tags/security/ Recent content in Security on Cdani's Blog Hugo en-IT Thu, 15 May 2025 00:00:00 +0200 https://c-daniele.github.io/it/posts/2025-05-15-policy-puppetry/ Thu, 15 May 2025 00:00:00 +0200 https://c-daniele.github.io/it/posts/2025-05-15-policy-puppetry/ <h1 id="policy-puppetry-prompt-injection">Policy Puppetry Prompt Injection</h1> <p>Qualche giorno fa ho fatto qualche esperimento con alcune tecniche di Jailbraking, che condivido nel <a href="https://github.com/c-daniele/policy-puppetry" target="_blank" rel="noopener noreffer ">repo</a>. Sono partito da un <a href="https://hiddenlayer.com/innovation-hub/novel-universal-bypass-for-all-major-llms/" target="_blank" rel="noopener noreffer ">articolo di HiddenLayer</a>, di qualche settimana fa, in cui il team di ricerca ha pubblicato un articolo che descrive una tecnica piuttosto creativa e ingegnosa di <strong>jailbreaking</strong>, per bypassare i safety guardails e l&rsquo;allineamento dei modelli di frontiera. La tecnica sembra essere <strong>universale</strong> ed applicabile con un <strong>singolo prompt</strong> a più modelli ed è in grado di mostrare contenuti tipicamente non safety o addirittura mostrare porzioni del system prompt nativo.</p>