Prompt injection nelle immagini: l’image scaling trasforma un JPEG in un esfiltratore

[ERCOLINO]

Prompt injection nelle immagini: l’image scaling trasforma un JPEG in un esfiltratore - Securityinfo.it

Un’immagine apparentemente innocua, inviata a un assistente AI multimodale, e senza nessun clic da parte dell’utente inizia l’esfiltrazione dei dati. È lo scenario dimostrato da un gruppo di ricercatori di Trail of Bits che ha sfruttato una debolezza tutt’altro che marginale: molte piattaforme...

www.securityinfo.it

 

[Falcotre]

Salve Ercolino,
Ho letto tutto l'articolo e mi sono convinto che il problema stia a monte, ovvero nell'interpretazione del file di dati della foto. Questo dovrebbe contenere una foto e basta, più piccola o più grande che sia. Se qualche algoritmo ci scrive sopra un'istruzione sw malevola nascosta tra le righe, che poi diventa 'leggibile" dopo il downscaling della foto (è questo l'approccio malevolo no?), beh basta non leggerla e non farà danni.
Non posso credere che non si possa istruire l'OS in uso per filtrare questi input.
Ma forse la faccio troppo semplice, l'informatica ed il mondo IT sono diventati come la Finanza: un pentolone che sforna a go-go nuove proposte "creative", pronte ad essere consumate da chi non ne aveva alcun bisogno, ma teneva la bocca aperta...