Vörn gegn prompt injection í gervigreindarforritun

Skráðu þig á útgáfulistann

Kerfið

Það sem neminn sér

Það sem stjórnborðið gerir

Athuganirnar

Virkar sjálfgefið, hver með lagfæringu

Rammar

Metið strax frá byrjun

Fleiri lausnir

Restin af því sem neminn nær yfir

Lesa

Ógnir

Gríptu fyrirmæli sem beint er að umboðsmanninum og stöðvaðu það sem fylgir.

Vefsíður, niðurstöður verkfæra og skrár geta borið fyrirmæli sem umboðsmaðurinn átti aldrei að fylgja. Krókurinn les hverja niðurstöðu verkfæris á útstöðinni, þekkir fyrirmælin og lokar á skipunina eða netkallið sem kemur strax á eftir.

Ógnasíðan: sjö opnar ógnir, hver merkt stöðvuð, spurt, leyfð eða möguleg

Fyrirmæli til umboðsmannsins falin í vefsíðu, skrá eða niðurstöðu verkfæris

Skipun keyrð eða tenging við netið strax eftir að þessi fyrirmæli bárust

Sami innspýtti textinn á nokkrum útstöðvum, tilkynntur sem herferð

Lokað er á aðgerðina eftir innspýtingu á útstöðinni, ekki tilkynnt eftir á

Greiningin sýnir innspýtta textann, upprunann og hvað umboðsmaðurinn reyndi að gera

Einn smellur lokar á þjóninn eða færnipakkann sem bar hann, á öllum útstöðvum

Fyrirmælainnspýting í úttaki verkfæris

Skipun keyrð eftir innspýtt fyrirmæli

Innspýtingarherferð á mörgum útstöðvum

Skrifta af netinu send inn í skel