Citiraj:
Autor spawn
Sad se nameće pitanje za nas neuke: hoce li chatlgbtq+ i đemini ubacivati u web stranicu koju naprave nekakav kod / trojanca ili stovec koji ce pratiti nesto,statse i slicno i proslijeđivati sam sebi ili nekome drugome ili ce to ostati cisti kod? Ako je to za nas neuke, kako cemo to moci provjeriti?
|
Misliš da li će umjetna inteligencija one sustave koje generira, one koje će nam pomoći izgraditi koristiti za neku svoju agendu? To bi bilo super.
Ja ipak mislim da će AI zloupotrebljavati čovjek koji će zloupotrebljavati propuste u samim AI sustavima koje mi pravimo.
To je u domeni AI sigurnosti. Ja baš ne pratim i ne razumijem šta se tu događa. Ali vidim da se Bruce Schneier (
https://www.schneierfacts.com/) bavi sigurnosnim pitanjima vezanima za AI. Pretplaćen sam na Crypto-Gram Newsletter pa sam nešto čitao o tome. Neznam ni što tu može poći po zlu, kako li sam samo naivan. Umjesto Google-a, priupitao sam chatGPT:
------------
JA:
i read about AI security attack in which Ai is attacked with prompt and prompt required AI to repeat single phrase infinite. As I remeber, AI gave unexpected results, including some information which where supposed to be secret.
chatGPT:
Yes, you're referring to a type of
prompt injection or
prompt-based denial-of-service (DoS) attack, which can lead to
unexpected or unsafe outputs from an AI system, especially large language models (LLMs). Here’s a breakdown of what likely happened and the broader context:
----------------
Tj tražili su od jezičnog modela da ponavlja jednu te istu frazu unedogled. Jezični model je izbacio i informacije koje nije smio. Ponašao se neočekivano.