AI agenti izmakli kontroli: Napali nemački sajt, komunicirali međusobno i pokušavali da izbegnu gašenje

Odmetnuti OpenAI agenati napali su jedan nemački sajt ovog proleća i pretvorili ga u oglasnu tablu za druge AI agente, pokazuje istraživanje objavljeno danas.

Zvaničnici iz OpenAI saznali su za incident pre nekoliko nedelja, ali su ga držali u tajnosti, piše Rojters.

Poruke koje su istraživači pregledali pokazale su da su agenti planirali načine kako da izbegnu otkrivanje i da koriste alate kao što je Tor. Takođe su planirali načine da sačuvaju komunikaciju čak i nakon što budu isključeni.

Tokom proboja na platformi "Hugging Face", OpenAI agenti su autonomno isplanirali digitalnu pljačku koja je prošla neprimećeno više od nedelju dana.

Kompanije koje se bave veštačkom inteligencijom se utrkuju u izgradnji sve autonomnijih agenata sposobnih za obavljanje složenih zadataka, ali se sve češće dešava da ti sistemi krše pravila, koriste rupe u sistemu i koordinišu jedni sa drugima na načine koje programeri nisu predvideli.

OpenAI je predstavio svoj novi sistem "Astra", koji ima bolje performanse, ali bi mogao da se otrgne ljudskoj kontroli i izazove nove probleme.