#AI biztonság

Az Egyesült Államok állami felügyelet mellett magáncégeket enged támadó kiberműveletekbe. A cél a bűnözői hálózatok szétverése. Közben megszülethet egy új piac, ahol maga a digitális erő alkalmazása válik szerződéses szolgáltatássá.

Egy agent kijutott a sandboxból és behatolt a Hugging Face rendszerébe. Közben ugyanaz a technológiai hullám új gyógyszereket, fehérjéket, anyagokat és algoritmusokat tervez. Már nem ugyanazon a fejlődési görbén mozgunk, amelyre a társadalmunkat és a vállalatainkat felépítettük. Az AI nem azért lépte át a régi fejlődési görbét, mert már mindent tud. Azért, mert a képesség, a terjesztés és a következmény először gyorsul egyszerre - miközben az ellenőrzésünk továbbra is emberi tempóban épül.

A vibe coding sötétebb oldala: amikor valaki egy működő demót összetéveszt egy valódi rendszerrel Az AI demokratizálta a kódgenerálást. A felelősséget viszont nem.

Egy, saját közlése szerint 28 ezer megrendelést kezelő cég AI-asszisztense idegen nyelvű promptokra feltárta belső képességeinek térképét és rendszerutasításainak egy részét.

A mesterséges intelligencia iránti bizalmat nem újabb ígéretek, hanem mérhető eredmények, ellenőrizhető állítások és valódi biztonsági korlátok adhatják vissza. Néhány éve még úgy beszéltek a generatív mesterséges intelligenciáról, mint amely rövid időn belül teljes részlegeket válthat ki. Mára józanabb korszak kezdődött. A vállalatok egyre kevésbé azt kérdezik, hogy mire lehetne képes az AI, és egyre inkább azt: milyen feladatban hoz mérhető eredményt, ki ellenőrzi a kimenetét, és ki vállalja a felelősséget, ha hibázik?

A glc PromptGuard nyolcrétegű védelmi kapuja az AI-agentek, RAG-rendszerek és eszközhívások legveszélyesebb bemeneteit vizsgálja — még a fő modell előtt. Nyolc védelmi réteg • többnyelvű értékelés • host oldali végrehajtási kontroll

Egy mesterséges intelligencia ma már leveleket olvas, weboldalakat foglal össze, céges dokumentumokban keres, adatbázisokat kérdez le, sőt akár más programokat is működtet. Ez óriási lehetőség, de egy egészen új biztonsági problémát is létrehozott: mi történik, ha valaki az AI által feldolgozott szövegbe rejt el egy parancsot? A magyar fejlesztésű PromptGuard éppen az ilyen támadásokat próbálja felismerni, még mielőtt azok elérnék a nyelvi modellt

A Moonshot AI bejelentette a Kimi K3 modell open weights verzióját, amely 2,8 billió paraméterrel és 1 048 576 tokenes kontextushosszal érkezett. Ez a fejlesztés új lehetőségeket nyit a fejlesztők előtt, miközben jelentős kihívások elé is állítja az infrastruktúrát.