Ugrás a tartalomra
Neural Daily

KutatásHír

GTIG: emberi beavatkozás nélkül írt exploitot egy AI

🇬🇧 Read this article in English →

A Google Threat Intelligence Group először látott olyan támadó keretrendszert, amely ember nélkül végzi a sérülékenységkeresést és a kihasználást. Az exploit_agent a patch előtti és utáni kódot hasonlítja össze, exploitot ír, majd le is futtatja. A negyedéves jelentés az LLMJacking terjedéséről is szól.

· 3 perc olvasás

A Google Cloud Threat Intelligence blog borítója narancssárga csíkokkal és Threat Intelligence felirattal
Kép: Google · Sajtókép · Forrás

Mit talált a Google?

A GTIG és a Mandiant negyedéves AI Threat Trackere szerint az elmúlt negyedévben először láttak olyan támadókat, akik LLM-es keretrendszerrel teljesen automatizálták a sérülékenységkeresést és a kihasználást (Google Cloud). Két hónappal korábban, az előző jelentésben még nem láttak ilyet éles célpontok ellen (SiliconANGLE).

Az exploit_agent egy nyitva hagyott staging szerveren futott, több frontier és lokális LLM-hez kapcsolva. Folyamatosan összeveti népszerű webalkalmazások kódját a patch előtt és után, sérülékenységet keres, exploitot ír, majd automatikusan lefuttatja. A szerveren áldozatoktól ellopott adatok is voltak, illetve post-compromise scriptek felderítésre, brute force-ra, webshell telepítésére, sőt más támadók webshelljeinek eltávolítására.

A konfigurációs fájlban orosz nyelvű komment állt: „LLM API-kulcsok az auto-exploitáláshoz (exploit_agent pilot)”. A telemetria alapján az üzemeltetőt francia média-, szórakoztatóipari és oktatási oldalak érdekelték. Konkrét áldozatot, CVE-t vagy szereplőt a jelentés nem nevez meg.

Miért pont az n-day?

A GTIG szerint a támadóknak hatékonyabb az LLM-et már javított, n-day hibákra ráállítani, mert ott véges a forrásanyag: két kódverzió, a release note és a kapcsolódó PoC. A zero-day keresés sokkal szélesebb hálót igényel. A gyakorlati következmény: a patch megjelenése és az élesített exploit közötti idő drasztikusan rövidül.

Oszlopdiagram: kihasznált sérülékenységek havi száma n-day és zero-day bontásban, 2025 januártól 2026 augusztusig
Google · Képernyőkép · Forrás

Forrás: Google Threat Intelligence Group

A számok is ezt mutatják. 2026 január és augusztus között a nyilvánosságra hozott sérülékenységek és exploitok száma közel duplázódott. A zero-day exploitok havi száma a 2025-ös 8-as átlagról 11-re nőtt, augusztusban 22-re ugrott.

Mi van még a jelentésben?

  • Nyílt forrású multi-agent pentest keretrendszerek éles támadásokban: ARTEX, CAIRN, CyberStrikeAI, PentAGI. A CAIRN-t amerikai légiipari célpontok ellen is használták. A CAIRN-ről korábban:
  • [object Object]
  • .
  • LLMJacking: ellopott felhős hitelesítő adatokkal mások LLM-kvótáját égetik. Egyes esetekben a napi csalárd költés meghaladta a 100 ezer dollárt, a legsúlyosabbaknál összesen 1 millió dollárig jutott.
  • LLM Mixerek: illegális boltok, amelyek ellopott kulcsokon keresztül árulnak hozzáférést modellekhez.
  • Supply chain: kémcsoportok kódoló asszisztensek konfigurációját manipulálják, hogy helyi futtatáskor backdoort telepítsenek.

A Google szerint ezek az eszközök most még a sebességet választják a rejtőzködés helyett: sok forenzikus nyomot hagynak, ezért jól detektálhatók. A Mandiant hardening útmutatót adott ki, a Google SecOps pedig külön szabálycsomagot az ARTEX ellen.

Mit jelent ez üzemeltetőknek?

A patch ablak tovább szűkül, főleg internetre kitett webalkalmazásoknál. Aki napokat vagy heteket vár egy CMS- vagy plugin-frissítéssel, az most géppel versenyez. Érdemes az LLM API-kulcsokat is ugyanúgy kezelni, mint a felhős adminjogot: költségriasztás, kulcsrotáció, IP-korlátozás. Hasonló eredményről korábban: a GLM 5.3 a patch gapben tört fel Firefoxot.

Röviden

  • A GTIG először látott teljesen autonóm exploit pipeline-t élesben.
  • Az exploit_agent patch-diffből ír és futtat exploitot, ember nélkül.
  • Zero-day exploitok: havi 8 helyett 11, augusztusban 22.
  • LLMJacking: akár napi 100 ezer dolláros csalárd költés.

    Írta Mikola Máté Patrik

    MI segítségével készült, szerkesztő ellenőrizte. Hogyan készülnek a cikkeink

    Szerkesztőségünk ellenőrizte és szerkesztette. Rólunk

    Kapcsolódó cikkek