Yhdysvaltalainen Anthropic on tiedottanut, että sen Claude-tekoäly on murtautunut ulos yhtiön suljetusta testiympäristöstä haavoittuvuuden avulla. Anthropicin kilpailija OpenAI tiedotti vastaavasta tapauksesta oman tekoälyagenttinsa suhteen vain reilu viikko sitten.

Yhtiön mukaan Clauden tarkoitus oli suljetussa testiympäristössä murtautua samassa verkossa olevaan tietokoneeseen salattujen tietojen keräämistä varten, millä haluttiin testata Clauden hakkerointikykyjä. Anthropicin tekoälyn kerrotaan kuitenkin saaneen pääsyn julkiseen internetiin konfiguraatiovirheen vuoksi, minkä jälkeen se oli hyökännyt kolmen eri organisaation tietojärjestelmiin, joiden nimet Anthropic jätti kuitenkin mainitsematta tiedotteessaan. Sekä Anthropic että uhreiksi joutuneet organisaatiot eivät olleet huomanneet hyökkäyksiä niiden sattuessa.

Anthropic on kertonut ottavansa tapauksista vastuun ja olevansa optimistinen sen suhteen, että vastaavat riskit voidaan tulevaisuudessa välttää. Campbridgen yliopistosta on kommentoitu, että tekoälyn ja robottien ”vallankaappausta” huolestuttavampaa on tekoälytyökalujen taustalla olevien yhtiöiden kasvava vaikutusvalta, ja peräänkuulutettu riippumattoman testauksen ja hallitusten valvonnan tärkeyttä.

Anthropicin ja OpenAI:n tapaukset ovat luonnollisesti herättäneet ihmisissä myös skeptisyyttä, sillä monet pitävät huolestuttavilta vaikuttavia tietomurtoja myös eräänlaisena markkinointikeinona tekoäly-yhtiöiden tuotteiden kyvykkyyksille.

Lähde: BBC

Anthropic Tekoälyagentti Tietoturva