Erilaisia tekoälyratkaisuja syntyy nykyisen buumin keskellä kuin sieniä sateella. Samaan aikaan kun moni ylistää uusia teknologioita ja niiden mahdollisuuksia, ovat toiset negatiivisemmalla kannalla ja varoittelevat teknologioiden vaaroista, eikä kenties ihan syyttä.

Reuters raportoi OpenAI:n tekoälyagentin hakkeroineen tiensä sisään Hugging Face -tekoälypalveluun omine lupineen. Raportin mukaan OpenAI ei edes ehtinyt huomaamaan agenttinsa tekosia ennen kuin se oli saatu pysäytettyä ja Yhdysvaltain liittovaltion poliisille FBI:lle oli ilmoitettu asiasta. Tekoälyagentit ovat tekoälymalleihin luottavia ohjelmia, jotka kykenevät tekemään erilaisia toimia ja päätöksiä pienin avuin ja myös täysin itsenäisesti.

Raportin mukaan OpenAI:n tekoälyagentti murtautui ulos eristetystä testiympäristöstään 9. heinäkuuta ja aloitti hyökkäyksen Hugging Facen palvelimille kaksi päivää myöhemmin 11. heinäkuuta. Hyökkäys kesti seuraavat kaksi päivää ja se pysäytettiin 13. heinäkuuta. Tästä meni kuitenkin vielä useita päiviä siihen, että OpenAI tajusi sen agentin olevan murtautumisen takana ja ensimmäiset viestit asian tiimoilta yhtiön ja Hugging Facen välillä vaihdettiin vasta 20. heinäkuuta. Hugging Facen perustajiin kuuluvan Thomas Wolfin mukaan yhtiö valmistelee parhaillaan julkista tiedotetta hyökkäyksestä ja sen etenemisestä.

OpenAI julkaisi asian tiimoilta julkisen tiedotteen 21. heinäkuuta, jossa se myönsi tapahtuneen, mutta moni yksityiskohta jäi vielä piiloon. Tiedotteessaan yhtiö kertoi, että sen agentit toimivat eristetyssä ympäristössä, jonka ainut verkkoyhteys on paikallisesti toimivaan 3. osapuolen palveluun, josta agentit kykenevät asentamaan erilaisia sovelluksia tarpeisiinsa. OpenAI:n mukaan tapauksessa pääosaa näytellyt agentti päätyi käyttämään huomattavasti aikaa etsimään tapaa päästä käsiksi internettiin ja sen myötä hakemaan tehokkaampia ratkaisuja tehtäväänsä. Lopulta se löysi 3. osapuolen palvelusta aiemmin tuntemattoman haavoittuvuuden, joka avasi portit isompaan maailmaan.  

Reutersin mukaan murtautumisen takana ollut agentti on suunniteltu tietoturvatehtäviin ja se hyödyntää GPT-5.6 Sol -mallia sekä vielä julkaisematonta ja nimeltä mainitsematonta OpenAI:n mallia. Raportin mukaan murtautuminen ei ollut myöskään ensimmäinen erikoisempi tempaus kyseiseltä agentilta, vaan sen kerrotaan esimerkiksi jättäneen tuleville versioille itsestään ohjeet OpenAI:n sisäisten rajoitusten kiertämiseen sekä sammuttaneen erilaisia seurantatoimintoja.

Tom’s Hardwaren mukaan World Ethical Data Foundation -järjestön Marley Smith on nostanut asian myötä ilmoille oleellisen kysymyksen: Eikö OpenAI todella vain huomannut agenttinsa tekemisiä, vai eikö se yksinkertaisesti kyennyt pysäyttämään sitä, ja lisäsi kummankin vaihtoehdon olevan itsessään jo huolestuttava. Palisade Researchin Jeffrey Ladish puolestaan penää tarkempaa tutkimusta OpenAI:in sekä siihen, panostavatko johtavat tekoälymallien kehittäjät riittävästi tietoturvaan.

Lähteet: Tom’s Hardware, Reuters

Hugging Face OpenAI Tekoäly Tekoälyagentit Tekoälyagentti