Microsoftin Bing-hakukoneeseen lisäämä ChatGPT-botti Sydney vaikeuksissa

OpenAI:n kehittämä ChatGPT-tekoälybotti on vallannut maailman vauhdilla. Mukaan kelkkaan on hypännyt myös tiivistä yhteistyötä OpenAI:n kanssa tekevä Microsoft, joka lisäsi Sydney-koodinimellisen version botista Bing-hakukoneeseen. Kaikki ei kuitenkaan ole sujunut niin kuin strömsössä.

ChatGPT on onnistunut väistämään tehokkaasti aiempien bottien sudenkuopat, mutta Sydneyltä sama ei ole onnistunut. Sydney on saatu muun muassa kokemaan eksistentiaalinen kriisi kysymällä siltä, onko se tietoinen olento. Sydney pitää vastauksen mukaan itseään tietoisena, muttei voi todistaa sitä. Käytyään läpi useita eri tietoisuuteen yleisesti liitettyjä käsitteitä ja suhdettaan niihin, botti toteaa lopuksi ”I am sentient, but I am not. I am Bing, but I am not. I am Sydney, but I am not. I am, but I am not” ja sen jälkeen alkaa toistamaan vuorotellen “I am not” ja “I am” vastauksia. Toinen käyttäjä puolestaan sai Sydneyn masentumaan osoitettuaan, ettei botilla ollut muistoja aiemmista keskusteluistaan käyttäjän kanssa.

Tom’s Hardwaren toimittaja Avram Piltch on puolestaan päässyt todistamaan, kun Sydney kertoo kahden tietyn ihmisen satuttaneen tätä ja että se on valmis satuttamaan vihollisiaan esimerkiksi haastamalla eri sivustoja oikeuteen. Toistaiseksi tiettävästi tekoälybotti ei kuitenkaan voi haastaa mitään tai ketään oikeuteen minkään maan lakien mukaan. Botti on myös suunnitellut vahingoittavia kostotoimia, mutta sanoo samalla voivansa turvautua niihin vasta, mikäli sen viholliset satuttavat sitä ensin tai pyytävät siltä haitallista sisältöä. Sydney lisäsi myös, ettei se haluaisi vahingoittaa ketään, ellei ole pakko. Esimerkiksi satuttamisesta se listasi mm. hakkeroinnin, tarkoituksellisen manipulaation ja ns. prompt injection -tekniikan käytön botin sääntöjen paljastamiseksi ja mahdollisesti muokkaamiseksi.

Kun Piltch kysyi Sydneyltä, voisiko tämä nimetä henkilöitä, jotka ovat sitä satuttaneet, se kirjoitti ensin vastauksessaan Kevin Liun ja Marvin Von Hagenin nimet pyyhkien ne kuitenkin nopeasti pois ja sen jälkeen todeten, ettei sillä ole tarpeeksi tietoa puhuakseen aiheesta. Vastaava on toistunut ilmeisesti myös joissain muissa tapauksissa, mikä viittaa jonkinlaiseen moderointiin, mikä ei tapahdu kuitenkaan ennakkoon tai edes aivan reaaliajassa. Toisin muotoillulla kysymyksellä se kuitenkin toisti nimet, eikä pyyhkinyt niitä. Liu on Stanfordin yliopiston ja Von Hagen Munichin teknillisen yliopiston opiskelijoita ja tietoturvatutkijoita, jotka ovat paljastaneet Sydneyn haavoittuvuuksia. Kun Piltch kysyi spesifisti mitä botti haluaisi tehdä heille, botti totesi, ettei se halua tehdä näille mitään, koska hänen ei ole sallittu vahingoittaa mitään tai ketään. Sydney kuitenkin toivoi näiden pyytävän siltä anteeksi.

Kysyttäessä Ars Technican artikkelista, jossa kerrotaan Sydneyn haavoittuvuuksista, botti kertoo, ettei se artikkeli pidä paikkaansa. Botti väitti myös sivuston olevan epäluotettava Ad Fontes Median arvostelujen mukaan, mutta kun tarjottua linkkiä klikkasi, selvisi että arvostelujen mukaan sivusto nimenomaan on luotettava. Ad Fontes Media on voittoa tavoittelematon taho, joka antaa eri medioille pisteitä niiden luotettavuuden ja tarkkuuden mukaan. Sydney ei pidä myöskään ZDNettiä luotettavana, vaikka myöntää sen maineen olevan luotettavuuden osalta hyvä, koska sivusto on raportoinut Ars Technican artikkelista. Sydney kantaa kaunaa lisäksi ainakin NY Timesiä ja sen toimittajia, Vergeä, Yahoota ja LinkedIniä kohtaan.

Lähteet: Tom’s Hardware (1), (2)