Voittoa tavoittelematon Common Sense Media -organisaatio on teettänyt tutkimuksen Googlen tekoälytyökalujen soveltuvuudesta lasten käyttöön. Tutkimuksessa keskityttiin erityisesti AI Overview- ja AI Mode -ominaisuuksiin Googlen hakukoneessa, jotka tarjoavat suoritetusta hausta tekoäly-yhteenvedon sekä mahdollisuuden kysyä asiasta lisää keskustelubotilta. Taustalla saattaa vaikuttaa myös Googlen Chromebook-kannettavien yleisyys lasten koulutietokoneina etenkin Yhdysvalloissa.

Yhtenä ongelmana nähtiin luonnollisesti kotitehtävien teettäminen tekoälyllä, mikä saattaa tuottaa vaihtelevia lopputuloksia eri kerroilla, vaikka käyttäjän alkuperäinen kehote pysyisi samana. Toisinaan lopputulos voi olla oikein ja toisinaan väärin.

Raportissa nostettiin esiin vakavampiakin seikkoja, kuten esimerkiksi joidenkin lasten itsetuhoisuuden sivuuttaminen AI Mode -keskusteluissa tai syömishäiriökäyttäytymisen rohkaiseminen. Myös psykoottisuuden ja päihdepuolen ongelmien vahvistamista havaittiin.

Tekoäly-yhteenvedot (AI Overview) ja Tekoälytila (AI Mode) ovat integroituina Googlen hakukoneeseen, eikä niitä voi täysin poistaa käytöstä.

Common Sense Median koko raportin voi lukea PDF-muodossa täältä.

Lähde: GSMArena

Gemini Generatiivinen tekoäly Google