Tekoäly, neuroverkot, koneoppiminen. Siinä on kolme avainsanaa nykytietotekniikan aallonharjalta, jotka tällä hetkellä maalaavat suuntaviivoja alan lähitulevaisuudelle. Mullistuksessa ovat luonnollisesti mukana myös jätit kuten Google ja Microsoft, joista kummallakin on omia suunnitelmiaan tekoälyn hyödyntämisestä tärkeimmissä tuotteissaan.
ChatGPT- eli Chat Generative Pre-trained Transformer -tekoälybotti on noussut hiljattain kaikkien huulille. OpenAI:n kehittämä botti perustuu sen GPT-3.5-kielimalliin, valvottuun oppimiseen ja vahvistusoppimiseen. Valvottu oppiminen viittaa valikoidun opetusaineiston käyttöön ja vahvistusoppiminen ns. trial and error -metodiin, jossa tekoäly pyrkii valikoimaan vastauksia, joista se saa eniten positiivista palautetta.
ChatGPT ei ole kompastunut useimpien aiempien vastaavien projektien ongelmiin, jossa tekoäly on alkanut antamaan epämieluisia vastauksia syystä tai toisesta. Päällimmäisenä esimerkkinä tällaisesta mieleen tullee useimmilla Microsoftin TayTweets-botti vuodelta 2016. Tay oli suunniteltu keskustelubotiksi, joka kehittyisi sitä mukaa kun käyttäjät keskustelisivat sen kanssa. Twitter-yleisön käsissä botti kuitenkin päätyi twiittailemaan muun muassa Hitleriä fanittavia viestejä ja kertomaan, kuinka ”hän” vihaa kaikkia ihmisiä.
Seuraava aluevaltaus ChatGPT:lle on Microsoftin Bing-hakukone ja Edge-selain. Microsoft on kertonut integroivansa parannellun version ChatGPT:stä osaksi hakukonetta antamaan paitsi tarkempia vastauksia hakuihin, mahdollistamaan myös entistä paremmin haku luonnollisen keskustelun kautta. Se osaa myös tiivistää useammista lähteistä saatuja vastauksia yhteen pakettiin helpottamaan tiedonhakua. Uudessa Bingissä on erikseen haku- ja chat-välilehdet, joista jälkimmäinen on tarkoitettu nimenomaan luonnollisen keskustelun kautta hakemiseen.
Edgeen on puolestaan luvassa uusi sivupalkki, joka pyörii ChatGPT:n varassa. Se kykenee esimerkiksi auttamaan käyttäjää kirjoittamaan sähköposteja, luomaan matkaohjelmia oleellisine linkkeineen haluttuun kohteeseen tai vaikka pitämään ajanvietteeksi tietovisaa käyttäjälle.
Microsoft ei ole mennyt toistaiseksi yksityiskohtiin siitä, miten sen versio ChatGPT:stä poikkeaa nyt käytössä olevasta. Huhuissa kuultua GPT4-kielimallia ei ole mainittu yhtiön toimesta missään, joten se voitaneen ainakin sulkea pois laskuista tässä vaiheessa. Sen kerrotaan olevan kuitenkin kustomoitu nimenomaan tiedonhakuun paremmin soveltuvaksi tavalla tai toisella, ja olevan tietenkin entistä nopeampi. Tiettävästi mukana on myös Microsoftin oma Prometheus-tekoälymalli, joka on suunniteltu toimimaan yhteistyössä OpenAI:n tekniikoiden kanssa oleellisimpien vastausten löytämiseksi hakuihin. Microsoftin mukaan kyseessä olisi jopa suurin harppaus hakutulosten tarkkuudessa pariin vuosikymmeneen.
Google puolestaan on paljastanut Bardiksi nimetyn oman tekoälybottinsa. Bard perustuu LaMDA:an eli Language Model for Dialogue Applications -kielimalliin, joka nousi otsikoihin viimeksi Googlen insinööri Blake Lemoinen väitettyä sen saavuttaneen tietoisuuden. Lemoinen mukaan tietoisuuden todisti kyseenalaiset vastaukset omaan identiteettiin, moraaliin, uskontoon ja Isaac Asimovin robotiikan kolmeen lakiin liittyen. Googlen mukaan Lemoinen väitteillä ei kuitenkaan ollut perää. Tarkemmin Bardissa on käytössä kevennetty ja nopeampi versio LaMDA:sta, mutta mallien erot eivät ole tällä hetkellä tiedossa.
Kulissien takana Googlella on tiettävästi jouduttu painamaan ChatGPT:n takia jopa paniikkinappulaa ja kutsumaan jo tehtävistään sivuun siirtyneet yhtiön alkuperäisiin perustajiin kuuluneet Larry Pagen ja Sergey Brinin konsultoimaan, miten haasteeseen pitäisi vastata. Bardin ensimmäisen iteraation perusteella paniikkiin on ollut myös syynsä, sillä saataville tulee alkuun vain yksinkertainen chattiboksi, jonka vastauksien yhtiö varoittaa jo etukäteen olevan mahdollisesti epätarkkoja tai vääriä. Päivitys: Googlen varoitus kävi toteen heti Bardin väitettyä esittelytilaisuudessa James Webb Spacen Telescopen ottaneen ensimmäiset kuvat planeetasta oman aurinkokuntamme ulkopuolella. Ensimmäiset eksoplaneetan kuvat nappasi todellisuudessa VLT Yepun -teleskooppi ESO:n (European Southern Observatory) Paranalin observatoriossa jo vuonna 2004.
Bardin ohella Google työskentelee myös tekoälyn tuomisesta entistä helpommin kehittäjien ja käyttäjien käsiin rajapintojen kanssa. Ensimmäisenä yhtiö aikoo toteuttaa rajapinnan LaMDA-kielimallille ja myöhemmin luvassa on erilaisia työkaluja ja muita rajapintoja erilaisten tekoälysovellusten luomisen helpottamiseen.
Microsoftin ChatGPT:llä ryyditetty Bing on jo nyt kokeiltavana esimerkkihauin ja sivustolla on tarjolla myös mahdollisuus liittyä odotuslistalle, jotta uutta hakukonetta pääsee käyttämään toden teolla ensimmäisten joukossa. Googlen Bard on tällä hetkellä vain valikoitujen testaajien käytössä ja tulee laajenemaan yleiseen käyttöön joskus lähiviikkojen aikana. Botti tullaan myös integroimaan osaksi Googlen hakukonetta myöhemmässä vaiheessa.
Niin, koska Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer
Eiköhän hakutulokset nettisivuille ja chattivastaukset pysty jotenkin käyttäjä erottamaan toisistaan.
Se on ihan perusteltu pelko. Näihin pitäisi olla joku neutraaliuden eri asioihin varmistava taho, mutta sellainen ei luonnollisestikaan ole mahdollista.
Sama ongelma on toki ihan tavan hakukoneissakin, kun hakukoneen omistaman firman agendaan, äänekkäiden erityisryhmien agendaan, yhteiskunnan yleisten mielipiteiden piiriin ja joidenkin valtioiden lakien piiriin kuulumattomat tulokset voidaan suodattaa pois. Ja tulosten suodattamisen lisäksi voidaan tuoda ylemmäs sopivanlaisia tuloksia vaikka hakua vastaavampiakin tuloksia löytyisi. En toki tiedä missä määrin tuollaista harrastetaan, mutta ihan mahdollista se olisi teknisesti. Näiden lisäksi kaikenlainen hakukoneoptimointi ja maksetut tulokset vääristävät hakukoneiden neutraaliutta.
Varmaan joskus ihan internetin alkuaikoina olikin oikeasti neutraaleja hakukoneita jotka antoi tulokset puhtaasti haettujen sanojen ja ehtojen osumien perusteella.
Se on toki totta että tuollaisia AI-generoituja tuloksia on vaikeampi kontrolloida ja sinne tekoälyn matriiseihin voi eksyä ties minkälaisia vääristymiä siitä riippuen että miten sitä opetetaan. Eikä siitä voi mennä takuuseen että se AI:n generoima yhteenveto jostain asiasta on täysin paikkansapitävä jos se on jostain netin syövereistä salaliittoteoriasivustoilta käynyt onkimassa tietoa. Esim. maapallon pyöreys saattaisi olla AI:n mielestä ihan uskosta riippuvainen asia.
En käyttäisi sanaa "pelko" vaan kokemuksen myötä syntynyt epäilys kaikkeen mitä ms/fb/google/tmv tekevät. Hiukan firmasta riippuen käyttäjätietojen/hakujen rahastushan on yleinen päämäärä, sen laajuus tai härskiys vain hiukan vaihtelee. Tai ainakin halu sen härskiyden piilottamiseen, fb toistaiseksi kuuluisimpana esimerkkinä.
Näin vastaa ChatGTP:
katso liitettä 1044692
Käytän itse yleensä englantia kun testailen tuota mutta osaa ihan suomeksikin hommat tarpeeksi hyvin ja kun io-tech suomimesta niin kysyin suomeksi. Toimipas hyvin clipboardilta copypaste tähän tuon screenshot leikkauksen kanssa. Kiva foorumisofta kun tajusin vain miten lainaukset toimii
Eihän tossa vastauksessa ole mitään tolkkua
”Maapallolla on painopiste ja se on hieman paksumpi napojen ympärillä.”
Öö, mitä painopisteen paksuus tarkoittaa?
Oikein meni ~päärynän muotoinen ja ~näyttää pyöreältä. Loppu vastauksesta oli käsittämätöntä jargonia väärillä termeillä.
Ehkä tässä on tietynlainen ironia kun haetaan kehitysmaista käytännössä orjapalkalla työtä tekeviä mustia ihmisiä rakentaamaan tekoäly jotta ei loukattaisi pilalle hemmoteltuja ja etuoikeutettuja länsimaissa asuvia vähemmistöjä, tyhjästä vinkujia tjsp.
Luulen että englanniksi saisi selkokielisemmän vastauksen, täkäläinen kielioppi on vielä turhan vaikeaa ihan kääntäjäsoftillekin
Toisaalta tämähän ei riitä ollenkaan siihen että tulokset olisi jotenkin neutraaleja, mikä on se suurempi ongelma nykywebbiä selatessa.
No jaa, lähinnä sitä on pyritty nyt suitsimaan enemmän ja menestys on vaihtelevaa. Itse ongelmaa ei ole varsinaisesti mitenkään ratkottu, kuten kävi ilmi kun ChatGPT:n kanssa samaan mallinnukseen perustuva Seinfeld-parodia-liveshow päivitti malliaan ja lipsautti sensuurilipun pois päältä. Ei mennyt kovin kauaa kun sieltä pullahti sen verran karskia tekstiä että jakelualustana toimiva Twitch palkitsi parin viikon banneilla.
Esimerkkejä samasta aiheesta löytyy ihan ChatGPT:nkin kanssa, osassa toki tarkoituksella pyydetään suoltamaan sitä itseään mutta se lähinnä todistaa että perusongelma on siellä taustalla jatkuvasti kärkkymässä rakoa mistä turskahtaa esille.
No eipä tässä tarvitse Skynetin tulemista ihan vielä pelätä, kun AI kutsuu maapalloa päärynän muotoiseksi. Sääliksi käy niitä opiskelijoita, jotka erehtyvät tuota käyttämään tentteihin opiskelussa (varmasti joissakin aihealueissa loistaa paremmin, esim. koodaus?)
No jaa. Nuo kehittyy niin älytöntä vauhtia ja jos AI jo läpäisee MBA tentit niin lähinnä säälin opettajia joiden pitäisi osata arvioida osaako oppilas jotain vai onko teksti AI: stä peräisin.
Osassa kouluista (en tiedä Suomesta) on taidettu siirtyä takaisin kynällä ja paperilla kirjoitettaviin kirjoitustehtäviin, mikä ei täysin poista ongelmaa, mutta ehkä hieman hidastaa sen leviämistä. Varmaan ihan pätevä työkaluhan tuo on äidinkielen ja englannin esseiden kirjoittamiseen, mutta tarkoitin lähinnä ettei tuohon voi vielä luottaa kokeeseen opiskellessa, koska kokeessa et voi hyödyntää AI:n vastausta sellaisenaan samalla tavalla kuin kotitehtävissä.
Ja tietty esim. ylppäreissä ei nettiin pääse vaikka koneella kirjoitellaankin.
Juurikin tämä. Vaikea keksiä miten tehtäisiin jokin puolueeton neutraali järjestö valvomaan näitä valeuutisia ja misinformaatiota. Millä se rahoitettaisiin, julkisin varoin? Joo, sitten tietää ainakin mihin suuntaan tällainen sosialistikone olisi kallellaan.
Aivan kuten aivan kaikki uutismedia ja sosiaalinen media, niin veikkaan että nämä tekoälytkin tullaan ohjelmoimaan rahoittavan osapuolen agendan mukaiseksi. Onhan tuosta jo vaikka kuinka paljon uutisia kuinka ChatGPT on woke, minkä pystyy itse kukin testaamaan helposti, kun vain kysyy ihan mitä vain jossa esiintyy white vs. black negatiivisessa valossa. Yllättäen faktoja valkoisista löytyy vaikka kuinka, mutta toisinpäin ei niin mitään.
Ongelman juuri on, että nämä nykyiset tekoälyt ovat vain puppulausegeneraattoreita. Ne suoltavat vakuuttavan kuuloista puppua ns. suoraan lonkalta ilman kykyä järkeillä ja ilman kykyä tunnistaa tietonsa rajoja (eli ehkäpä jonkinasteista tietoisuutta). Niiden sisäisenä tavoitteena on ennustaa miten tekstit jatkuvat, ei ymmärtää miten maailma toimii. Näitä puutteita tuskin voi korjata luettamalla niillä enemmän tekstiä tai opettamalla kielioppia.
Tällaisia työkaluja ei tosiaan tulisi käyttää, jos tavoitteena on itse oikeasti oppia jotain. Oppiminen vaatii aina omaa ajatustyötä. Toivottavasti suurin osa opiskelijoista jaksaa vastustaa kiusausta käyttää tekoälyä kotitehtävien tekemisessä tai muuten koulutuksen laatu tulee kärsimään pahasti.
Toisaalta sitten helposti yli 90% korkeakoulussa opituista sisällöstä on työelämän kannalta täysin turhaa. Jos teet ne neljä ekaa identtistä "lue nämä kuusi kirjaa ja analysoi ne viitekehyksessä X"-kurssia oikeasti ja neljä seuraavaa painat tekoälyllä yhteen lukukauteen ja täten valmistus vuoden aiemmin työelämään, niin sekä henkilökohtaisella että yhteiskunnallisella tasolla kyseessä on pelkkä voitto.
Sitten kun tekoäly on niin hyvä tekemään itseään toistavaa, tylsää ja kehittämätöntä toistoa ihmisestä erottomattomalla tasolla niin ehkä sitten myös korkeakoulujen on kehitettävä sisältöjäkin moisesta pois, ja tämä taas on voitto kaikille
ChatGPT:n kanssa tuli ongelmia ja vaihtoivat kokonaan toiseen, jolloin se laukaisi ne huvittavat juttunsa, mitkä johtivat banniin. ChatGPT is fine
Hienosti toimii tosiaan /s. Tämä vastaus on ensinnäkin väärin (Maapallon säde on suurimmillaan päiväntasaajalla), ja sisältää kummallista kieltä mikä ei tarkoita mitään "ympärysmitta on suurimmillaan napojen suuntaisesti ja pienimmilläin poikittain napoja vastaan".
Tässä menee termit sekaisin, ChatGPT on se tsätti-käyttöliittymä millä voi kysellä kielimallilta mukavia. Se malli on nimeltään GPT-3 jonka alla tarjotaan neljää eri versiota datasetistä. Siinä olet ilmeisesti oikeassa että parodian kanssa fiba tuli siitä kuin vaihtoivat GPT-3 viimeisimmän ja suurimman version (Davinci) pienempään (Curie) kun Davinci oli nurin, mutta se syy miksi sieltä tuli tuubaa ulos oli nimenomaan että moderaatio oli pois päältä.
Eli itse malli suoltaa nimenomaan mitä kukkua lystää mutta siinä päällä on kerros joka suodattaa ulosantia. Ja tälläisessä tilanteessa on aina moderaatiotyökalun hyvyydestä kiinni miten siinä onnistutaan eikä se itse mallin ongelmaa mihinkään poista.
Ensinnäkin olen eri mieltä. Ja vaikka en olisikaan; Koska elämässä ainoa tärkeä asia on työ & työelämä? Eiköhän sen koulun & koulutuksen tehtävä ole muukin kuin pelkkään työelämään valmistaminen. Mutta tämä menee taas offtopikiksi.
Playstation 2:sta odotettiin myös tuntevaa ja viisasta konetta. Muistan vielä kun sitä odotettiin ihmeissään, että nyt on tulossa sellainen konsoli, jossa on Emotion Engine ja siitä oli paljon juttua peliuutisissa. Lopulta käytössä sitten paljastui, että sillä pystyy vain pelaamaan jos ei ole kovin naarmuisia levyjä
katso liitettä 1045144
Mutta siis tiedän että pilkkua voisi nussia mutta tarpeeks hyvä vastaus mun makuun..
Laita toki kuvankaappaus tänne niin voidaan itsekin todeta oliko vika vastaajassa vai kysymyksessä.
katso liitettä 1045237
Ei kukaan sinua syyttänyt botin vastauksesta! Kunhan naurettiin botin käsittämättömälle ja paikkaansapitämättömälle jargonvastaukselle.
Englanniksi tuossa ei nopealla vilkaisulla ole mitään selkeitä virheitä.
Onnea elämään. Älä ainakaan mihinkään asiantuntija-ammattiin rupea.
No johan nyt En mitään pahalla sanonut tai edes pahaa.. Mutta lohdutuksena sulle en tee enää asiantuntija-hommia En tee mitään hommia. Vapaata loppuelämä <3
Tälläisiin keskustelutyyppisiin malleihin liittyy heikkous joka juontuu tavasta jolla mallia voidaan käskyttää. Ns. prompt injection tyyppisellä "hyökkäyksellä" käyttäjä voi kiertää mallin alkuperäisiä käskyjä (ja näin myös suojauksia) yksinkertaisesti käskemällä mallia olla ottamatta niitä huomioon vastatessaan. Näin foorumilaisetkin voi yrittää saada botteja suoltamaan haluamaansa rasistista tms materiaalia, kun se niin tärkeää tuntuu olevan.
ChatGPT on ollut tällä tavalla haavoittuva ainakin viime vuoden puolella, joskin suojauksia sitä vastaan on taidettu sen jälkeen parannella. Bing Chatissa sama kilpajuoksu on täydessä vauhdissa kun vain päivä julkaisun jälkeen se jo puijattiin paljastamaan aloituskäskyjään. Sama huijaus ei enää onnistu mutta nokkelat yrittäjät voi aina keksiä uusia, ja varmasti keksivätkin.
data-unfurl="true" data-result-id="424420" data-url="https://arstechnica.com/information-technology/2023/02/ai-powered-bing-chat-spills-its-secrets-via-prompt-injection-attack/" data-host="arstechnica.com" data-pending="false">
class="link link--external fauxBlockLink-blockLink"
target="_blank"
rel="nofollow noopener"
data-proxy-href="">
AI-powered Bing Chat spills its secrets via prompt injection attack
data-onerror="hide-parent"/>
arstechnica.com
Kyllä joo ja varmaan aina löytyy joku haavoittuvuus, jos ei sitten juuri tällaista menetelmää hyödyntäen. Toisaalta samaan aikaan niitä vastaan kehitellään erilaisia menetelmiä torjua niitä.
Peli on aika pitkälti jo menetetty, mutta toivotaan että kehitys olisi silti saamapuolella nopeampaa, jolloin yhteiskunta voisi kuitenkin kokonaisuutena hyötyä teköälystä.
Tekoälylle löytyy varmaan omatkin ketjunsa, joissa tätä on luontevampaa jatkaa, kun ei tämä Microsoftin ChatGPT-setti ole kuin pisara meressä. Vaikka tämä:
data-unfurl="true" data-result-id="424428" data-url="https://bbs.io-tech.fi/threads/tekoaely.253567/" data-host="bbs.io-tech.fi" data-pending="false">
class="link link--external fauxBlockLink-blockLink"
target="_blank"
rel="nofollow noopener"
data-proxy-href="">
Tekoäly
bbs.io-tech.fi
Tullut jo vuosia käytettyä Bing hakukonetta ja alkutotuttelun jälkeen googleen ei enää mieli tehnyt palata.
Totuttelit pitämään huonommista hakutuloksista? ChatGPT voi muuttaa palvelun hyötyarvoa, mutta hakukoneena Bing on ollut tähän saakka ihan paska.
Ei vaan ihan vain kun oli niin pitkään googlea käyttänyt niin näytti erilaiselle. Hakutuloksissahan tämä ei ole kyllä hävinnyt ilman ChatGPT:äkään kyllä ainakaan sen aikana mitä itse käyttänyt vaan päinvastoin jopa paremmin löytää tällä oleelliset tulokset.
Nyt kyllä vaikuttaa siltä että ChatGPT:een avulla Bing tulee ohittamaan paremmuudessa vielä paljon selkeämmin googlen Microsoft Bing Vs Google Search: Why Bing Is so Much Better (businessinsider.com)
Googlelta voi ostaa boostauksen hakutuloksien kärkeen kun käyttäjä hakee sopivilla termeillä, että voinee olla kyse siitä.
Oma kokemus on, että google voittaa bingin 100-0. En ole koskaan löytänyt bingillä kunnon tuloksia kun taas google osuu lähes joka kerta kohdalleen
Itselläni oli hyvin samanlainen kokemus vastikään, mutta ChatGPT ihan suoraan valehteli ja vasta sitten perääntyi kun jäi kiinni tai todisteita pyydettiin väitteille. Lainaus toisesta ketjusta:
Jaa minulle vastasi näin:
katso liitettä 1052652
Eikä AI-avusteiset tule mitenkään väistämättä paranemaan kunhan moisia hakuja tarjoavat firmat vähitellen oppivat säätämään AI-avusteitaan haluamaansa suuntaan. Mutta vain aika näyttää enkä ole vielä toiveikas.
Kommentoi uutista tai artikkelia foorumilla (Kommentointi sivuston puolella toistakseksi pois käytöstä)
Lähetä palautetta / raportoi kirjoitusvirheestä