Tekoäly ei tee osaamisesta tarpeetonta. Se tekee siitä erottavan tekijän.

Yleinen näkemys on, että kun kielimalli tuottaa koodin, sisällöt, analyysit ja laskelmat, ihmisen rooliksi jää lähinnä arvioida ja päättää. Substanssin voi ulkoistaa, harkinta jää.

Pyysin joku aika sitten tekoälyltä analyysin keikkatöiden kilpailukentästä. Sain listan yrityksiä, jokaisesta tunnusluvut, kannattavuuden, palvelut. Siisti, jäsennelty, uskottava. Osan firmoista tunsin entuudestaan, ja niiden kohdalla tiedot olivat oikein — mikä tietysti lisäsi luottamusta koko listaan.

Yhtä nimeä en ollut kuullut. Googlasin. Sellaista yritystä ei ole olemassa. Täysin hallusinoitu firma liikevaihtoineen ja kannattavuuslukuineen, keskellä oikeita kilpailijoita.

Huomasin sen koska tunsin alaa. Jos en olisi tuntenut, se olisi mennyt suoraan eteenpäin — koska se vaikutti täysin oikealta.

Ihmisen ajattelussa on kaksi vaihdetta. Nopealla vaihteella tunnistamme kasvot, luemme tilanteen ja muodostamme vaikutelman edes tajuamatta sitä. Se on päällä koko ajan, koska se on halpaa. Hidas vaihde on se, jolla oikeasti tarkistetaan — työläs ja energiaa vievä, ja siksi se käynnistyy vasta kun jokin särähtää.

Daniel Kahneman havainnollisti tätä yhdellä kysymyksellä: maila ja pallo maksavat yhteensä 1,10 €. Maila maksaa euron enemmän kuin pallo. Paljonko maksaa pallo?

Mieleen tulee heti kymmenen senttiä. Se on väärin — oikea vastaus on viisi. Suurin osa hyvin koulutetuista ihmisistä vastaa silti kymmenen, koska vastaus tuntuu oikealta eikä mikään patista tarkistamaan.

Tässä on tekoälyn ongelma pähkinänkuoressa. Sen tuotos ei särähdä koskaan. Se on siisti, kieliopillisesti moitteeton ja esitetty ilman epäröintiä. Sujuvuus itsessään on signaali, johon me luotamme: mitä helpompi teksti on lukea, sitä todemmalta se tuntuu. Työkalu tuottaa siis systemaattisesti juuri sitä sisältöä, jonka kohdalla ihmisen tarkistusmekanismi pysyy nukuksissa.

Hidas vaihde käynnistyy ristiriidasta — jokin ei täsmää sen kanssa mitä jo tiedän. Jos ei tiedä, ristiriitaa ei synny. Eikä tarkistusta tapahdu koskaan.

Siksi arviointikyky ei ole erillinen taito, jonka voisi opetella substanssin sijaan. Kokenut huomaa virheen, koska hänellä on mielessään malli siitä miltä oikea vastaus näyttää. Aloittelija näkee saman tekstin ja näkee vain hyvin kirjoitetun tekstin. Ero ei ole älykkyydessä eikä asenteessa, vaan siinä että toisella on vertailukohta ja toisella ei.

Riski ei realisoidu näyttävästi. Se realisoituu pikkuhiljaa: uskottava luku päätyy laskelmaan, uskottava tulkinta päätyy sopimukseen, eikä jälkikäteen kukaan osaa sanoa missä kohtaa meni pieleen.

Tulevaisuuden osaaminen ei ole sitä, kuka osaa käyttää tekoälyä. Se on sitä, kuka pystyy huomaamaan milloin se on väärässä.