Pitääkö tekoälyagenttia mikromanageerata?

Agenttia promptatessa pitää vääntää rautalangasta. Tavoite, reunaehdot, älä tee sitä, älä tee tätä, tee sitä tee tätä tee noin tee näin.

Jos antaisin ihmiselle tuollaiset ohjeet, hän loukkaantuisi.

Ihmisten johtaminen vaikuttaa tämän rinnalla paljon yksinkertaisemmalta. Näytetään suunta ja sanotaan että juoskaa. Sen jälkeen ollaan tukena: ratkotaan ongelmia ja siirretään esteitä pois tieltä. Reitin saa valita itse, kunhan maali on oikea.

Ja sehän toimii koska ihmisellä on konteksti. Ja mikä tärkeämpää, kyky täydentää puuttuva konteksti. Hän kuulee sen mitä en sanonut. Polanyi tiivisti sen hyvin: tiedämme enemmän kuin osaamme kertoa.

Agentilla on vain se mitä sille annettiin. Sen lisäksi hän lähtee innoissaan hakemaan kontekstia netistä, löytää jotain ja rakentaa sen päälle vakuuttavan kokonaisuuden. Tyhjä kohta ei jää tyhjäksi. Ihminen joka ei tiedä, kysyy. Agentti ei kysy. Se juoksee, kovaa ja väärään suuntaan.
Sitten se luottamus.

En luota kumpaankaan sataprosenttisesti. Ainoa johon luotan täysin olen minä itse.
Koneeseen luottamus vaan kohdistuu eri tavalla. Dietvorstin tutkimuksissa yksi näkyvä moka romauttaa luottamuksen algoritmiin, vaikka se olisi keskimäärin ihmistä parempi. Ihmiselle annetaan toinen mahdollisuus, koneelle ei.

Ja sitten on aika.

Kun annan homman ihmiselle, annan viikon jota en saa takaisin. Odottaminen on se kohta jossa luottamusta tarvitaan: olen pannut aikaa peliin. Agentin kanssa en pane peliin mitään kun korkeintaan tokeneita. Vastaus tulee puolessa minuutissa, ja jos se on huono, heitän uudestaan. Tuhat kierrosta siinä ajassa kun ihminen tekee yhden.

Siksi agenttiin ei oikeastaan tarvitse luottaa. Ehdin aina säätää.

Ja siinä kohtaa koko kysymys kääntyy päälaelleen.

Jos luottamusta ei tarvita ja korjaussarjan saa minuuteissa, tarvitseeko sitä ylipäätään mikromanageerata? Rautalangalla yritän estää sen, että homma ei menisi metsään. Mutta jos se menee, korjaus vie minuutin. Ehkä promptaamisen taito ei olekaan siinä, että osaa kirjoittaa kerralla täydellisen promptin jolla mennään maaliin. Sellaista promptia ei ole olemassa. Taito on jatkuvassa iteraatiossa.

Ehkä se menee siis juuri toisin päin kuin alunperin ajattelin. Ehkä agenttia pitäisi oppia johtamaan kuten ihmistä. Näytä suunta, anna juosta, ole tukena kun se törmää johonkin. Ei siksi että se ansaitsisi saman luottamuksen, vaan siksi että matkan varrella ohjaaminen on halvempaa kuin kaiken lukitseminen etukäteen.

Ja oppiihan se agenttikin. Konteksti karttuu, ohjeet jäävät talteen, ensi kerralla se tietää enemmän. Ihan kuin ihminen, mutta murto-osassa ajasta.

Miten te olette tämän kokeneet?