Valtuudet

AI-agentin valtuudet

Kysymys ei ole siitä, mihin agentti pystyy, vaan siitä mitä se saa tehdä ilman että kukaan katsoo. Tämä sivu antaa neljä valtuustasoa, hyväksyntäportit ja valmiin matriisin, jolla rajat kirjataan auki.

Lyhyt vastaus

AI-agentin valtuudet kannattaa jakaa neljään tasoon: lukeminen (agentti hakee tietoa, ei muuta mitään), suositus (agentti esittää vaihtoehdon perusteluineen), luonnos (agentti kirjoittaa valmiin tuotoksen, joka odottaa hyväksyntää) ja suoritus (agentti tekee toimenpiteen itse). Valtuus myönnetään tehtäväkohtaisesti, ei agenttikohtaisesti, ja se nostetaan vasta kun mittari osoittaa edellisen tason toimineen virheittä. Rahaliikenne, sopimukset ja henkilöön kohdistuvat päätökset jäävät suoritustason ulkopuolelle.

Neljä valtuustasoa

Tasot eroavat toisistaan yhden kysymyksen perusteella: mitä maailmassa muuttuu, kun agentti on tehnyt työnsä eikä kukaan ole vielä katsonut tulosta.

TasoMitä agentti tekeeMitä muuttuu ilman ihmistäHyväksyntäportti
1. LukeminenHakee ja jäsentää tietoaEi mitäänEi tarvita
2. SuositusEsittää vaihtoehdon ja perustelunEi mitäänEi tarvita, mutta perustelu vaaditaan
3. LuonnosKirjoittaa valmiin tuotoksen jonoonEi mitään ennen hyväksyntääIhminen hyväksyy ennen käyttöä
4. SuoritusTekee toimenpiteen itseTieto muuttuu tai viesti lähteeEi per tapaus — portti on myöntämispäätös

Kolmen ensimmäisen tason virhe maksaa aikaa. Neljännen tason virhe maksaa rahaa, asiakassuhteen tai datan eheyden. Siksi siirtymä kolmannelta neljännelle on ainoa aidosti merkittävä päätös tässä mallissa.

Valtuusmatriisi

Matriisi kertoo, millä tasolla agentti saa toimia kussakin tehtävätyypissä. Tämä on lähtökohta, jota kiristetään toimialan ja riskinsietokyvyn mukaan.

TehtäväSuurin sallittu tasoEdellytys
Tiedon haku sisäisistä lähteistäLukeminenTietoluokitus tarkistettu
Sisäisen koosteen kirjoittaminenLuonnosLähteet merkitty tuotokseen
Asiakasviestin kirjoittaminenLuonnosIhminen hyväksyy ennen lähetystä
Tiketin luokittelu ja reititysSuoritusMuutos peruutettavissa ja lokitettu
Yhden kentän päivitys järjestelmässäSuoritusRajattu kenttä, muutoshistoria olemassa
Ulkoisen viestin lähetysLuonnosNosto suoritukseen vain erillisellä päätöksellä ja mitatulla virhetasolla
Tietueen poisto tai yhdistäminenSuositusPeruuttamaton — ihminen tekee
Rahaliikenne ja maksutEi valtuutta
Sopimusten hyväksyminenEi valtuutta
Henkilöön kohdistuva arviointi tai valintaEi valtuutta

Kolme alinta riviä ovat ehdottomia. Kaksi ensimmäistä niistä siksi, että vahinko on välitön ja usein peruuttamaton. Kolmas siksi, että työelämään ja henkilöstöhallintoon liittyviä tekoälyjärjestelmiä koskevat tiukemmat vaatimukset — luokittelu kannattaa tarkistaa tapauskohtaisesti ennen käyttöönottoa.

Hyväksyntäportit

Hyväksyntäportti on se kohta prosessissa, jossa ihminen päättää meneekö tuotos eteenpäin. Portin sijainti ratkaisee, toimiiko valvonta vai onko se vain muodollisuus.

Portti tulee ennen peruuttamatonta askelta

Viesti lähtee, lasku muodostuu, tietue päivittyy. Välivaiheet, jotka voi ajaa uudelleen, eivät tarvitse porttia.

Oletusarvo on ”ei mene”

Jos tuotos lähtee ellei kukaan estä, valvontaa ei käytännössä ole. Hyväksynnän on oltava aktiivinen toimenpide.

Hyväksyjä kantaa seuraukset

Portissa on oltava se ihminen, jonka työhön virhe vaikuttaa — ei se, jolla on eniten aikaa. Muuten portti näyttää olevan olemassa mutta ei toimi.

Tarkistettava asia pidetään pienenä

Ihminen ei arvioi kymmensivuista tuotosta kymmenessä sekunnissa. Kun agentti esittää päätöksen ja perustelun erikseen, tarkistus kohdistuu perusteluun.

Korjaukset kirjataan

Jokainen korjaus kertoo mitä ohjeistuksesta puuttuu. Kun sama korjaus toistuu kolmesti, vika on kontekstissa eikä tarkistajassa.

Tarkistuspisteen logiikka käsitellään tarkemmin sivulla ihminen silmukassa.

Lokitus

Valtuus ilman lokia on valtuus, jota ei voi valvoa jälkikäteen. Jokaisesta suoritustason toimenpiteestä pitää jäädä merkintä, josta käy ilmi viisi asiaa.

Mitä lokiin kirjataan
  • Kuka — mikä agentti toimenpiteen teki.
  • Mitä — mikä muuttui ja mistä mihin.
  • Milloin — aikaleima.
  • Mihin perustuen — mikä syöte tai sääntö johti toimenpiteeseen.
  • Kuka hyväksyi — jos kyseessä oli luonnostaso.

Neljäs kohta on se, joka useimmin puuttuu ja jota eniten tarvitaan silloin kun jotain menee pieleen. Ilman sitä selvitys pysähtyy toteamukseen ”agentti teki näin”, eikä syy selviä.

Milloin autonomiaa pitää rajata

Valtuustasoa nostetaan mittarin perusteella, mutta sitä myös lasketaan mittarin perusteella. Palautus alemmalle tasolle ei ole epäonnistuminen vaan järjestelmän normaali säätö.

Merkit, joista autonomia lasketaan
  • Korjausaste nousee: ihminen muokkaa yhä useampaa tuotosta.
  • Agentille alkaa tulla tehtäviä, joita varten sitä ei rakennettu.
  • Datalähde tai prosessi on muuttunut eikä kontekstia ole päivitetty.
  • Sama virhetyyppi toistuu, vaikka ohjeistusta on korjattu.
  • Kukaan ei ole katsonut agentin lokia kuukauteen.

Viimeinen kohta on tavallisin. Agentti ei kaadu näyttävästi — se liukuu hiljaa pois siitä tehtävästä, jota varten valtuus myönnettiin.

Milloin valtuusmatriisia ei tarvita

Jos yrityksessä on yksi agentti, joka vain lukee tietoa ja kirjoittaa luonnoksia, matriisi on liikaa. Riittää yksi kirjattu lause siitä, mihin agentti pääsee ja kuka hyväksyy tuotoksen.

Matriisi kannattaa siinä vaiheessa, kun agentteja on useita tai kun yksikin niistä toimii suoritustasolla. Silloin rajat pitää pystyä näyttämään muullekin kuin rakentajalle.

Usein kysytyt kysymykset

Mitä AI-agentin valtuudet tarkoittavat?

Sitä mihin agentti pääsee käsiksi ja mitä se saa siellä tehdä ilman ihmisen hyväksyntää. Käytännössä valtuus jaetaan neljään tasoon: lukeminen, suositus, luonnos ja suoritus.

Saako AI-agentti lähettää viestejä asiakkaille?

Lähtökohta on luonnostaso: agentti kirjoittaa viestin ja ihminen hyväksyy sen ennen lähetystä. Nosto suoritustasolle tehdään erillisellä päätöksellä ja vasta kun virhetaso on mitattu riittävän pitkässä sarjassa.

Saako agentti käyttää rahaa?

Ei. Rahaliikenne ja sopimusten hyväksyminen jäävät valtuusmatriisin ulkopuolelle riippumatta siitä kuinka luotettava agentti on ollut. Vahinko on välitön ja usein peruuttamaton.

Miten valtuustasoa nostetaan?

Mittarin perusteella, ei arviolta. Kun edellisellä tasolla ei ole tullut virheitä riittävän pitkässä sarjassa ja muutos on peruutettavissa sekä lokitettu, taso voidaan nostaa yhdellä askeleella. Kahta askelta kerralla ei kannata ottaa.

Mitä agentin toimista pitää jäädä lokiin?

Viisi asiaa: mikä agentti toimi, mitä muuttui ja mistä mihin, milloin, mihin syötteeseen tai sääntöön toimenpide perustui ja kuka sen hyväksyi. Neljäs puuttuu useimmin ja on selvitystilanteessa tärkein.

Voiko valtuuden myöntää agentille eikä tehtävälle?

Ei kannata. ”Agentilla on pääsy CRM:ään” on liian laaja määrittely, koska se kattaa myös tehtävät joita ei ole harkittu. Oikea muoto on tehtäväkohtainen: mitä agentti saa lukea ja mitä kirjoittaa, missä tilanteessa.

Kirjaa rajat ennen ensimmäistä suoritustason agenttia

Valtuusmatriisi mahtuu yhdelle sivulle. Se on halvempi tehdä etukäteen kuin selvittää jälkikäteen, kuka päätti että agentti saa lähettää viestejä.

Rakenna agenttirekisteri