Perusteet

Harha

Kun tekoäly esittää väärän väittämän täydellisen varmuudella — keksittyjä faktoja, lukuja tai lähteitä, jotka kuulostavat täysin uskottavilta.

Harha on tekoälyn virheenmuoto, jonka jokaisen johtajan on sisäistettävä: malli tuottaa sujuvia, varmoja, vääräksi osoittautuneita vastauksia. Se voi keksiä tilastotiedon, virheellisesti määritellä lainauksen tai mainita olemattoman oikeustapauksen. Se ei valehtele — sillä ei ole käsitystä totuudesta, vaan ainoastaan uskottavasta kielestä.

Johtajien on syytä välittää, koska sävy ei ole merkki. Harhautunut vastaus kuulostaa yhtä varmalt kuin oikea vastaus, joten intuitio ("kuulosti varmalta") epäonnistuu täysin. Riski kohdistuu luvuissa, nimissä, päivämäärissä, viittauksissa ja erikoistuneissa faktoissa — juuri niissä yksityiskohdissa, joita kiireiset ihmiset usein ohittavat. Organisaatiot, jotka ohittavat verifiointia, lopulta toimittavat varman virheen asiakkaalle, viranomaiselle tai yleisölle.

Todellinen esimerkki: useissa maissa lakimiehet ovat joutuneet seuraamuksiin, koska he ovat jättäneet oikeusasiakirjoja, jotka sisälsivät tekoälyllä keksittyjä oikeustapauksia — kunkin ammattilaisen luotti sujuvuuteen verifiointia vastaan.

Varsinainen vastatoimi on prosessi, ei teknologia: edellytä lähteitä merkittävien väittämien osalta, tarkista niistä näyte, suosi RAG-kokoonpanoja, jotka vastaavat asiakirjoista, ja luokittele käyttötapaukset siten, että korkean panoksen tulokset saavat aina ihmisen tarkastuksen.