Vems röst använder agenten?

En AI-agent kan svara snabbt, korrekt och vänligt. Men vad händer när situationen kräver omdöme, inte bara rätt information? När AI börjar agera på organisationens vägnar blir frågan om mandat, ansvar och mänsklig erfarenhet plötsligt central.

Ett korrekt svar som ändå blir fel

Kommunen har gjort om skolskjutsturerna inför hösten. En lokalreporter mejlar och frågar när den nya turen på en viss sträcka går. Svaret kommer inom en minut: avgång 07.12 från den nya hållplatsen.

Svaret är korrekt och vänligt. Det är också skrivet och skickat av en AI-agent, utan att någon människa har läst det.

Reportern var egentligen inte ute efter en avgångstid. Hon hade pratat med föräldrar som tycker att den nya hållplatsen ligger vid en väg där sjuåringar inte borde stå och vänta i mörkret, och hon ville veta om någon på kommunen hade tänkt på det. Dagen efter handlar rubriken om en kommun som svarar med en tidtabell när föräldrar är oroliga för sina barn.

Ingenting i svaret var fel. Ändå var allt i det fel.

Scenen är fiktiv, men den skulle kunna hända i vilken kommun som helst i dag.

Från hjälpmedel till mandat

På kort tid har agentisk AI gått från experiment till praktisk användning. I dag söker agenter information, sammanställer underlag och startar arbetsflöden, och de fattar avgränsade beslut utan att en människa är med i varje steg.

En AI-assistent hjälper mig att formulera ett svar. En AI-agent kan skicka det.

Det flyttar frågan från vad tekniken klarar av till vilket mandat vi ger den.

Och just den förskjutningen syns allt tydligare i diskussionen om AI-styrning. Vid Gartner Data & Analytics Summit i september lyfte analysföretaget hur avgörande kulturen runt governance är för att organisationer ska lyckas styra AI. Policyer och teknik räcker inte om ansvar, förståelse och arbetssätt inte fungerar ute i verksamheten.

> Läs Gartners analys om AI governance och kultur

När AI går från att hjälpa till till att agera räcker det alltså inte att tekniken fungerar. Någon måste bestämma vad den får göra, i vilka situationer och på vems uppdrag.

Ansvaret går inte att delegera till agenten

Det är samma frågor som när en ny medarbetare får ett ansvar. Vad får hen göra på egen hand, när ska hen fråga och vem följer upp?

Frågan om vem som bär ansvaret när något går fel har ett enkelt, om än obekvämt, svar. Det går inte att delegera till agenten. Ansvaret stannar hos den som gav agenten mandatet.

Därför tror jag att agentisk AI snart flyttar från experimentverkstäderna till ledningsgruppens bord.

Att bygga agenterna blir allt enklare. Det svåra blir att bestämma vilken information de får använda, vilka system de får röra, vilka beslut de får fatta och vilka steg som alltid ska gå via en människa. Och att i efterhand kunna förstå vad agenten gjorde och varför.

Sådant brukar hanteras som frågor om IT, juridik och säkerhet.

Kommunikationsperspektivet försvinner lätt på vägen.

Det som inte går att skriva in i en manual

Efter många år i kommunikation vet man att en korrekt formulering kan vara helt fel i stunden. Att ett snabbt svar ibland skapar fler frågor än det löser. Att en journalist ofta frågar efter något annat än det som står i mejlet, och att det klokaste ibland är att vänta med svaret tills man vet mer.

Det lär man sig sällan från en manual. Oftast har man varit med när det blivit stökigt.

Hur skriver man in det i en instruktion till en agent?

Jag tror inte att det går, i alla fall inte fullt ut.

En fråga om sophämtning är en sak. En journalist som undrar om det är säkert att dricka kranvattnet är något helt annat, liksom en upprörd medarbetare eller en politiker inför ett svårt beslut.

De förutsägbara flödena kommer att automatiseras först, och sedan kommer allt mer automatiseras. Men ju närmare man kommer förtroende, konflikt och ansvar, desto mer behövs en människa.

Kommunikatörer behöver vara med när ramarna sätts

Styrningen av AI kan därför inte bara vara en teknisk kontrollfunktion. Den måste fungera ute i verksamheten, där tekniken faktiskt används.

För kommunikatörer betyder det att vi behöver sitta med när ramarna sätts. Vi behöver vara med och avgöra vilka relationer som aldrig ska automatiseras, och formulera när agenten ska lämna över, inte bara hur den ska låta.

Det kräver att man förstår tekniken, men framför allt kräver det erfarenhet.

En agent som svarar en journalist lånar kommunens röst. Någon som vet hur den rösten ska låta när det är allvar måste ha varit med och bestämt när den får användas, och när det är bättre att någon lyfter luren själv.