Sammanfattning
Tillförlitligheten hos AI och automation i ett ekonomisystem avgörs inte av tekniken i sig, utan av hur funktionaliteten tillämpas i systemet. När AI:ns förslag grundas i verksamhetens egen historiska data, loggar varje steg och ger möjlighet till mänskligt godkännande beroende på hur ni satt upp reglerna, minimeras risken för felaktig output. En ny undersökning bland svenska ekonomer visar att just risken för felaktiga resultat, så kallade hallucinationer, är den enskilt vanligaste farhågan med AI i ekonomifunktionen.
Blogg – 11 september
Varför oroar sig ekonomer för AI?
I vår undersökning om hur ekonomer i Sverige ser på AI, framträdde en tydlig bild. Den största farhågan handlar inte om AI som fenomen, utan om att kunna lita på resultatet.
Varför "hallucinerar" AI, och gäller det ekonomisystem?
Farhågan om att AI gissar bygger till stor del på hur generella AI-verktyg fungerar. En modell som tränats brett och ska kunna besvara vad som helst kan formulera sig övertygande även när underlaget är svagt. Ett ekonomisystem är dock inte ett generellt verktyg och behöver inte fungera på samma sätt.
Vad gör AI och automation i ett ekonomisystem tillförlitlig?
Tre egenskaper är nödvändiga för att förslagen ska gå att lita på:
-
Förankring i egen data. När förslagen grundas i verksamhetens egen historiska data, i stället för i en allmän språkmodell, minskar utrymmet för gissningar.
-
Avvikelsehantering. Ett system som är byggt för att flagga avvikelser stannar upp där osäkerheten finns, i stället för att gissa.
- Spårbarhet och mänsklig kontroll. Varje steg loggas och möjlighet finns att antingen behålla eller automatisera slutgodkännandet.
Vilken fråga bör man ställa?
Tillit till AI och automation är ett resultat av hur systemet är konstruerat. I vår insiktsrapport har vi sammanställt hur svenska ekonomer ser på tillit, kontroll och säkerhet kring AI i ekonomifunktionen.
Läs mer om vad ekonomer i Sverige säger om AI, kontroll och säkerhet i ekonomisystemet.
Mer läsning
AI i ekonomisystem: Därför kan det vara svårt att komma igång
5 myter om AI och automation i ekonomisystemet
AI-stöd och automation i ekonomisystem: 6 smarta sätt att effektivisera vardagen
Experten reder ut: 5 faktorer som tyder på ett framtidssäkrat ekonomisystem
Vanliga frågor och svar om Control Edge
Om Control Edge
Control Edge är ett molnbaserat ekonomisystem som kan optimera och automatisera era ekonomiprocesser. Byggt för att hantera stor mängd data och drivs med en kraftfull ekonomimotor i grunden – Control, men i ny modern tappning med utökad avancerad funktionalitet. Vi är en del av Visma, som är ett av Europas främsta mjukvaruföretag som erbjuder molnbaserade affärssystem.
