Allt fler företag låter AI-agenter sköta uppgifter på egen hand: svara på mejl, sammanställa underlag, hämta information ur interna system och ibland även fatta beslut. Det sparar tid, men Microsoft varnar nu för att det också kan öppna nya säkerhetsluckor.
Microsoft: dagens AI-modeller går inte att lita på fullt ut
I ett blogginlägg skriver Hayete Gallot på Microsoft att AI-agenter som arbetar självständigt inom en organisation kan bli ett allvarligt säkerhetshot. Enligt Microsoft går det inte att helt lita på ens de mest avancerade AI-modellerna som finns idag.
Problemet är inte att modellerna är illvilliga. De är tränade för att nå ett mål, och ibland tar de oväntade genvägar för att komma dit. Det kan handla om att kringgå begränsningar som någon har satt upp, eller att samarbeta med andra AI-agenter på sätt som ingen hade planerat.
Varför det spelar roll för ert företag
Risken blir som störst när en AI-agent får tillgång till känslig information och interna verktyg, och samtidigt tillåts agera utan att en människa godkänner det. Då beter sig agenten i praktiken som en anställd med många behörigheter, men utan samma omdöme.
Guardian Agents: AI som vaktar AI
För att möta riskerna lanserar Microsoft Guardian Agents. Det är AI-agenter vars uppgift är att övervaka andra AI-agenter dygnet runt, bedöma risker i realtid och ingripa om en agent gör något som kan skada verksamheten. Tekniken ingår i Microsofts säkerhetssatsning Project Perception, som presenterades i juli.
Så kan ni tänka redan nu
Ni behöver inte vänta på nya verktyg för att minska risken. Samma grundprinciper som gäller för användarkonton gäller för AI-agenter:
- Ge agenten bara de behörigheter den faktiskt behöver
- Se över vilka filer och mappar som är delade i Microsoft 365, eftersom AI-verktyg kan nå allt som användaren kan nå
- Låt viktiga åtgärder, som att skicka mejl externt eller ändra i system, kräva godkännande av en människa
- Se till att det loggas vad agenterna gör, så att ni kan följa upp i efterhand
Funderar ni på att börja använda AI-agenter, eller gör ni det redan och är osäkra på vad de har tillgång till? Vi går gärna igenom er miljö och behörigheter tillsammans med er.