Digital forensik ger lärdomar om var gränsen för AI bör gå

Artificiell intelligens blir allt vanligare i arbetsuppgifter som mjukvaruutveckling, kundsupport och säkerhetsutredningar. Även team inom digital forensik och incidenthantering (DFIR) använder AI för att bearbeta stora datamängder.

Enligt källartikeln innehåller 90 procent av brottsutredningarna och åtalen numera en digital del. Artikeln uppger också att mer än 20 000 enheter fortfarande fanns i kön för digital forensik i England och Wales i februari det år som källan hänvisar till. AI kan hjälpa team att sortera information, hitta möjliga ledtrådar och samband samt strukturera rapporter. Då får utredare mer tid för analys och beslut.

Men AI-resultat kan vara fel, och ett självsäkert sätt att presentera dem kan leda till övertro. Artikeln framhåller att utredare behöver sakkunskap för att upptäcka fel och kontrollera resultaten. AI kan hjälpa till att nå en slutsats, men bör inte betraktas som själva slutsatsen.

Vid digitala utredningar kan AI stödja analysen och flagga information för vidare granskning, men bör inte avgöra utredningens slutsatser eller någons oskuld eller skuld. Sådana beslut kräver mänskligt omdöme och ansvar. Enligt artikeln gäller samma sak i alla branscher: organisationer behöver skyddsåtgärder och granskningsrutiner som passar riskerna med varje uppgift.

Nya praktiska ramverk för AI inom DFIR uppmuntrar organisationer att bedöma risker, bestämma hur resultaten ska granskas och behålla mänsklig tillsyn där det behövs. Artikeln rekommenderar att organisationer tar fram styrning och kontroll innan de utökar AI-användningen och börjar med uppgifter med lägre risk, där resultaten enkelt kan granskas eller återställas.