Avancerad AI för säkrare och effektivare mjukvara

Kan AI hjälpa till med att få fram säker och effektiv kod? Forskningsprojektet FormAI, finansierat av Avancerad Digitalisering, jobbar just nu med att ta reda på det. I ett samarbete mellan Scania, KTH och AI Sweden utforskas hur generativ AI kan skapa kod för framtidens fordonsindustri. En kod som både hanterar hög komplexitet och är säker och effektiv.

Förändring driver innovation

AI och mjukvara blir allt viktigare för industriföretag och hela samhället. Det gör att det behövs innovations- och testprojekt som är nära kopplade till olika verksamheter.

Fordonsindustrin är i förändring med ett skifte mot ”software defined vehicles”, det vill säga att fordonens mjukvara är i fokus i stället för att se fordon som i första hand hårdvara. Uppkopplade fordon behöver uppdateras kontinuerligt och optimeras efter användning.  Dock är mjukvarukod för fordon en säkerhetskritisk fråga och behöver granskas minutiöst. Fel i koden kan orsaka olyckor eller i värsta fall dödsfall.

Forskningsprojektet FormAI har som mål att utforska hur generativ AI kan kombineras med formell deduktiv verifiering. Det handlar om att AI kombineras med en rigorös matematisk modell för att testa att koden fungerar korrekt i alla förhållanden, med målet att nå hög effektivitet och säkerhet.  

Mattias Nyberg, research manager för forskning inom software development system på Scania och adjungerad professor inom dependable control systems på KTH, är projektledare för FormAI och beskriver projektets verksamhet:  

“Projektet utforskar gränserna för hur generativ AI kan användas i fordonsindustrin. Vi arbetar för att nå fram till ett automatiserat flöde där vi kan ställa övergripande krav till en generativ AI som tar fram en kod som också verifierats.”   

Verksamhetsnära utvecklings- och testprojekt är nödvändiga för att öka kompetens och implementeringsförmåga inom industrin. Lena Backlund är processledare för Avancerad Digitaliserings programråd för Möjliggörande tekniker.

“Samarbetet mellan Scania, som stort svenskt industriföretag, och forskare på KTH och AI Sweden kortar avståndet mellan forskning och tillämpning”, säger Lena Backlund. “Det är ett bra exempel på projekt som bidrar till att stärka konkurrenskraften för svensk industri.”  

Loopad kodgenerering

Inom FormAI utforskar Scania tillsammans med AI Sweden och KTH arbetssätt kring hur en säker AI-genererad kod kan utvecklas och användas i praktiken. Framväxten av generativ AI genom stora språkmodeller, large language model (LLM), gör det möjligt att generera kod med mycket hög hastighet och oftast hög kvalitet. För att eventuella fel inte ska kunna slinka igenom behöver strikta testningsförfaranden komma på plats, särskilt för säkerhetskritisk kod.  

“Centralt i projektet är att skapa loopar där koden lär sig av sina misstag för att steg för steg bli säkrare. Om fel upptäcks i koden går den tillbaka till språkmodellen som får generera en ny kod utifrån feedback från testen. Den nya koden testas igen, varv på varv tills koden blir korrekt”, berättar Mattias Nyberg.  

Projektet började med enkla exempel som bygger på öppen källkod. Allt eftersom juridiska utmaningar hanteras kommer projektet att successivt bygga upp komplexiteten och specificiteten i exemplen de jobbar med, med målet att nå fram till fordonsspecifik kod.

Fynd testas i skarpa situationer

Generativ AI utvecklas snabbt, och projektet vill kontinuerligt kunna dra nytta av den förbättring som sker. AI Sweden kommer att se till att projektet är uppdaterat och att utveckling och förändring i AI-modellerna integreras i projektet. När det är möjligt kommer projektet att föra över metoder till Scanias industriella utveckling, vilket gör att fynden kan testas i mer skarpa situationer. 

Dessutom är två doktorander från KTH knutna till FormAI och fynd från projektet kommer att publiceras i vetenskapliga artiklar.

Värdefullt även utanför fordonsindustrin

Projektet planeras avslutas 2026 och tills dess ska samarbetspartnerna ha fördjupat förståelsen för hur generativ AI kan förstärka fordonsindustrin. Förhoppningen är också att resultaten från detta projekt kommer kan bana väg för säkrare och effektivare mjukvara i fler branscher, framhåller Mattias Nyberg.

FormAI fokuserar på mjukvarukod för fordonsindustrin, men principerna som utvecklas och testas i projektet kommer att vara tillämpbara på all typ av mjukvaruutveckling.

”FormAI är ett utomordentligt exempel på projekt där industrin snabbt får möjlighet att tillämpa den senaste forskning inom AI.”

Lena Backlund, processledare