AI sägs vara ”nästa stora grej”, något som företag och organisationer måste ha för att kunna konkurrera och utveckla sina verksamheter i framtiden. Men hur kan man tillämpa AI i dag, i praktiken? På CGit byggs infrastruktur för AI-lösningar som kunderna kan använda direkt.
CGit med huvudkontor i Mölndal är ett av ganska få företag i Sverige som jobbar med produktionsmässiga AI-lösningar. Och, det är inte enbart algoritmer och ramverk det handlar om. CGit ägnar sig åt att leverera lösningar för den infrastruktur som är nödvändig för att hantera praktiska AI-lösningar. Det gör man främst i egenskap av hostingleverantör, med drifttjänster för kunder som efterfrågar färdiga lösningar.
Det behövs så klart underliggande teknisk infrastruktur för att kunna dra nytta av AI-tekniker, exempelvis maskininlärning. Hur infrastrukturen bör utformas skiljer sig åt mellan de pilotprojekt med syfte att utforska möjligheter, och skarpa tillämpningar.
Christian Gustavsson, grundare av CGit och som numer kallar sig för visionschef, eller CVO för att vara exakt, berätta om vilka tillämpningar det handlar om:
– Telekom är ett stort område. Det finns till exempel lösningar för att optimera nätverkstrafik i realtid, förutsäga trafik, analysera beteenden för enstaka användare och för grupper av användare, och för att hitta säkerhetshål, säger Christian Gustavsson.
Andra områden som CGits kunder är verksamma inom är självkörande fordon och utveckling av precisionsmedicin, alltså att kunna erbjuda individanpassade läkemedel vad gäller både typ och dosering. Ett område som ser ut att ta ordentlig fart är AI-lösningar för installationer av IoT-enheter i kanten av nätverken. Det behövs smarta lösningar för att hantera stora mängder IoT-enheter. Det är helt enkelt inte görbart att en människa ska kunna administrera kanske 10 000 uppkopplade sensorer i en installation.
Stort behov av beräkningskraft
AI kommer också in i bilden i själva IoT-enheterna. Det finns ett enormt behov av beräkningskraft i kanten av nätverken, det som vanligtvis kallas för edge computing. Man behöver helt enkelt göra så mycket analyser som möjligt i närheten av platser där data genereras, för att minimera nätverkstrafik.
Exempel på tillämpningar tar inte slut där; stadsplanering med förstärkt verklighet (AR) är en annan viktig tillämpning. Det gemensamma för alla tillämpningar är de stora behoven av beräkningskraft och hanteringen av stora mängder data. Det betyder kraftfull och optimerad hårdvara.
Läs mer om hur CGit kan hjälpa er med AI-projekt
Grundläggande i alla av CGits lösningar för AI är grafikprocessorer från Nvidia och deras plattform DGX. Det innebär att grafikprocessorer, GPUer, och vanliga processorer förpackas i en nyckelfärdig server där alla komponenter, även de mjukvaror som behövs, är optimerade för att fungera tillsammans redan vid leverans.
– Vi designar helheten med DGX-enheter, snabb lagring, snabba förbindelser, de mjukvaror som behövs, elförsörjning och kylning, förklarar Christian Gustavsson.
Kan ersätta 70, 100, ibland 300 servrar
Resultatet är maskinparker som ställer stora krav på elförsörjning. DGX-enheter finns i olika utföranden, till exempel med åtta GPUer och fyra CPUer, och flera DGX-enheter kan packas ihop på en mycket liten yta.
– En DGX-enhet kan ersätta mellan 70 och 100, ibland 300 traditionella servrar, säger Christian Gustavsson.
”Det finns till exempel lösningar för att välja ut och söka efter bilder i enorma, petabytestora, mängder med data på ett effektivt sätt”
CGit jobbar tätt ihop med Nvidia där Fredric Wall är försäljningschef för företagslösningar för Norden och Benelux.
– Vår affärsmodell är indirekt, vi arbetar bara genom partners som vi ställer höga krav på, till exempel vad gäller certifieringar. Vi erbjuder också utbildningar för våra partners och kan i ibland vara med i försäljningsfasen och ge support till partners om det behövs, säger Fredric Wall.
När infrastrukturen är på plats handlar det ofta om drift av lösningar för maskininlärning och djupinlärning, två områden som ofta överlappar varandra och ibland är synonyma. Även lösningar för visualisering och regelbaserade tillämpningar, så kallad inference, är vanliga.
Egenutvecklad mjukvara för att hantera drift
För att få ihop allt tillkommer förstås systemprogram, ramverk som Tensorflow och språk som Python. En viktig del som CGit tillför är egenutvecklad mjukvara för att hantera drift. Det finns till exempel lösningar för schemaläggning och för att att optimera dataflöden. Ett viktigt mål med driftmjukvaran är att se till att värdefulla GPU-resurser utnyttjas optimalt och ger maximal ROI.
– Det finns till exempel lösningar för att välja ut och söka efter bilder i enorma, petabytestora, mängder med data på ett effektivt sätt, förklarar Christian Gustavsson, och berättar att CGit möjliggör även AI Swedens Datafabrik som används för nästan alla AI Swedens projekt:
– Vi är nyckelpartner till AI Sweden, Sveriges Nationella satsning på AI. Vi har, sedan starten, varit deras enda ”Core Technology Partner”.
Sammanfattningsvis innefattar produktionsmässig infrastruktur för AI både traditionella lösningar, men i större skala än vanligt, och nya komponenter. CGit får alla olika delar att fungera tillsammans med Nvidias GPUer som huvudkomponent. Och, det idag och inte som teoretisk framtida lösning.
