Danmark tager næste skridt i AI-forskningen – de første NVIDIA B200 GPU'er installeres på SDU
Som led i projektet Danish Foundation Models bliver otte HPC GPU’er nu integreret i UCloud, SDU’s nationale forskningssky. Målet er at understøtte udviklingen af transparente og sikre sprogmodeller på dansk.
Otte af NVIDIAs nyeste og mest avancerede B200 GPU’er er ankommet til Syddansk Universitet (SDU) og er nu ved at blive gjort klar til at tages i brug som en del af det nationale forskningsprojekt Danish Foundation Models (DFM). Når installationen er fuldført, vil GPU’erne blive integreret i UCloud – Danmarks nationale forskningssky – som drives af SDU’s eScience Center ved Institut for Matematik og Datalogi.
Projektet DFM blev søsat i slutningen af 2024 og er støttet med 30,7 millioner kroner fra Digitaliseringsministeriet. Konsortiet består af SDU, Aarhus Universitet, Københavns Universitet og Alexandra Instituttet og har til formål at udvikle åbne, sikre og dansksprogede basismodeller.
Kombinationen af den nye hardware og infrastrukturen i UCloud gør det muligt for forskere i projektet at påbegynde udvikling og træning af sprogmodeller i stor skala – uden at skulle vente på ekstern kapacitet.
– Det her er det første B200-system i Danmark og kun det andet i Norden, siger Tom Grotkaer Knudsen, Senior Sales Manager hos Supermicro Nordic. Supermicro og Indes har stået for leveringen af de nye GPU’er til SDU – At det allerede er leveret til SDU, siger noget om det tætte samarbejde mellem universitetet, Supermicro og NVIDIA.
For at få leveret de eftertragtede GPU’er har SDU skullet leve op til en række betingelser fra NVIDIA, blandt andet vedrørende eksportkontrol og dokumentation for at maskinerne skal bruges til forskning.
– Der er global venteliste på det her udstyr, siger professor Peter Schneider-Kamp, som er hovedansvarlig for DFM-projektet. – Vi var heldige at komme foran.
– Vi er meget taknemmelige for samarbejdet med Supermicro og Indes og stolte af, at vi har fået leveret og sat installationen i gang inden for seks uger, tilføjer professor Claudio Pica, leder af SDU’s eScience Center. – Det viser styrken i vores forskningsinfrastruktur og betydningen af projektet på nationalt plan.
Mød forskeren
Peter Schneider-Kamp er professor ved Institut for Matematik og Datalogi. Han har arbejdet med kunstig intelligens (AI) i over 25 år og har drevet både udviklingen af nye metoder og anvendelsen af AI på problemer inden for softwareudvikling, droneteknologi og sundhedspleje.
SDU eScience Center - centret bag UCloud
SDU eScience Center tilbyder en bred vifte af ydelser til både universiteter og private virksomheder. Vores Research Support Team fungerer desuden som SDU’s Front Office for de nationale HPC infrastrukturer.
En fælles national indsats
DFM-projektet udvikler basismodeller med særligt fokus på danske anvendelser – blandt andet inden for sundhedsvæsen, uddannelse, offentlig forvaltning og støtte til små og mellemstore virksomheder. Modellerne vil blive frigivet som open source.
– Vores mål er at skabe værktøjer, der afspejler det danske sprog og den danske samfundskontekst – og som kan bruges både i den offentlige og private sektor, siger Peter Schneider-Kamp.
Projektet omfatter også et såkaldt "sandbox"-miljø, hvor eksperter og udviklere kan arbejde sammen om at tilpasse og forbedre modellerne til konkrete formål. Der er løbende fokus på datakvalitet, gennemsigtighed og tilgængelighed.
Hvad er Danish Foundation Models?
UCloud – en afgørende platform for ansvarlig AI
Den tekniske infrastruktur bygger på UCloud – Danmarks nationale platform for interaktiv højtydende beregning (HPC) og den mest brugte supercomputer i Europa.
UCloud udvikles og drives af eScience Center på SDU og gør det muligt for forskere og institutioner at tilgå regnekraft, lagerplads og samarbejdsværktøjer på tværs af sektorer. Via samarbejdet i DeiC Interactive HPC konsortiet, som består af SDU, Aarhus Universitet og Aalborg universitet, har alle forskere på de danske universiteter adgang til UCloud.
– Bare det at købe lagerplads til de mængder data, vi arbejder med her, ville koste mere end serveren selv, forklarer Schneider-Kamp. – Det fungerer, fordi UCloud allerede forbinder alt – lager, CPU’er, GPU’er – i ét samlet system.
Claudio Pica understreger, at det netop er UCloud, der gør de nye GPU’er praktisk anvendelige:
– Vi samler det hele ét sted, så forskerne nemt kan skalere deres arbejde. Uden den integration ville det være svært at udnytte selv det bedste udstyr i praksis.
Hvad er NVIDIA B200 GPU’er
Næste fase – træning af dansksprogede basismodeller
Når GPU’erne er i fuld drift, begynder DFM-holdet arbejdet med at træne modeller i stor skala. En vigtig metode bliver brugen af “lærer-modeller”, der giver feedback til mindre modeller og derved forbedrer deres ydeevne.
– Forestil dig en professor, der vejleder en studerende trin for trin i en opgave, siger Schneider-Kamp. – Det er en måde at få mere kompakte modeller til at præstere bedre, uden at gå på kompromis med åbenhed og kontrol.
Med den tekniske platform på plads forventer DFM at levere de første modeller i løbet af året. Projektets tilgang – baseret på åbenhed, national infrastruktur og ansvarlig dataanvendelse – er et forsøg på at udvikle sprogteknologi, der både er nyttig og tilpasset danske forhold.
– Det handler ikke kun om at bygge modeller – men om at sikre, at de værktøjer, vi udvikler, er til at stole på og kan vedligeholdes i en dansk sammenhæng, siger Pica. – Og det starter med, at de skal være teknisk tilgængelige gennem platforme som UCloud.