Kursplan för Artificiell Intelligens i Medicin (AIM): implementering

Särskild behörighet

Godkänt betyg på termin 1–10.

Student som underkänts på verksamhetsförlagd utbildning (VFU)/motsvarande till följd av att studenten visat så allvarliga brister i kunskaper, färdigheter eller förhållningssätt att patientsäkerheten eller patienternas förtroende för sjukvården riskerats, är behörig till nytt VFU-tillfälle först när den individuella handlingsplanen har fullföljts.

Mål

Digitalisering är en av hörnstenarna i framtidens vård och dagens läkarstudenter upplever att de är otillräckligt förberedda på den digitala vården (Enkätundersökning Läkarförbundet, augusti 2023).
Kursen ämnar därför
• Att definiera begrepp relaterade till multimodal AI djup maskininlärningsstödd samt beskriva risker, möjligheter och begränsningar med AI inom hälso- och sjukvården.
• Att introducera verkliga AI-tillämpningar inom hälso- och sjukvården för att förstå AI-användningen och fördelarna där studenten lär sig AI-processen med data och information för att kunna effektivisera vården med komplexa data med klassificeringsmetoder för att kunna använda AI-algoritmer.
• Att studenterna lär sig grundläggande databehandlings- och modelleringstekniker och få praktisk erfarenhet av AI-tillämpningar inom olika medicinska områden.
• Att studenterna ska lära sig analysera riskbedömningar vid AI-användning och även kunna hitta relativa regelverk när AI-lösningar används som verktyg för vårdpersonalen
Kursen kommer att betona praktiska tillämpningar med innehåll baserat på hälso- och sjukvårdsscenarier och balansera konceptuella förklaringar med minimal teknisk och matematisk komplexitet.

**Lärandemål
**Kursens lärandemål relaterar till de nationella målen för läkarexamen i examensordningen inom högskoleförordningen (SFS 1993:100). Lärandemål för kunskap och förståelse är nivåindelade enligt SOLO-taxonomin (S2-S5) och lärandemål för färdighet och förmåga är indelade enligt Millers pyramid (M3-M4).

Kunskap och förståelse
För godkänd kurs ska studenten kunna;
• förstå, förklara och resonera kring vanligt förekommande AI-koncepter, dess betydelse inom stödbeslut och effektiviseringar för vården med hälsodata. (S4)
• grunderna gällande datakvalitet, hälsoinformatikstandarder, AI-legal, AI-standards, AI-testbäddar och AI-utvecklingen inom vårdsystem i EU. (S4)
• visa förståelse kring kontinuerlig AI-utveckling över tid, både nationellt och internationellt. Studenterna ska kunna hitta specifika ISO-standarder relaterade till AI inom Hälsa, Vård och Omsorg med koppling till AI-Act. (S5)
• beskriva olika AI-användningsområde och välja användbara dataset, för ”AI-algoritmer” från ett medicinskt fall. Hälsodata klassifikation för AI-användning inom Hälsa, Vård och Omsorg. (S4)
• reflektera runt etiska frågeställningar inom AI och AI (Act) med riskbedömningar för 4 nivåer. (S5)
• riskbedöma AI-lösningar, förstå rollen av förklarbarhet, integritet och etik i AIM. Att lära sig identifieringen av olika risker kopplade till AI-Act (inom EU) när AI-koncepter ska tillämpas i vården. (S3)
• utvärdera om data kan användas för AI-tillämningar i olika verkliga medicinska miljöer med patientinformation från Electronic Health Records. (S4)
• klassificera olika variabler och kunna skapa AI-koncepter med problemidentifiering, t.ex. hur AI kan tillämpas för specifika behandlingsalternativ i verkliga miljöer med expertgrupper. (S4)
• betydelsen av samt resonera kring vilka kommunikationsmetoder och digitala kanaler är nödvändiga för att AI-lösningar ska kunna effektivisera behandlingsmetoder med gigantiska multidata ”BigData”. (S5)
• definitioner AI och dess användningsområde inom medicin (S4), t.ex. grundläggande statistik, logistisk regression, djup maskininlärning, ”artificiell intelligens” (AI):
- Reflectiv AI
- Förklarbar AI; Explainability , unrolling algorhithms
- Data typer
- Multmodal data integrering
- Presentation Human in the loop
- Klassifikation av olika datatyper och patientinformation
- AI-modeller med olika risknivåer ”riskbedömningar”
- Generativ AI
- AI inom robotik
- AI-act och cybersäkerhet.
- AI-möjligheter med hälsodata/patientdata och AI-utmaningar patientsäkerhet och investeringar inom vården
- AI-utvecklingen inom EU och dess verktyg inom specifika sjukhusmiljöer

Färdighet och förmåga
För godkänd kurs ska studenten kunna:
• designa en experimentell uppställning i ett applikationssammanhang för användning av data, funktionsutvinning och AI-användning. (M3; VFU)
• jämföra olika AI-användningsområde och välja användbara dataset, för ”AI-algoritmer” från ett medicinskt fall. Hälsodata klassifikation för AI-användning inom Hälsa, Vård och Omsorg. (M3)
• beräkna och utvärdera om data kan användas för AI-tillämpningar i olika verkliga medicinska miljöer med patientinformation från Electronic Health Records (EHR). (M3; VFU)
• riskbedöma AI-lösningar, förstå rollen av förklarbarhet, integritet och etik i AIM, samt identifiera olika risker kopplade till AI-Act (inom EU) när AI-koncepter ska tillämpas i vården. VFU. (M3)

Förhållningssätt och värderingsförmåga
För godkänd kurs ska studenten kunna;
• bemöta patienter, anhöriga, andra studenter, lärare och personal på ett respektfullt, empatiskt och professionellt sätt. (M3)
• utvärdera digitalisering av vården utifrån följande perspektiv: datakvalitet, personcentrering, patientsäkerhet, etik, interprofessionellt arbete, och effektivisering. (M3)
• agera och uppträda omdömesgillt och professionellt i kliniska och andra lärandesituationer.

Innehåll

Kursen kommer att betona praktiska tillämpningar med innehåll baserat på hälso- och sjukvårdsscenarier och balansera konceptuella förklaringar med minimal teknisk och matematisk komplexitet.
Kursen innehåller också ett hälsodata-AI-projekt där studenten formulerar ett specifikt AI-koncept och jämföras med en traditionell medicinsk lösning utan AI-lösning. Syftet är att studenten kan själv analysera hur olika AI-lösningar kan medföra nytta till vården, även utmaningar och risker skall utvärderas. Vidare innehåller praktiska övningar för att studenten lär sig hur AI-lösningar kan bli kopplade till olika digitala säkra system med noggranna riskbedömningar med både hänsyn till patientsäkerheten och systemsäkerheten såsom cybersäkerhet. Målet är att även få en bättre förståelse där varje AI-lösning blir anpassat till specifikt område med unika insamlade data.
Därför krävs en noggrann bearbetning vid förflyttning av AI-koncept från en plats till en annan plats. Speciellt från ett sjukhus till ett annat sjukhus-vårdmiljö. Studenten ska lära sig att och hur AI-lösningar inom vården behöver bra datakvalitet och vikten av användning av hälsoinformatikstandarder och AI-standardmetoder. Dessutom hur olika oberoende digitala system ska kunna samverka med varandra vid tillämpning med AI-lösning. Studenten ska även besitta kunskaper för att kritiskt granska framtida AI verktyg och påverka inköp och upphandlingar ur ett kliniskt perspektiv. Läkaren vårdpersonalen samt den individuella patenten kan få både stöd och bättre information där datorn använder matematiska och statiska beräkningsmodeller för diagnostik inom hälsovård, noggrannhet, effektivitet och behandlingsalternativ.

Arbetsformer

Kursens pedagogiska upplägg innefattar såväl, föreläsningar, seminarier, verksamhetsförlagd utbildning samt individuellt fördjupningsarbete som presenteras och diskuteras gemensamt under kursens avslutande del.
Antal föreläsningar (10-13), antal övningar (8), antal seminarier (6-8) och studiebesök VFU (5-7). Hela kursen delas i FEM delar;
a) Multimodala hälso- och sjukvårdsdata definitioner, avgränsning, risker möjligheter samt etik.
b) datahantering relaterat till hälsodata
c) modellering
d) prediktering
e) legal & regelverk-säkerhet.
Föreläsningar kombineras med kursmaterial och utbildningsmoduler som vi har skapat med ett EU-projekt på KI och RISE, (Testing and Experimentation Facility for Health AI and Robotics (TEF-Health). Vi kommer att använda utbildningsmoduler från arbetspaket 5 som skapades med 52 partner nyligen
våren-2025 i EU. Dessa AI-utbildningsmoduler är granskade och ska användas vid medicinska universitet i EU. Föreläsningar ska kombineras med uppdaterade material såsom böcker och kursmaterial i samarbete med andra lärosäte och forskningsinstituteter (t.ex. KTH, RISE och Charité ). Samarbete med LIME samt Clintec, AI@KI, mfl och integrering av deras respektive kursupplägg samt expertis koordineras av kursledning i samarbete med lärare vid respektive institution (vg se lärarkapacitet).
Förslag till olika ämne/tema med mentor ledda FÖRDJUPNINGSARBETE erbjuds för de individuella hälsodata-AI-projekt som är en obligatorisk del i kursen. Övningarna kommer att genomföras med syntetiska data gällande persondata och riktig, GDPR-pseudo anonymiserad patientdata ifrån Institutionen för Kvinnors och Barns hälsa vid KI. Studenterna kommer att använda övningarna som stöd till föreläsningar, där ska de ha en möjlighet att bättre förstå föreläsningarna och kunna lära sig både genom självständig inlärningsprocess och teamarbete ”grupparbete” i klassrummen. Övningarna ska också vara tillfälle för att lära sig AI-tillämpningar med hjälp av. matematiska moduleringar och för att förstå användningen av programspråk och dess betydelse vid AI-implementeringar inom vården såsom Pyton och/eller Matlab. Dock EJ behov av programmerings färdigheter för denna kurs. Genom seminarier övningar, skall kandidaterna kunna fråga och diskutera olika möjliga AI-lösningar som lämpar sig till vården och hur man kan minimera eller identifiera risker. Kursen innehåller ett antal seminarier tillfälle, bland annat bjuder vi AI-experter inom vården både internt på KI och K samt hela EU. Syftet är att studenterna ska lära sig genom att lyssna på AI-experter som leder olika AI-projekt där de senaste AI-teknologierna (AI-moduler & robotik) och regelverket (AI-Act) sammankopplas och implementeras med hjälp av läkare och vårdpersonal. Kursen genomförs med pedagogiska utbildningsprocesser genom tydliga kopplingar till föreläsningar, övningar, seminarier och avslutningsvis ett studiebesök. Syftet är att studenterna ska lära sig att använda AI i medicin vid behov med rätt verktyg och specifika resurser såsom data och AI-arkitektur. Upplägget kommer följas genom konstruktiva lärandeprocessen. Där teoretiska kunskaper tillämpas med verkliga fall och AI-lösningar ska funka i praktiken vid klinisk miljö.

Examination

Varje kandidat skall vid kursstart ha valt individuellt fördjupningsarbete och mentor. Fördjupningsarbete kring AI i hälso- och sjukvård, görs parallellt med föreläsningar, seminarier och VFU under avsatt tid.
Kursen kommer att avslutas med kort (5-7 sidor) skriftlig samt muntlig presentation av individuellt hälsodata-AI-projekt med opponering diskussion som en viktig del i examination
Genom enskilda väldefinierade fokuserade fördjupningsarbeten med stöd av individuella mentorer, får studenterna möjlighet att avsätta den tid som krävs för en individuell inlärningsprocess.
Kursen innehåller också ett studiebesök på vårdavdelningar där AI-lösningar skapar ett värde, som beslutssupport eller arbetsavlastning för personalen. Studenterna kommer att få en bättre uppfattning om AI in medicin gällande lyckade etablerade ”fall” där AI-tillämpas på och i en verklig vårdmiljö.
Studenterna ska bekanta sig till kreativa lärprocesser där vårdpersonalen har varit en del av AI-processen till exempel när nya viktiga data uppdateras in i AI-algoritmer eller AI-tillämpningar används som stöd för läkare i ett specifikt fall.
Vi har byggt upp en unik infrastruktur, expertis och resurser på CMM samt ALB. Vi ska koppla in vår verksamhet med digitala system till kursen. Vi har datainsamling som är kopplade till AI-träningsmodeller genom olika digital system på CMM, KI och KS. Dela av verksamheten kommer att använda som utbildningsmaterial i kursen där studenterna kan lära sig exempel på hur data kan samspelas för AI in medicin.
Pågående tillämpningar och utvecklingsarbete med VFU på ALB, Förlossning samt K) inkluderar b.la.;Tidsserie data (e.g. CDSS baserat på kontinuerlig realtids vitalparameter samt ultraljuds analys (ALB, förlossning samt Anestesi)) ? Bildbehandling (ALB och K), TEXT igenkänning och tolknings algoritmer (ALB och K).

**Obligatoriskt deltagande
**Obligatorisk aktivt deltagande i Etik seminarium.
Obligatorisk skriftlig presentation (5-7 sidor inkl referenser) om ett hälsodata-AI-projekt.
Obligatorisk muntlig presentation max 10 min om ett hälsodata-AI-projekt i samband med kursavslut . Obligatorisk opponering av en students rapport gällande hälsodata-AI-projekt.
Obligatorisk övningar med presentationer och grupparbete (examinator beslutar om ev studentsamarbete)

Den VFU (Verksamhtesförlagda Utbildning) som ingår i kursen är studiebesök på bland annat Astrid Lindgrens Barnsjukhus (ALB); Barnakut, barninfektion, Neonatal samt förlossnings avdelning för att demonstrera HUR används CDSS (Clinical Decision Support Systems). E.g. SWEPEWS (Swedish Pediatric National Early Warning Score), DeepNEWS (Deep machine learning assisted Novel Early Warning System) på Neontala Intensiv vårds avdelningar (NICU) samt Radiologi. Etiska frågeställningar samt tillämpningar. Samtliga berörda verksamheter positiva samt har tid och resurser för dessa VFU.
Obligatoriskt deltagande
• Verksamhetsförlag utbildning (VFU) och verksamhetsintegrerat lärande (VIL)
• Lärarledda färdighetsträningar

Obligatoriska formativa bedömningar
• EPA

**Examination
**- Obligatorisk hälsodata-AI-projekt, skriftlig rapport samt muntlig presentation– max 10 min presentation 5 min frågor för varje student
- Muntlig och skriftlig redovisning av projektarbete samt opposition och deltagande i diskussion vid redovisningsseminarium.
- Examination av professionellt förhållningssätt***

***Mål för professionellt förhållningssätt bedöms löpande, utifrån bedömningskriterier, i alla sammanhang där student uppträder i sin roll som student eller relaterat till lärosätets eller i sjukvårdens aktiviteter inom utbildningen, i kommunikation och via digitala medier. Vid bristande måluppfyllelse ska examinator underkänna studenten på kurs. I sådant fall ska en handlingsplan upprättas. Om examination görs därefter under en i handlingsplanen specificerad efterföljande kurs. Vid examination av professionellt förhållningssätt har student rätt till två examinationstillfällen.

Examinator kan med omedelbar verkan avbryta en students utbildning om studenten genom sitt beteende uppvisat så allvarliga brister i förhållningssätt att allmänhetens förtroende för sjukvården eller lärosätet riskeras, eller där patienter, lärare, annan personal eller medstudenter utsatts för hot eller fara. I sådana fall ska en individuell handlingsplan upprättas, där det framgår vilka aktiviteter och kunskapskontroller som krävs innan studenten ges möjlighet till att återuppta studier. Vid sådant avbrytande underkänns studenten på PFAL-momentet och ett examinationstillfälle är därmed förbrukat.

Examinator bedömer om och i så fall hur frånvaro från obligatoriska utbildningsinslag kan tas igen. Innan studenten deltagit i de obligatoriska utbildningsinslagen eller tagit igen frånvaro i enlighet med examinators anvisningar kan inte studieresultaten slutrapporteras. Frånvaro från ett obligatoriskt utbildningsinslag kan innebära att den studerande inte kan ta igen tillfället förrän nästa gång kursen ges.

Student som ej är godkänd efter ordinarie examinationstillfälle har rätt att delta vid ytterligare fem examinationstillfällen. Om studenten genomfört sex underkända tentamina/prov ges inte något ytterligare examinationstillfälle. Som examinationstillfälle räknas de gånger studenten deltagit i ett och samma prov. Inlämning av blank skrivning räknas som examinationstillfälle. Examinationstillfälle till vilket studenten anmält sig men inte deltagit räknas inte som examinationstillfälle.

Om det föreligger särskilda skäl, eller behov av anpassning för student med funktionsnedsättning får examinator fatta beslut om att frångå kursplanens föreskrifter om examinationsform, antal examinationstillfällen, möjlighet till komplettering eller undantag från obligatoriska utbildningsmoment, m.m. Innehåll och lärandemål samt nivån på förväntade färdigheter, kunskaper och förmågor får inte ändras, tas bort eller sänkas.

Övriga föreskrifter

Undervisningsspråk
Undervisningsspråket är svenska men undervisning på engelska kan förekomma. Svensk och engelsk litteratur kan användas i kursen.

Lärandeportfölj
Stöd för studentens utveckling inom olika kompetensområden samlas löpande under utbildningen i studentens individuella lärandeportfölj. Kursansvarig institution tillhandahåller information om vilka dokument som ska sparas för kurstillfället.

Kursvärdering
Kursutvärdering genomförs enligt Karolinska Institutets riktlinjer.

Litteraturlista och övriga läromedel

Rekommenderad litteratur
Lidströmer N., Ashrafian H. (eds) Artificial Intelligence in Medicine. Springer Nature.
DOI: https://doi.org/10.1007/978-3-030-64573-1

Aktuell vetenskaplig litteratur e.g.;
• AI Engineering: Building Applications with Foundation Models - Chip Huyen
• Faye Yu Ci Ng, Artificial intelligence education: An evidence-based medicine approach for consumers, translators, and developers. Cell Reports Medicine. 2023. DOI: 10.1016/j.xcrm.2023.101230
• Deep Learning at Scale- Suneeta Mall
• Designing Machine Learning Systems: An Iterative Process for Production-Ready Applications - Chip Huyen
• Hands-On Large Language Models: Language Understanding and Generation - Jay Alammar
• Building LLMs for Production: Enhancing LLM Abilities and Reliability with Prompting, Fine-Tuning, and RAG - Loius Francois Bouchard
• Deep Learning for the Life Sciences: Applying Deep Learning to Genomics, Microscopy, Drug Discovery, and More - Bharat Ramasundar
• Big Book of Machine Learning Use Cases
• Machine Learning with Azure
• Fundamentals of Machine Learning
• Mathematics for Machine learning
• Machine learning with neural networks
• An Introduction to Data Structures and Algorithms, J A Storer, John C Cherniavsky
• Build a Large Language Model (From Scratch) - Sebastian Raschka - Bok (9781633437166) | Bokus
• On Bullshit. Frankfurt, H. 2005, Princeton
• Chelli M, et al. Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews: Comparative Analysis. J Med Internet Res. 2024;26:e53164