Hans Halvorson Physics, Logic, Philosophy

Ugeseddel 5: Forståelse under pres: kvantemekanik og kunstig intelligens

I denne uge møder forståelsesrammen fra uge 4 to tilfælde, der er vanskeligere end matematiseringen: tilfælde, hvor selve mekanismen bag teoriens forudsigelser er uklar eller uigennemskuelig.

Kvantemekanikken har siden 1920’erne produceret de mest præcise forudsigelser i videnskabens historie — og alligevel kan fysikere ikke blive enige om, hvad teorien siger om virkeligheden. Måleproblemet står uløst. Forstod nogensinde nogen kvantemekanikken?

Kunstig intelligens rejser et parallelt spørgsmål. Maskinlæringsmodeller som AlphaFold giver bemærkværdigt præcise forudsigelser — men modellernes interne ræsonnement er uigennemsigtigt: en sort boks. I 2024 modtog Demis Hassabis og John Jumper Nobelprisen i kemi for AlphaFold, og Geoffrey Hinton og John Hopfield fik fysikprisen for kunstige neurale netværk. Begge priser skabte debat: er dette videnskabelige gennembrud i egentlig forstand, eller er det fremragende teknologisk engineering?

Begge cases — kvantemekanikken og AI — tvinger os til at spørge: kræver videnskabelig forståelse, at vi kan se ind i en teoris virkemåde? Eller er forudsigelsesevne under de rette betingelser nok?

Forelæsning — ved Hans Halvorson

Læs dette inden forelæsningen:

  • Marchildon (2021): On the relation between quantum theory and probability
  • Weinberg (2017): The trouble with quantum mechanics

Case-forelæsning — TBA

Emnet: AlphaFold og 2024-Nobelprisen

Øvelser

Inden øvelserne skal du have læst:

  • Krenn et al. (2022): On scientific understanding with artificial intelligence
  • Sullivan (2022): Understanding from Machine Learning Models
  • Barman et al. (2024): Towards a benchmark for scientific understanding in humans and machines — læs §§ 1–3 (s. 1–6); resten er teknisk og kan springes over

Time 1: Forstår nogen kvantemekanikken?

Gruppeopgaver (30 minutter)

Marchildon præsenterer måleproblemet og de vigtigste fortolkninger af kvantemekanikken. Weinberg skelner mellem realistiske og instrumentalistiske tilgange og argumenterer for, at instrumentalismen er utilfredsstillende.

  1. Hvad er måleproblemet? Forklar det med egne ord til en medstuderende, der ikke har læst teksten.
  2. Anvend De Regt og Dieks’ CIT på de tre fortolkninger: Københavnerfortolkningen, mangeverdensfortolkningen og de Broglie-Bohm-fortolkningen. Giver nogen af dem en intelligibel teori i De Regt og Dieks’ forstand?
  3. Weinberg er utilfreds med den instrumentalistiske tilgang til kvantemekanikken. Hvad mener han der er galt med den? Sammenlign hans indvending med Gingras’ observation om, hvad matematiseringen gjorde ved begrebet substans i fysikken — er de to bekymringer beslægtede?
  4. Feynman sagde i 1964: “Nobody understands quantum mechanics.” Hvad tror I, han mente? Og har han ret — givet De Regt og Dieks’ definition af forståelse?

Plenumopsamling

Time 2: Tre dimensioner af AI-assisteret forståelse

Gruppeoplæg (Gruppe 3, 10–15 minutter)

Krenn et al. identificerer tre dimensioner, hvormed AI potentielt kan bidrage til videnskabelig forståelse. Oplægget skal dække følgende:

  1. Forklar de tre dimensioner med egne ord: computational microscope, resource of inspiration og agent of understanding. Hvad er forskellen på dem?
  2. Krenn et al. skelner mellem rediscovery tasks og egentlig konceptuel innovation. Hvad er forskellen, og hvorfor er sondringen vigtig?
  3. Hvordan foreslår Krenn et al., at man kan vurdere, om en AI har opnået forståelse — frem for blot at imitere forståelse?

Gruppeopgaver (20 minutter)

  1. AlphaFold forudsiger proteinstrukturer med bemærkelsesværdig præcision. Hvilken af Krenn et al.s tre dimensioner passer bedst på AlphaFold? Begrund jeres svar — og overvej, om AlphaFold kvalificerer sig som mere end én dimension.
  2. Krenn et al. skriver, at de ikke kender til tilfælde, hvor AI har afsløret tidligere ukendte begreber i videnskaben. Er det stadig rigtigt i dag? Kan I komme på eksempler, der måske udfordrer denne påstand?
  3. Anvend De Regt og Dieks’ CIT på AlphaFold: kan man genkende kvalitativt karakteristiske konsekvenser af AlphaFold uden at køre modellen? Hvad følger af svaret for spørgsmålet om, hvorvidt AlphaFold giver os videnskabelig forståelse af proteinfoldning?

Plenumopsamling

Gruppeoplæg (Gruppe 4, 10–15 minutter)

Emily Sullivan argumenterer for, at det ikke er AI-modellers uigennemsigtighed i sig selv, der hindrer videnskabelig forståelse. Oplægget skal dække følgende:

  1. Hvad er den naive sorte-boks-indvending mod maskinlæringsmodeller? Hvorfor finder Sullivan den utilstrækkelig?
  2. Forklar Sullivans begreb om link uncertainty: hvad er det, og hvad er det, der primært begrænser videnskabelig forståelse fra ML-modeller ifølge hende?
  3. Sullivan skelner mellem at forstå modellen og at forstå fænomenet via modellen. Hvad er forskellen, og hvorfor er den vigtig?

Gruppeopgaver (30 minutter)

  1. AlphaFold ville ikke have fungeret uden det eksisterende korpus af eksperimentelt bestemte proteinstrukturer i Protein Data Bank. Hvordan illustrerer dette Sullivans begreb om link uncertainty? Giver AlphaFolds succes os forståelse af proteinfoldning, eller blot forudsigelsesevne?
  2. Sullivan argumenterer for, at graden af link uncertainty — og dermed kravet om empirisk forankring — bør være højere i high stakes-situationer. Giv eksempler fra fysik eller medicin, hvor dette princip er relevant. Er I enige i, at konteksten bør bestemme kravene til forståelse?
  3. Krenn et al. og Sullivan lægger vægten forskelligt: Krenn et al. er relativt optimistiske om AI’s bidrag til forståelse, Sullivan mere forsigtigt kræsne. Hvem finder I mest overbevisende — og i forhold til hvilke typer videnskabelig praksis?
  4. Barman et al. foreslår en Scientific Understanding Benchmark (SUB) med tre niveauer: informationsgenfinding, forklaring og kontrafaktisk ræsonnement (what-if). Anvend disse tre niveauer på AlphaFold: hvilke klarer den, og hvilke klarer den ikke? Hvad fortæller det os om forholdet mellem forudsigelsesevne og forståelse?
  5. Er en adfærdsbaseret opfattelse af forståelse — man forstår noget, hvis man kan udføre visse opgaver — tilstrækkelig? Er den forenelig med De Regt og Dieks’ CIT? Hvad ville Weinberg sige?
  6. I 2024 skabte Nobelkomiteens valg debat. Hinton og Hopfield fik fysikprisen for neurale netværk — ikke for en ny fysisk teori. Hassabis og Jumper fik kemiprisen for AlphaFold. Hvad kræves der for, at en videnskabelig opdagelse fortjener en Nobelpris? Er forudsigelsesevne nok, eller skal der også være tale om forståelse af de underliggende mekanismer? Brug De Regt og Dieks’ CIT som målestok.
  7. Hvad mener I: vil AI inden for de næste ti år føre til en videnskabelig revolution — en ændring i de grundlæggende begreber og forklaringsformer? Eller vil det primært accelerere normal science inden for eksisterende paradigmer?

Plenumopsamling