En stor del av dette faget går ut på numerisk integrasjon av (løsning av) ordinære differensialligninger på formen x'(t) = f(x,t), hvor x kan være en vektor. Det blir sett på både implisitte og eksplisitte metoder for dette, og Runge-Kutta-metoder spiller en viktig rolle. (Eulers metode kan sees på som den enkleste av RK-metodene). I prosjektoppgaven blir man gjerne gitt én slik metode, og man skal gjennomføre nærmere analyse på denne. Man skal også implementere den i Matlab, og anvende den på ett eller annet reellt problem. Senere i faget ser man på forskjellige metoder for numerisk derivasjon og integrasjon, lokalisering av nullpunkter i funksjoner (Newtons metode er et enkelt eksempel), og tilnærming av funksjoner med polynomer. Det blir lagt vekt på feilanalyse og konvergensorden av metodene (hvor fort den numeriske løsningen går mot den analytiske når oppløsningen/steglengden går mot 0). Faget er viktig fordi det nesten alltid i praktiske sammenhenger oppstår problemer hvor det er vanskelig eller umulig å finne en eksakt løsning.

---IKKE FERDIG, HOLDER PÅ Å OPPDATERE KURSBESKRIVELSE---

Faget er delt opp i 6 moduler/temaer. Først ser man på ortogonale polynomer og bruksområder av disse (f.eks Fourierkoeffisienter og Chebyshevpolynomer). Dette utgjør en liten del av faget, men bygger opp for senere teknikker. Faget går så innom numerisk lineær algebra, der man lærer om direkte og iterative metoder for å løse et lineært likningssett. Nøkkelord er LU-, QR-, og Choleksydekomponering, samt Richardson iterasjoner (spesifikt Jacobi og Gauss-Seidel). Så påfølger en større del av faget: ikkelineære systemer og optimering. I denne modulen lærer man om optimeringsalgoritmer for flerdimensjonale systemer. Viktigst er gradient descent, conjugate gradient, Broydens metode og sterke Wolfe betingelser.