Detail předmětu
Praktické paralelní programování
FIT-PPPAk. rok: 2019/2020
Předmět pokrývá architekturu i programování distribuovaných paralelních systémů s funkčním a datovým paralelismem. Nejdříve je pojednáno o teorii paralelních systémů a paralelizaci programů. Následně je detailně rozebrána architektura současných superpočítačových systémů, topologií propojovacích síta směrovacích algoritmů. Dále jsou studovány paralelní a distribuované souborové systémy. Pokračuje výklad programování pro systémy se zasíláním zpráv ve standardizovaném rozhraní MPI. Následují ukázky základních profilovacích nástrojů pro paralelní aplikace a vyhodnocení získaných výkonnostních metrik. Předmět se dále věnuje základním programovým vzorům pro tvorbu paralelních aplikací a případovým studií z oblasti lineární algebry, řešení problémů popsaných parciálními diferenciálními rovnicemi, N-Body systémům, a Monte-Carlo metodám.
Jazyk výuky
Počet kreditů
Garant předmětu
Zajišťuje ústav
Výsledky učení předmětu
Znalost možností a omezení paralelního zpracování, schopnost odhadnout výkonnost paralelních aplikací. Jazyková výbava pro komunikaci a synchronizaci procesů/vláken. Kompetence v technických a programových prostředcích pro náročné vědecké výpočty a simulace.
Prerekvizity
Způsob a kritéria hodnocení
Podmínky zápočtu:
Získání 20 ze 40 bodů za projekty a půlsemestrální písemku.
Učební cíle
Vymezení kontrolované výuky a způsob jejího provádění a formy nahrazování zameškané výuky
- Zameškaná cvičení je možné nahradit v alternativní termín (pondělí nebo pátek)
- V poslední týdnu semestru budou probíhat náhradní civčení
Doporučená literatura
MPI Tutoriál: http://mpitutorial.com/
Zařazení předmětu ve studijních plánech
- Program IT-MGR-2 magisterský navazující
obor MBI , 0 ročník, letní semestr, povinně volitelný
obor MSK , 1 ročník, letní semestr, povinný
obor MMM , 0 ročník, letní semestr, volitelný
obor MBS , 0 ročník, letní semestr, volitelný
obor MPV , 1 ročník, letní semestr, povinný
obor MIS , 0 ročník, letní semestr, volitelný
obor MIN , 0 ročník, letní semestr, volitelný
obor MGM , 0 ročník, letní semestr, povinně volitelný - Program MITAI magisterský navazující
specializace NBIO , 0 ročník, letní semestr, povinný
specializace NHPC , 1 ročník, letní semestr, povinný
specializace NEMB , 2 ročník, letní semestr, povinný
specializace NSEN , 0 ročník, letní semestr, volitelný
specializace NVIZ , 0 ročník, letní semestr, volitelný
specializace NGRI , 0 ročník, letní semestr, volitelný
specializace NISD , 0 ročník, letní semestr, volitelný
specializace NSEC , 0 ročník, letní semestr, volitelný
specializace NCPS , 0 ročník, letní semestr, volitelný
specializace NNET , 0 ročník, letní semestr, volitelný
specializace NMAL , 0 ročník, letní semestr, volitelný
specializace NVER , 0 ročník, letní semestr, volitelný
specializace NIDE , 0 ročník, letní semestr, volitelný
specializace NSPE , 0 ročník, letní semestr, volitelný
specializace NADE , 0 ročník, letní semestr, volitelný
specializace NMAT , 0 ročník, letní semestr, volitelný
specializace NISY , 0 ročník, letní semestr, volitelný
Typ (způsob) výuky
Přednáška
Vyučující / Lektor
Osnova
- Ukazatele a zákony paralelního zpracování.
- Architektury se zasíláním zpráv, současné superpočítačové systémy.
- Topologie propojovacích sítí, směrovací algoritmy, přepínání, řízení toku.
- Technologie HPC sítí (Infiniband).
- Distribuované souborové systémy (Lustre, HPFS).
- Zasílání zpráv MPI, párové komunikace, datové typy.
- MPI kolektivní komunikace a komunikátory.
- Hybridní programování OpenMP/MPI a jednostranné komunikace.
- Knihovny pro paralelní výpočty, nástroje pro profilování a trasování aplikací.
- Programovací vzory pro paralelní programování.
- Případové studie: maticové výpočty, řešení systémů lin. rovnic (Gauss, Jordan, Jaccobi).
- Případové studie: řešení diferenciálních rovnic (FDTD, spektrální metody, FEM/BEM).
- Případové studie: Dynamika kapalin (Lattice-Boltzmann), N-Body simulace, Monte-Carlo.
Cvičení na počítači
Vyučující / Lektor
Osnova
- MPI: Point-to-point komunikace.
- MPI: Kolektivní komunikace.
- MPI: Komunikátory.
- MPI: Datové typy, redukce.
- MPI: Paralelní vstup výstup.
- Profilování a trasování paralelních aplikací.
- Maticové výpočty (Transpozice, Gaussova eliminace).
- Metody konečných diferencí
Projekt
Vyučující / Lektor
Osnova
- Vývoj paralelní program v MPI superpočítači.