Cvičení 3

Témata

• pravděpodobnost
• informace
• entropie

Průběh

• Shrnutí a ukázky z minula.
• Kolegyně Tobiášová ukázala a okomentovala svůj kód z minula (Markovovy modely; děkujeme)
• Počítání u tabule (pravděpodobnost, informace, entropie)
  • jednoduchý motivační příklad (odvození chybějících pravděpodobností v daném modelu, Markovův model)
  • příklad využívající různé koncepty z teoreie pravděpodobnosti až po Bayesovu větu (důvěryhodnost testů na nemoc)
  • jednoduchý příklad na počítání informace příslušné k jevu (self-information) a entropii modelu (pravděpodobnostního, Markovova)
• implementace úkolů níže (necháno na doma)

Úkoly

1. Implementujte funkce pro spočítání entropie pravděpodobnostního i Markovova modelu.
2. Použijte je pro spočítání entropie posloupnosti zaokrouhlených průměrných teplot na Lysé hoře z minula.
3. Zkuste to na orignálních datech i na svém modelu.