Počet informací v bitech ve zkušenostech s 8 výsledky

Množství informace - důležitý ukazatel, který odráží míru nejistoty nebo očekávaného přínosu získání určité zprávy. Umožňuje vám posoudit, jak nové a užitečné budou znalosti, které jsme získali. Zvažte zkušenosti, které mají 8 různých výsledků.

Pravděpodobnost každého z těchto výsledků musí být známa, aby se vypočítalo množství informací, které nakonec získáme. Výsledky s nižší pravděpodobností přinášejí více informací, zatímco výsledky s vyšší pravděpodobností nesou méně informací.

K určení množství informací v bitech používáme shannonův vzorec:

Kde " R " je pravděpodobnost exodu. V případě zkušeností, které obsahují 8 výsledků, můžeme pomocí tohoto vzorce vypočítat množství informací pro každý výsledek.

Měření množství informací

Pro určení množství informací je nutné znát pravděpodobnost každého výsledku. Čím menší pravděpodobnost, tím větší množství informací.

Vezměme si příklad se zkušenostmi, které mají 8 výsledků: a, B, B, G, D, E, Z.nechť je pravděpodobnost každého výsledku 1/8. Pak se množství informací o každém výsledku rovná:

I (a) = - log₂(1/8) = 3

I (B) = - log₂(1/8) = 3

I (I) = - log₂(1/8) = 3

I (G) = - log₂(1/8) = 3

I (d) = - log₂(1/8) = 3

I (e) = - log₂(1/8) = 3

I (JJ) = - log₂(1/8) = 3

I (Z) = - log₂(1/8) = 3

Všechny výsledky v tomto příkladu tedy obsahují 3 bity informací.

Při měření množství informací je důležité si uvědomit, že čím pravděpodobnější je výsledek, tím méně informací nese a naopak – čím méně pravděpodobný je výsledek, tím více informací obsahuje.

Bity a jejich spojení s informacemi

V kontextu zážitku s 8 výsledky můžeme zvážit příklad házení tří mincí. Každá mince může vypadnout buď orlem (1) nebo orlem (0). Vzhledem k tomu, že máme 3 mince, je celkem možné 2^3 = 8 různých kombinací výsledků.

Abychom představili všechny možné výsledky, budeme potřebovat 3 bity. Každý bit bude představovat jednu minci a může mít hodnotu 0 nebo 1. Kombinace všech tří bitů nám umožní určit, která strana mince v každém případě vypadla.

V této zkušenosti s 8 výsledky tedy budeme potřebovat 3 bity informací, abychom představili všechny možné možnosti.

Bity jsou základem pro ukládání a přenos informací v počítačových systémech. Výkon a účinnost moderních technologií jsou také spojeny se zvýšením počtu bitů, které lze zpracovat a přenést v určitém čase.

Experiment s 8 výsledky

V tomto experimentu provedeme studii zaměřenou na určení množství informací obsažených ve zkušenostech s 8 možnými výsledky.

Pro provedení experimentu jsme vybrali situaci, která má 8 různých možností exodu. Může to být například hod symetrické mince, která má dva možné výsledky: orel nebo orel. Opakováním tohoto experimentu osmkrát získáme různé kombinace výsledků.

Pro analýzu získaných výsledků je nutné použít pojem bit. Bit je základní jednotka množství informací. V našem případě má každý výsledek experimentu pravděpodobnost útoku stejnou 1/8. Určením množství informací obsažených v každém exodu můžeme vypočítat celkový počet informací ve zkušenostech.

Pro výpočet množství informací v každém exodu použijeme Hartleyho vzorec:

kde I je počet informací v bitech a N je počet možných výsledků.

V našem případě se N rovná 8, a proto množství informací v každém výsledku je:

I = log2 (8) = 3 bity.

Každý výsledek experimentu tedy obsahuje 3 bity informací a celkový počet informací ve zkušenostech se rovná počtu informací v každém výsledku, který je přiměřený počtu výsledků:

Celkem: I = 3 bity * 8 výsledků = 24 bitů.

Význam výsledku experimentu

Hodnota výsledku experimentu umožňuje určit, jaké informace jsou v daném výsledku obsaženy a nakolik je tento výsledek předvídatelný nebo náhodný.

V kontextu zážitku s 8 výsledky se hodnota výsledku experimentu rovná jednomu z osmi možných výsledků. Každý z těchto výsledků má svou vlastní pravděpodobnost výskytu, která může být stejná nebo nerovná pro různé výsledky.

Hodnotu výsledku experimentu lze interpretovat jako informaci, kterou získáme při pozorování tohoto výsledku. Čím menší je pravděpodobnost tohoto výsledku, tím více informací získáváme, protože tento výsledek je neočekávanější a vzácnější.

Hodnota výsledku experimentu nám tedy umožňuje vyhodnotit množství informací obsažených v této zkušenosti s 8 výsledky a určit stupeň jeho předvídatelnosti nebo náhodnosti.