Procesory

Počítač vykonává program nad daty.

Program i data musí být někam uloženy, typicky do paměti.

Procesor je část, která instrukce načítá, dekóduje a provádí.

Moderní počítač je založen na myšlence uloženého programu.

Program lze změnit pouhou změnou obsahu paměti, přeprogramováním.

Tím se univerzální počítač liší od jednoúčelového automatu.

Program i data sdílejí jednu hlavní paměť.

Procesor používá společné cesty pro přístup k instrukcím i datům.

Jde o klasický model běžných počítačů.

Instrukce a data jsou odděleny.

Mohou mít oddělené paměti nebo alespoň oddělené cesty.

Často se používá u mikrokontrolérů a jednodušších vestavěných systémů.

Současný přístup k instrukcím i datům → rychlost.

Snadnější oddělení programu od zapisovatelných dat → bezpečnost.

Dobře se hodí pro specializovaná a úsporná zařízení → např. stačí malá paměť dat.

Většina dnešních CPU není čistě von Neumann ani čistě Harvard.

Časté je společné adresování paměti, ale oddělené instrukční a datové cache.

Mluví se proto i o modifikované Harvardské architektuře.

Řadič rozhoduje, co se má stát v dalším kroku.

ALU provádí celočíselné a logické operace.

FPU zpracovává operace s čísly v plovoucí řádové čárce.

Registry drží právě používané hodnoty.

Cache zrychluje práci s pamětí.

Řadič načítá instrukce, dekóduje je a vytváří řídicí signály.

Koordinuje přesuny dat mezi registry, cache, ALU a pamětí.

Aktivuje další jednotky, např. výpočetní (ALU).

Bez řadiče by jednotlivé části CPU nepracovaly ve správném pořadí.

Registry jsou nejrychlejší pamětí přímo uvnitř procesoru.

Nejjednoduší historická CPU měla jen malé jednotky registrů

Ukládají operandy, adresy, mezivýsledky a stavové informace.

Přístup do registru je výrazně rychlejší než přístup do operační paměti.

Běžné CPU je převážně synchronní systém řízený jedním nebo více hodinovými signály.

Hodiny určují okamžiky, kdy se mění stav sekvenčních obvodů v příslušné hodinové doméně → změna vnitřního stavu (ale i komunikace zvenku/ven) je synchronizovaná.

Latence (přibližně doba od započetí vykonávání jedné instrukce až po dostupnost jejího výsledku) může být několik taktů, ale pipeline a superskalární vykonávání umožňují současně zpracovávat více instrukcí.

Frekvence = Rychlost "tikání" systémových hodin = kolik taktů za sekundu.

Vyšší frekvence obvykle pomáhá výkonu, ale sama nestačí.

Dva procesory se stejným taktem mohou mít velmi rozdílný výkon.

Rozhodujícím faktorem rychlosti jsou zejména potřebný počet taktů na provedení instrukce a počet výpočetních toků, které procesor souběžně provádí.

Rozhodují i cache, pipeline, šířka vykonávání, predikce větvení a práce s pamětí.

Strojový program je řada instrukcí.

Instrukce určují, jakou operaci CPU provede a s jakými operandy.

Normální pořadí mohou měnit skoky, volání podprogramů a přerušení.

Vykonání jedné instrukce probíhá v několika krocích.

Tyto kroky se opakují znovu a znovu po celou dobu běhu programu.

Procesor přečte instrukci z adresy uložené v programovém čítači.

Instrukce bývá načtena z cache, případně z hlavní paměti.

Poté se čítač posune na další instrukci.

Určení operace: řadič zjistí, kterou operaci (případně i operace) instrukce nese.

Identifikace operandů: současně se zjišťuje, které registry nebo paměťové adresy budou potřeba.

Mikroinstrukce u CISC: u složitějších CPU typu CISC (Complex Instruction Set Computer/CPU) se instrukce může převést na jednodušší interní operace tvořené mikroinstrukcemi.

Operandy mohou být v registrech, v paměti nebo přímo v instrukci jako konstanta.

Přístup do registrů je rychlý.

Přístup do paměti je pomalejší, proto je důležitá cache.

V této fázi proběhne samotná operace.

Může jít o aritmetiku, logiku, přesun dat, skok nebo přístup do paměti.

Výsledek se připraví pro zápis do registru nebo paměti.

Výsledek se uloží tam, kam instrukce určuje.

Může jít o registr, paměť nebo aktualizaci stavových příznaků.

Tím se instrukční cyklus uzavírá.

ISA (Instruction Set Architecture) je rozhraní mezi hardwarem a softwarem.

Definuje, jak procesor vypadá z pohledu programátora a překladače.

Dvě různá CPU mohou mít stejnou ISA, ale odlišnou vnitřní realizaci.

sadu instrukcí,

formáty instrukcí,

registry a datové typy,

adresovací režimy,

práci s pamětí,

chování při přerušení a výjimkách.

Umožňuje kompatibilitu programů mezi různými procesory.

Překladače a operační systémy se opírají právě o ISA.

ISA odděluje software od detailů konkrétní mikroarchitektury.

Mikroarchitektura je konkrétní vnitřní realizace procesoru.

Dva procesory se stejnou ISA mohou mít jinou pipeline, cache, šířku vykonávání i spotřebu.

Výkon proto neurčuje jen ISA, ale i způsob realizace.

Jde o dva klasické přístupy k návrhu instrukční sady a procesoru.

V dnešní praxi se hranice mezi nimi částečně stírá.

Moderní procesory často kombinují myšlenky z obou světů.

Například x86 procesory interně převádějí složitější instrukce na jednodušší mikrooperace.

Prakticky je důležitější kompatibilita, výkon a spotřeba než čistá nálepka RISC nebo CISC.

Tato kapitola se věnuje procesorům určeným pro počítače: desktopy, notebooky, pracovní stanice a servery.

Mikrokontroléry a jednoduché vestavěné systémy používají zpravidla jiné, jednodušší instrukční sady; ty zde neprobíráme.

Dominantní ISA v osobních počítačích, pracovních stanicích a části serverů.

Navazuje na starší x86, ale dnes je běžná v 64bitové podobě.

Silnou stránkou je dlouhodobá zpětná kompatibilita.

široká softwarová kompatibilita,

silná pozice v desktopu a notebooku,

vyspělý ekosystém nástrojů a operačních systémů.

AArch64 je 64bitový vykonávací stav architektury Arm a používá instrukční sadu A64; ARM64 je běžné označení v operačních systémech a nástrojích.

AArch64 je součástí aplikačních architektur Armv8-A a Armv9-A.

Výrazná v mobilech, tabletech, vestavěných systémech a stále více i v noteboocích a serverech.

Typicky klade důraz na poměr výkonu a spotřeby.

telefony a tablety,

úsporné notebooky,

vestavěná zařízení,

servery zaměřené na efektivitu na watt.

Otevřený standard ISA, který lze používat bez licenčních poplatků.

Je zajímavá pro výuku, výzkum, vestavěná zařízení i nové komerční návrhy.

Výhodou je modularita tvořená základní instrukční sadou a standardizovanými rozšířeními.

Otevřená je specifikace ISA,

konkrétní procesorové implementace mohou být otevřené i proprietární.

Dobře se hodí pro akademické i průmyslové experimenty.

Není zatím tak rozšířený v osobních počítačích jako x86-64 nebo Arm/AArch64.

v dřívějších architekturách nebo v dnešních malých kontrolerech se používal jen jeden typ operačních pamětí

při vyšších frekvencích začíná brzdit CPU

vytváří se proto hierarchie paměti jako technika zvýšení výkonu

a optimalizace poměru cena/výkon

Cache je malá, ale rychlá paměť mezi CPU a hlavní pamětí.

Ukládá často používaná data a instrukce.

Cílem je snížit počet pomalých přístupů do větší RAM.

Programy často opakovaně používají stejná data nebo blízké adresy.

Toho využívá cache.

Proto může relativně malá cache výrazně pomoci výkonu.

Mnoho procesorů odděluje I-cache a D-cache, typicky na úrovni L1.

Instrukce a data se tak mohou číst paralelně.

Je to jeden z důvodů, proč moderní CPU připomínají modifikovanou Harvardskou architekturu.

Proudové zpracování

Zpracování instrukce se rozdělí do více fází.

Různé instrukce pak mohou být v různých fázích současně.

Tím roste propustnost procesoru.

Lepší využití jednotlivých částí CPU.

Vyšší počet dokončených instrukcí za jednotku času.

Zároveň ale přináší komplikace při skocích a závislostech mezi instrukcemi.

Branch Prediction

Procesor se snaží odhadnout výsledek podmíněného skoku dříve, než jej skutečně dopočítá.

Když odhad vyjde, pipeline se nemusí zbytečně zastavit.

Když nevyjde, část práce se zahodí.

Speculative Execution

CPU může začít provádět instrukce předem podle odhadu dalšího běhu programu.

Pokud byl odhad správný, ušetří se čas.

Pokud ne, výsledky se zahodí.

Mikroarchitektonické útoky mohou využívat vedlejší efekty spekulativního vykonávání a cache.

Mezi nejznámější patří třídy zranitelností Spectre a Meltdown.

Riziko se omezuje kombinací úprav hardwaru, firmwaru, operačního systému a překladačů; některá opatření mohou ovlivnit výkon.

Out-of-order Execution

Instrukce se nemusí interně provádět přesně v pořadí, v jakém jsou v programu.

CPU hledá operace, které mohou běžet dříve bez porušení správnosti.

Tím se lépe využijí výpočetní jednotky.

Register Renaming

Interně lze odstranit některé falešné závislosti mezi instrukcemi.

Procesor používá více fyzických registrů, než kolik jich vidí programátor.

To zlepšuje paralelismus uvnitř jádra.

Superscalar Processors

Jedno jádro může začít nebo dokončit více instrukcí během jednoho taktu.

Má k dispozici více paralelních vykonávacích jednotek.

Dnešní výkonná CPU jsou běžně superskalární.

Multi-core

Dnešní procesory obsahují více jader na jednom čipu.

Každé jádro může zpracovávat vlastní vlákno nebo proces.

Výkon pak roste hlavně tam, kde software umí využít paralelismus.

Některé prostředky jsou pro jádra samostatné, jiné sdílené.

Typicky má každé jádro vlastní registry a L1 cache.

Vyšší úrovně cache nebo paměťová propustnost mohou být sdílené.

Jedno fyzické jádro může obsluhovat více vláken.

Cílem je lépe využít jednotky, které by jinak část času čekaly.

Přínos závisí na typu zátěže a není stejný jako přidání dalšího fyzického jádra.

Hyper-Threading je obchodní označení technologie SMT společnosti Intel.

Jedna instrukce může provádět stejnou operaci nad více daty najednou.

To je užitečné pro multimédia, grafiku, šifrování, vědecké výpočty i AI.

Příklady jsou x86 rozšíření SSE, AVX a AVX-512, technologie Arm Neon a SVE/SVE2 nebo standardní vektorové rozšíření V architektury RISC-V.

Vedle klasických CPU se dnes používají i GPU, NPU nebo další akcelerátory.

CPU zůstává univerzální řídicí jednotkou.

Specializované úlohy je ale výhodné přesouvat na vhodnější hardware.

Hardwarové přerušení umožňuje CPU asynchronně reagovat na událost z periferie, časovače nebo jiného procesoru.

Procesor dočasně přeruší běžný kód a spustí obsluhu přerušení.

Po dokončení se vrátí k původní práci.

obsluha klávesnice, síťové karty nebo disku,

periodické časovače,

signalizace dokončení vstupní nebo výstupní operace,

meziprocesorová přerušení ve vícejádrových systémech.

Přerušení je zpravidla asynchronní vůči právě prováděné instrukci a obvykle přichází z hardwaru.

Výjimka je synchronní událost vyvolaná prováděnou instrukcí, například dělením nulou, výpadkem stránky nebo instrukcí systémového volání.

Oba mechanismy přesměrují řízení na příslušnou obsluhu, ale liší se zdrojem a okamžikem vzniku.

Procesory rozlišují běžný a privilegovaný režim.

Operační systém potřebuje větší oprávnění než běžná aplikace.

To je základ ochrany paměti a bezpečného běhu systému.

Moderní CPU spolupracují s operačním systémem na převodu virtuálních adres na fyzické.

Každý proces tak zpravidla dostává vlastní virtuální adresový prostor; vybrané oblasti mohou procesy záměrně sdílet.

Zvyšuje to bezpečnost i flexibilitu správy paměti.

Běžné moderní procesory obsahují integrovaný paměťový řadič.

Tím se zkracuje cesta do RAM a zlepšuje výkon.

Důležitá je také propustnost spojení mezi CPU, pamětí a dalšími zařízeními.

Výkon CPU je omezen i spotřebou a chlazením.

Vysoký takt bez odpovídajícího chlazení není udržitelný.

Proto se řeší řízení napětí, frekvence a vypínání nevyužitých částí.

U mobilních a serverových systémů je poměr výkonu a spotřeby klíčový.

Proto mají moderní procesory sofistikované režimy úspory energie.

Energetická efektivita je dnes stejně důležitá jako hrubý výkon.

V mnoha zařízeních není CPU samostatný čip, ale součást SoC.

SoC integruje CPU a další logiku do jednoho pouzdra nebo čipu.

To snižuje spotřebu, cenu i nároky na desku zařízení.

CPU jádra,

GPU,

řadiče pamětí,

síťová a multimediální rozhraní,

specializované akcelerátory.

Mikrokontrolér je velmi integrovaný procesorový systém pro řízení zařízení.

Často obsahuje CPU, paměť i periferní rozhraní na jednom čipu.

Hodí se pro senzory, regulaci, auta, spotřebiče nebo průmyslovou automatizaci.

CPU je univerzální a dobře zvládá různorodý kód.

GPU je vhodné pro masivně paralelní výpočty.

NPU nebo podobný akcelerátor cílí na úlohy strojového učení.

Současné superpočítače kombinují mnoho procesorů a akcelerátorů.

Výkon nevzniká jen silným jedním jádrem, ale rozsáhlým paralelismem.

Důležitá je i rychlá komunikace mezi uzly a efektivní chlazení.

Samotná frekvence nestačí.

Důležité jsou:

Samotný počet MHz nebo GHz už nevystihuje kvalitu procesoru.

Ani jednoduché srovnání počtu jader bez kontextu nestačí.

Procesory je nutné posuzovat podle typu úlohy, architektury a energetických limitů.