KYBER a AI z pohledu prevence

krátký kurz pro rozvoj digitálních kompetencí

Hashtagy: #kyber

Typ vzdělávacího programu: Neakreditované akce (workshopy, konference, kulaté stoly…)

Anotace vzdělávacího programu:

Vzdělávací program seznamuje účastníky s vybranými riziky spojenými s umělou inteligencí (dále AI), především jejími generativními formami. Zaměřuje se na několik logicky propojených témat:  

1. Ochrana osobních údajů ve vztahu k AI (tj. co se děje s osobními údaji, když je zadáváme do AI, na co si dávat pozor při využívání AI).  
2. Halucinování AI (demonstrujeme na příkladech halucinování ChatGPT, Google AI overview a dalších technologií). Zaměřujeme se na nebezpečné rady spojené s výstupem AI. 
3. AI Bias (zkreslení demonstrujeme na systémech Midjourney, Stable Diffusion, ukazujeme příklady AI biasu v rámci generování obrázků s ohledem na historickou správnost.  
4. Etické limity AI a jejich obcházení (představujeme základní etické limity velkých jazykových modelů, ukazujeme si, jak je lze překonat a jak dokáže správný prompt proměnit AI v nebezpečný nástroj). 
5. Tvorba dezinformací, hoaxů, vyděračských dopisů (vše ukazujeme na příkladech) 
6. Klonování lidského hlasu s ukázkami a etickými problémy. 
7. Tvorba deep fake fotografií a videí (účastníci si zkusí vytvořit deep fake fotografii). 
8. Narušení soukromí s pomocí AI (retuše, deep nude aplikace s ukázkami). Kazuistika případů z českého i zahraničního prostředí. 

V průběhu webináře se bude lektor věnovat i didaktické transformaci témat spojených s generativní umělou inteligencí –⁠⁠⁠⁠⁠⁠ jak jednotlivá témata předávat žákům s ukázkou konkrétních nástrojů, které mohou s žáky v hodinách používat.