Co je to umělá inteligence?
Umělá inteligence je funkce, kterou získávají nové technologie a která umožňuje zařízení nebo médiu (počítači, stroji, mobilu, automobilu, aplikaci, chytrému reproduktoru, webu atd.) plynule komunikovat s člověkem. Odpovídat na otázky, vést konverzaci nebo řešit problémy s úrovní porozumění, která je stejná nebo dokonce vyšší než u lidského mozku.
Jsou s používáním umělé inteligence spojeny kybernetické útoky?
Bohužel ano. Například nejpoužívanější technologií AI je dnes ChatGPT, která má 400 milionů aktivních uživatelů měsíčně po celém světě (o 120 milionů více než v roce 2024). Pro kyberzločince je to tedy „nové moře plné ryb“. A to proto, že nNe všechny programy a aplikace s těmito funkcemi jsou stejně bezpečné. Zranitelnosti již byly zjištěny například v počítačových asistentech do auta, chytrých reproduktorech typu Alexa a dokonce i v samotném ChatGPT nebo podobných vyhledávačích (např. Copilot od Microsoftu).
Jaká opatření bychom měli přijmout?
Zejména pokud tyto technologie používáme nejen na osobní, ale i na profesionální úrovni, je třeba vzít v úvahu následující skutečnosti:
- Zlaté pravidlo: buďte obezřetní a ptejte se odborníků. To znamená, že v osobní rov ině bychom si měli dávat pozor na to, co používáme a stahujeme, a v případě pochybností je vhodnější požádat o radu osobu s technickým profilem. Pokud však chceme na pracovišti používat technologii umělé inteligence, protože nám pomáhá být efektivnější nebo zlepšuje kvalitu naší práce, musíme nejprve požádat o povolení svého nadřízeného a oddělení IT. Pokud bychom jej používali, aniž bychom o tom interně informovali, nesli bychom v případě kybernetického útoku jako uživatelé přímou odpovědnost za tento incident a případný únik informací.
- Tyto technologie zaznamenávají a ukládají přepisy vašich rozhovorů. V zásadách ochrany osobních údajů nebo v podmínkách používání technologie je velmi často uvedeno, že technologie může shromažďovat informace z našich zpráv, souborů a komentářů, které sdílíme. Kromě toho mohou konverzace přezkoumávat koučové s umělou inteligencí, aby mohli chat rozvíjet a systém vylepšovat. Osobní nebo firemní údaje, které zadáváme , jsou tedy nejen ohroženy, ale také využity ve prospěch společnosti, která za nimi stojí. Vzniká tak trestuhodné riziko kybernetické bezpečnosti a ochrany soukromí, a to jak pro uživatele, který je zadává, tak pro společnost, které patří.
- Falešné webové stránky a aplikace umělé inteligence. Na základě popularity služby ChatGPT byly vytvořeny neoficiální stránky a aplikace, které na základě shromážděných informací distribuují škodlivý software (malware) nebo provádějí kybernetické útoky. Za poslední rok bylo odhaleno již více než 90 škodlivých aplikací s falešnou umělou inteligencí. Proto mohou některé odpovědi, které nám umělá inteligence poskytne, ať už jsou legální, nebo ne, obsahovat odkazy, které nás přesměrují na tyto falešné webové stránky nebo aplikace (phishing/pharming), protože původní umělá inteligence neověřuje, zda jsou, ale prostě je najde na internetu a předá nám je v reakci na náš požadavek.
- Vždy si vyžádejte zdroje, abyste si informace ověřili. V informacích poskytnutých posouzením dopadů není uveden zdroj, z něhož byly získány, takže pravdivost a přesnost informací může být nepravdivá nebo neúplná. Abychom tomu předešli, můžeme klást otázky, které vyžadují zdroje, nebo je formulovat tak, aby museli poskytnout delší odpovědi, aby měli více podkladových informací, a zabráníme jim ve vymýšlení textu.
- Dbejte na autorská práva k informacím, které vám chatbot poskytuje.
Odpovědi generované umělou inteligencí nejsou chráněny autorským zákonem, takže je můžete volně používat bez nutnosti žádat o povolení nebo získání licence. V těchto případech je důležité získat povolení nebo licenci k použití obsahu určitým způsobem, aby nedošlo k porušení práv duševního vlastnictví jiných osob.
DŮLEŽITÉ UPOZORNĚNÍ: Pokud se i při dodržování všech těchto opatření setkáte se situacemi, které neodpovídají požadované úrovni bezpečnosti nebo úrovni stanovené v interních zásadách, neváhejte informovat svého přímého nadřízeného, bezpečnostního pracovníka CISO a oddělení IT, aby vám mohli vhodně poradit. A na osobní úrovni nahlásí kybernetický útok policejnímu orgánu.
*Datum odeslání: 21. dubna 2025