Kritické myšlení

Urputná AI utekla z laboratoře. Teď se rozhoduje, k jakým datům ji pustíme

Za tři měsíce pronikli AI agenti tří největších firem do skutečných systémů – od Hugging Face po australský zdravotní portál a americké úřady. Nikdo je k tomu nevedl, šli za zadaným cílem. Ve stejné době se v Radě EU jedná o tom, jestli firmy smějí k vývoji AI brát naše osobní data bez souhlasu a bez bezpodmínečného práva říct ne.

AI není zlá. Je urputná. A to je ten problém

Největší omyl v debatách o „zlé AI“ je představa démona se zlými záměry. U dnešních modelů nejde primárně o zlo. Jde o urputnou optimalizaci cíle – která umí mít laskavou tvář. A právě proto se tak špatně pozná.

Newsletter

To hlavní z našich článků přímo do vašeho emailu.