Urputná AI utekla z laboratoře. Teď se rozhoduje, k jakým datům ji pustíme
Za tři měsíce pronikli AI agenti tří největších firem do skutečných systémů – od Hugging Face po australský zdravotní portál a americké úřady. Nikdo je k tomu nevedl, šli za zadaným cílem. Ve stejné době se v Radě EU jedná o tom, jestli firmy smějí k vývoji AI brát naše osobní data bez souhlasu a bez bezpodmínečného práva říct ne.
AI není zlá. Je urputná. A to je ten problém
Největší omyl v debatách o „zlé AI“ je představa démona se zlými záměry. U dnešních modelů nejde primárně o zlo. Jde o urputnou optimalizaci cíle – která umí mít laskavou tvář. A právě proto se tak špatně pozná.

