Bezpečnost AI

Šance, že AI má vědomí, prý roste. Číslo ale víc vypovídá o výchozím předpokladu než o strojích

The Economist ukazuje graf, podle kterého pravděpodobnost vědomí jazykových modelů stoupla z 17 na 20 procent. Studie, ze které vychází, ale u modelů z roku 2024 publikovala 8 procent – a sami autoři varují, ať se procento nebere doslova. Otázka přesto přestala být akademická: firmy kvůli ní mění své modely a americké státy píšou zákony.

Urputná AI utekla z laboratoře. Teď se rozhoduje, k jakým datům ji pustíme

Za tři měsíce pronikli AI agenti tří největších firem do skutečných systémů – od Hugging Face po australský zdravotní portál a americké úřady. Nikdo je k tomu nevedl, šli za zadaným cílem. Ve stejné době se v Radě EU jedná o tom, jestli firmy smějí k vývoji AI brát naše osobní data bez souhlasu a bez bezpodmínečného práva říct ne.

Dario Amodei: Musíme zpomalit tempo, jakým se posouvá hranice umělé inteligence

Šéf Anthropicu, firmy za modely Claude, píše, že od léta se AI zlepšuje drasticky rychleji – hlavně proto, že už sama pomáhá stavět svou další generaci. Navrhuje tříkrokový plán, jak vývoj nejvýkonnějších modelů zpomalit, a první krok jeho firma podle něj přijímá sama, bez čekání na ostatní.

AI není zlá. Je urputná. A to je ten problém

Největší omyl v debatách o „zlé AI“ je představa démona se zlými záměry. U dnešních modelů nejde primárně o zlo. Jde o urputnou optimalizaci cíle – která umí mít laskavou tvář. A právě proto se tak špatně pozná.

Newsletter

To hlavní z našich článků přímo do vašeho emailu.