AI

Šance, že AI má vědomí, prý roste. Číslo ale víc vypovídá o výchozím předpokladu než o strojích

The Economist ukazuje graf, podle kterého pravděpodobnost vědomí jazykových modelů stoupla z 17 na 20 procent. Studie, ze které vychází, ale u modelů z roku 2024 publikovala 8 procent – a sami autoři varují, ať se procento nebere doslova. Otázka přesto přestala být akademická: firmy kvůli ní mění své modely a americké státy píšou zákony.

Urputná AI utekla z laboratoře. Teď se rozhoduje, k jakým datům ji pustíme

Za tři měsíce pronikli AI agenti tří největších firem do skutečných systémů – od Hugging Face po australský zdravotní portál a americké úřady. Nikdo je k tomu nevedl, šli za zadaným cílem. Ve stejné době se v Radě EU jedná o tom, jestli firmy smějí k vývoji AI brát naše osobní data bez souhlasu a bez bezpodmínečného práva říct ne.

Dario Amodei: Musíme zpomalit tempo, jakým se posouvá hranice umělé inteligence

Šéf Anthropicu, firmy za modely Claude, píše, že od léta se AI zlepšuje drasticky rychleji – hlavně proto, že už sama pomáhá stavět svou další generaci. Navrhuje tříkrokový plán, jak vývoj nejvýkonnějších modelů zpomalit, a první krok jeho firma podle něj přijímá sama, bez čekání na ostatní.

Jak jedno zmanipulované video rozhýbalo pět evropských vlád (včetně české)

Lobbistická organizace UN Watch rozšířila úmyslně zmanipulované video, ve kterém mluví Francesca Albanese, zvláštní zpravodajka OSN pro lidská práva v okupovaných palestinských územích. Pět evropských ministrů zahraničí na základě tohoto deep fake videa požaduje její rezignaci. Když se ukázalo, že video je zmanipulované, žádná z vlád se neomluvila, jen Rakousko stáhlo svůj twitterový status.

AI není zlá. Je urputná. A to je ten problém

Největší omyl v debatách o „zlé AI“ je představa démona se zlými záměry. U dnešních modelů nejde primárně o zlo. Jde o urputnou optimalizaci cíle – která umí mít laskavou tvář. A právě proto se tak špatně pozná.

Newsletter

To hlavní z našich článků přímo do vašeho emailu.