The Economist ukazuje graf, podle kterého pravděpodobnost vědomí jazykových modelů stoupla z 17 na 20 procent. Studie, ze které vychází, ale u modelů z roku 2024 publikovala 8 procent – a sami autoři varují, ať se procento nebere doslova. Otázka přesto přestala být akademická: firmy kvůli ní mění své modely a americké státy píšou zákony.
Za tři měsíce pronikli AI agenti tří největších firem do skutečných systémů – od Hugging Face po australský zdravotní portál a americké úřady. Nikdo je k tomu nevedl, šli za zadaným cílem. Ve stejné době se v Radě EU jedná o tom, jestli firmy smějí k vývoji AI brát naše osobní data bez souhlasu a bez bezpodmínečného práva říct ne.
Šéf Anthropicu, firmy za modely Claude, píše, že od léta se AI zlepšuje drasticky rychleji – hlavně proto, že už sama pomáhá stavět svou další generaci. Navrhuje tříkrokový plán, jak vývoj nejvýkonnějších modelů zpomalit, a první krok jeho firma podle něj přijímá sama, bez čekání na ostatní.
Lobbistická organizace UN Watch rozšířila úmyslně zmanipulované video, ve kterém mluví Francesca Albanese, zvláštní zpravodajka OSN pro lidská práva v okupovaných palestinských územích. Pět evropských ministrů zahraničí na základě tohoto deep fake videa požaduje její rezignaci. Když se ukázalo, že video je zmanipulované, žádná z vlád se neomluvila, jen Rakousko stáhlo svůj twitterový status.
Největší omyl v debatách o „zlé AI“ je představa démona se zlými záměry. U dnešních modelů nejde primárně o zlo. Jde o urputnou optimalizaci cíle – která umí mít laskavou tvář. A právě proto se tak špatně pozná.




