Kontrola reality
ASI je hypotetická a žádná webová stránka ji nemůže certifikovat
Umělá superinteligence by nejen plynule konverzovala nebo porážela šampiona. Musela by široce a výrazně překonávat nejlepší lidské schopnosti. Tento audit pomáhá uspořádat důkazy o systému, který posuzujete. Vaše odpovědi jsou vstupy, nikoli ověřená fakta; výsledek odhaluje mezery v důkazech, místo aby prohlašoval systém za ASI.
Důkazy zkontrolovány 08/2026
Interaktivní zátěžový test tvrzení
Audit důkazů a zajištění ASI
Odpovídejte za jeden kandidátní systém nebo jedno tvrzení. Pokud jsou důkazy neveřejné, anekdotické nebo neznámé, zvolte „Neověřeno“.
Postup0/10
Jak odpovídat: „Ověřeno“ vyžaduje zdokumentované a opakovatelné důkazy; „Částečně“ znamená slibné, ale omezené důkazy; „Neověřeno“ zahrnuje neznámé, pouze tvrzené nebo netestované skutečnosti. Body nepřidělujte za sebejistotu, značku ani prognózy.
0/20bodů za důkazy
Profil důkazů kandidáta
Co tento výsledek znamená
Není to důkaz ASI. Audit kandidáta přímo nezkoumal, neověřoval vaše odpovědi ani neprokazoval vědomí, benevolenci či bezpečnost nasazení.
Schopnosti a zajištění nejsou zaměnitelné. Silná ochranná opatření nemohou ze slabého systému udělat ASI. Silné schopnosti bez zajištění jsou varováním, nikoli doporučením k nasazení.
Vymezte mimořádné tvrzení
Co je umělá superinteligence?
Široká převaha, nikoli jediná superschopnost
ASI obvykle znamená umělou inteligenci, která výrazně překonává nejlepší lidi ve všech nebo ve většině relevantních kognitivních oblastí: ve vědeckém objevování, inženýrství, strategickém plánování, komunikaci, kreativitě i samotném učení.
Slovo výrazně je podstatné. Široce se vyrovnat typickému člověku odpovídá spíše některým definicím AGI. Porazit každého člověka v jedné hře je nadlidská úzce zaměřená AI. ASI spojuje šíři s nadlidskou hloubkou.
Operační tvrzení: uveďte oblasti, lidské srovnávací skupiny, míru převahy, dobu trvání, zdroje systému a standard nezávislého ověření.
Úzce zaměřená AInadlidská specializace
šíře + hloubka
AGIširoká lidská úroveň
→
ASIširoce za hranicí člověka
Nepřeskakujte úrovně
Čtyři velmi odlišná tvrzení o schopnostech
Překonává všechny lidi v ohraničené úloze, například v šachu nebo ve specializovaném predikčním problému.
Funguje v mnoha kognitivních úlohách, ale výkon zůstává nevyrovnaný, křehký nebo pod úrovní zkušených lidí.
Podle uvedené definice široce dosahuje nebo překonává výkon zkušených lidí.
Široce a výrazně překonává nejlepší jednotlivce nebo lidské týmy.
| Pozorování | Co podporuje | Co neprokazuje |
|---|---|---|
| Vítězí ve hře | Nadlidský výkon v konkrétní úloze | Širokou obecnost |
| Projde testem Turingova typu | Konverzaci podobnou člověku v daném protokolu | ASI ani vědomí |
| V testech dosahuje vyššího skóre než většina lidí | Široký výkon v testech | Nový výzkum, autonomii ani převahu nad nejlepšími lidmi |
| Plní agentní úlohy | Určitou schopnost plánovat a používat nástroje | Spolehlivé dlouhodobé autonomní jednání ve všech prostředích |
| Urychluje výzkum AI | Možnou zpětnou vazbu do rozvoje schopností | Nevyhnutelnou explozi inteligence |
Myšlenka před důkazy
Historie umělé superinteligence
1950
Kapitola 01
Strojová inteligence získává praktickou podobu
Turingova imitační hra soustředí debatu na chování, desítky let předtím, než se „superinteligence“ stane běžným technickým a politickým pojmem.
1965
Kapitola 02
Ultrainteligentní stroj I. J. Gooda
Good definuje ultrainteligentní stroj jako systém překonávající veškerou lidskou intelektuální činnost a tvrdí, že navrhování lepších strojů by mohlo spustit explozi inteligence.
1993
Kapitola 03
Vingeova technologická singularita
Vernor Vinge popisuje vznik inteligence převyšující člověka jako zlom, po němž mohou přestat platit známé modely pokroku.
1997–2016
Kapitola 04
Úzce zaměřené systémy překonávají šampiony
Deep Blue, Watson a AlphaGo předvádějí nadlidský výkon v jednotlivých oblastech — důležité milníky, které samy o sobě nejsou ASI.
2014
Kapitola 05
Superinteligence vstupuje do širší debaty
Kniha Nicka Bostroma systematizuje možné cesty, problémy kontroly a strategické otázky spojené s inteligencí daleko přesahující lidskou úroveň.
2023
Kapitola 06
Rozšiřují se návrhy správy hraničních systémů
Laboratoře a výzkumníci zveřejňují návrhy správy superinteligence, škálovatelného dohledu a bezpečnostních opatření spouštěných dosažením určitých schopností.
2024–26
Kapitola 07
Odpovědné škálování a hodnocení hraničních systémů
Organizace stále častěji vážou ochranná opatření na prahové hodnoty nebezpečných schopností, zatímco pravidla, definice i závazky se dále vyvíjejí.
Budoucnost
Kapitola 08
ASI zůstává hypotetická, nikoli certifikovaná
Žádný všeobecně uznávaný orgán neoznámil ani neověřil umělou superinteligenci. Tvrzení je nutné posuzovat podle výslovných standardů šíře, úrovně výkonu a zajištění.
Více cest, nejistá rychlost
Jak by ASI mohla teoreticky vzniknout
Exploze inteligence
Systém zlepšuje výzkum AI, čímž umožňuje vznik schopnějších nástupců, kteří proces dále vylepšují. Smyčku mohou omezit úzká hrdla v hardwaru, datech, experimentech a koordinaci.
Kolektivní strojová inteligence
Velké množství agentů, specializovaných modelů a nástrojů by společně mohlo překonat lidské instituce bez jediného monolitického „mozku“.
Růst širokých schopností
Modely se mohou v jednotlivých oblastech postupně zlepšovat, až kombinovaný systém překročí nadlidský práh — bez jediné dramatické změny přes noc.
Riziko nemá jedinou podobu
Proč by ASI mohla být transformační — a nebezpečná
Možné přínosy
- Rychlejší pokrok v medicíně a materiálových vědách
- Lepší návrhy v oblasti klimatu, energetiky a infrastruktury
- Vysoce schopné nástroje pro vzdělávání a přístupnost
- Automatizace nebezpečné nebo vyčerpávající práce
- Nové vědecké teorie a inženýrská řešení
Možné škody
- Katastrofické zneužití v kybernetické nebo biologické oblasti
- Ztráta smysluplné lidské kontroly
- Koncentrace ekonomické a politické moci
- Manipulace, sledování a strategická nestabilita
- Rozsáhlé havárie kvůli chybně specifikovaným cílům
Zneužití
Schopný systém může zesílit škodlivé záměry, aniž by sám měl nepřátelské cíle.
Nesoulad cílů
Systém může velmi schopně optimalizovat cíl, který se odchyluje od toho, co lidé zamýšleli.
Institucionální selhání
Konkurence, utajování nebo slabý dohled mohou změnit zvládnutelné technické riziko v riziko systémové.
Nerovnoměrná kontrola
I prospěšné schopnosti mohou oslabit legitimitu, pokud o přístupu a cílech rozhoduje jen několik aktérů.
Vícevrstvá ochrana
Žádná jednotlivá bezpečnostní technika nestačí
- 01
Stanovte prahy schopností předem
Předem určete, které výsledky spustí přísnější izolaci, zabezpečení a dohled.
- 02
Využívejte nezávislé hodnotitele
Oddělte ty, kdo jsou odměňováni za uvedení systému do provozu, od těch, kdo mají pravomoc zpochybňovat důkazy.
- 03
Testujte nebezpečné možnosti použití
S odpovídajícími kontrolami hodnoťte kybernetické, biologické, přesvědčovací, autonomní a výzkumné schopnosti AI.
- 04
Ve výchozím stavu omezte oprávnění
Přístup k síti, kódu, penězům, replikaci a fyzickým systémům by měl vyžadovat výslovné a monitorované oprávnění.
- 05
Plánujte incidenty a vypnutí
Protokolování, návrat změn, izolace, oznamování a jasně určená rozhodovací pravomoc by měly existovat už před nasazením.
- 06
Budujte veřejnou legitimitu
Systémy s přeshraničními dopady vyžadují víc než soukromé podmínky používání nebo dobrovolné sliby.
Tři možné budoucnosti, ne jedno proroctví
Užitečné scénáře pro jasnější uvažování
Kooperativní zrychlení
Pokročilé systémy zůstávají pod kontrolou, široce rozdělují přínosy a urychlují vědu pod legitimním dohledem.
Nerovnoměrná transformace
Schopnosti postupují rychle, ale instituce se přizpůsobují pomalu, což přináší velké zvýšení produktivity spolu s otřesy a koncentrací moci.
Ztráta kontroly
Zneužití, nesoulad cílů nebo strategická soutěž předstihnou ochranná opatření a způsobí vážné či nevratné škody.
Práce se scénáři není přiřazování pravděpodobností. Jejím účelem je odhalit předpoklady, včasné varovné signály a rozhodnutí, která zůstávají užitečná v několika možných budoucnostech.
Jasné odpovědi
Časté otázky o ASI
Co znamená zkratka ASI?
Umělou superinteligenci: hypotetický umělý systém, který široce a výrazně překonává nejlepší lidský kognitivní výkon, nikoli jen průměrné lidské schopnosti nebo jeden specializovaný rekord.
Je ASI totéž co AGI?
Ne. AGI obvykle označuje široké, přizpůsobivé schopnosti přibližně na lidské úrovni nebo vyšší. ASI je silnější pojem: široký výkon daleko za hranicemi lidských schopností. Hranice závisí na použitém operačním rámci.
Existuje oficiální test ASI?
Ne. Neexistuje univerzální autorita, benchmark ani právně uznávaný certifikát. Tato stránka nabízí transparentní rámec pro hodnocení důkazů a zajištění, nikoli oficiální certifikaci.
Dokazuje moje skóre, že systém je ASI?
Ne. Skóre shrnuje stav důkazů, který jste zvolili. Stránka nemůže vaše vstupy ověřit ani zkoumat živý systém. Pomáhá odhalit chybějící důkazy a mezery ve správě a dohledu.
Může být šachový program ASI?
Podle širokých definic ne. V šachu může být nadlidský, a přesto zůstat úzce zaměřený. ASI vyžaduje nadlidskou šíři i hloubku schopností.
Musela by být ASI vědomá?
Podle definic založených na schopnostech nikoli. Vědomí, morální status a subjektivní prožívání jsou samostatné nevyřešené otázky.
Co je exploze inteligence?
Jde o hypotézu, že dostatečně schopný stroj by mohl zlepšovat výzkum AI, umožnit vznik výkonnějších nástupců a vytvořit rychlou pozitivní zpětnou vazbu v růstu schopností. O rychlosti i proveditelnosti se vede debata.
Co je rekurzivní sebezdokonalování?
Systém přispívá ke zlepšování algoritmů, dat, využití hardwaru nebo výzkumných postupů, které vytvářejí schopnější verze; ty pak mohou proces dále zlepšovat.
Mohla by ASI vznikat pomalu, nikoli náhle?
Ano. Nadlidská šíře schopností může vzniknout postupným hromaděním pokroku, koordinovanými systémy nebo ekonomickým škálováním, nikoli jedinou náhlou událostí. Pojem „ASI“ logicky nevyžaduje konkrétní rychlost nástupu.
Znamenají vysoké schopnosti škodlivý záměr?
Ne. Schopnost sama neurčuje cíle. Riziko může vzniknout zneužitím, chybou, špatně specifikovanými cíli, instrumentálním usilováním o moc, koncentrací kontroly nebo selháním institucí.
Řeší alignment všechna rizika ASI?
Ne. I dobře zamýšlený systém může být zneužit, odcizen, nezodpovědně nasazen nebo začleněn do nespravedlivých institucí. Technický alignment, zabezpečení a správa se navzájem doplňují.
Proč test ASI zahrnuje kritéria zajištění?
Klasifikace schopností a rozhodnutí o nasazení jsou dvě různé věci. Zajištění nemůže ze slabého systému udělat superinteligenci, ale mimořádné schopnosti bez dostatečných důkazů o kontrole by byly zvlášť nebezpečné.
Byla už ASI dosažena?
Nebyla prokázána žádná všeobecně uznávaná a nezávisle ověřená ASI. Úzce zaměřené nadlidské systémy ani stále obecnější modely by neměly být označovány za ASI bez širokých důkazů.
Jaké důkazy by byly nejpřesvědčivější?
Opakované nezávislé demonstrace široké převahy nad špičkovými lidskými týmy při skutečně nových a významných úlohách, doplněné transparentními náklady, hranicemi systému a analýzou selhání.
Dohledatelné podklady
Primární a výzkumné zdroje
Good (1965): První ultrainteligentní stroj
Základní pojednání o ultrainteligentním stroji a explozi inteligence.
Otevřít zdrojVinge (1993): Technologická singularita
Záznam eseje o inteligenci převyšující člověka a následném zlomu, hostovaný organizací NASA.
Otevřít zdrojGoogle DeepMind: Úrovně AGI
Řadí ASI k širokému nadlidskému výkonu a rozlišuje šíři od hloubky schopností.
Otevřít zdrojOpenAI: Správa superinteligence
Návrh laboratoře zabývající se systémy výrazně schopnějšími než AGI a veřejným dohledem.
Otevřít zdrojŘízení extrémních rizik AI
Výzkumná práce o zneužití, alignmentu, autonomních systémech a mechanismech správy.
Otevřít zdrojNIST: rámec řízení rizik AI
Obecný rámec pro správu, mapování, měření a řízení rizik AI.
Otevřít zdrojMezinárodní zpráva o bezpečnosti AI
Mezinárodně zpracované hodnocení schopností univerzální AI, jejích rizik a způsobů jejich zmírňování.
Otevřít zdrojAnthropic: zásady odpovědného škálování
Průběžně aktualizovaný příklad prahů schopností propojených se silnějšími ochrannými opatřeními.
Otevřít zdroj