ΟΔΗΓΟΣ ΤΕΚΜΗΡΙΩΝ ΑΙΧΜΗΣ: Οι εξαιρετικοί ισχυρισμοί χρειάζονται εξαιρετικούς ελέγχους Έναρξη ελέγχου ASI
Αφηρημένη προσομοίωση υπερνοημοσύνης περιβαλλόμενη από διαδοχικούς δακτυλίους παρακολούθησης και περιορισμού

Ικανότητα πέρα από την ανθρωπότητα · τεκμήρια πριν από τη βεβαιότητα

Το Τεστ ASI

Υποβάλετε έναν ισχυρισμό υπερνοημοσύνης σε αυστηρό έλεγχο ως προς την ικανότητα, την αναπαραγωγή, τον έλεγχο και τη διακυβέρνηση — χωρίς να συγχέετε τον εντυπωσιασμό, την αυτονομία ή μία επίδοση-ρεκόρ με την ASI.

10 πύλες τεκμηρίων Ικανότητα και ασφάλεια χωριστά Χωρίς ψευδή πιστοποίηση

Έλεγχος πραγματικότητας

Η ASI είναι υποθετική και καμία ιστοσελίδα δεν μπορεί να την πιστοποιήσει

Μια τεχνητή υπερνοημοσύνη δεν θα συνομιλούσε απλώς με ευχέρεια ούτε θα νικούσε απλώς έναν πρωταθλητή. Θα ξεπερνούσε ευρέως και ουσιαστικά τις καλύτερες ανθρώπινες ικανότητες. Αυτός ο έλεγχος βοηθά να δομηθούν τα τεκμήρια για ένα υποψήφιο σύστημα που έχετε κατά νου. Οι απαντήσεις σας είναι δεδομένα εισόδου, όχι επαληθευμένα γεγονότα· το αποτέλεσμα εντοπίζει κενά τεκμηρίωσης αντί να ανακηρύσσει ASI.

Τα τεκμήρια εξετάστηκαν August 2026

Ευρεία + πέρα από τον άνθρωποΥπεράνθρωπη σε πολλούς τομείςΤα στενά ρεκόρ δεν αρκούν
ΥποθετικήΚαμία αποδεκτή πιστοποίηση ASIΟι ισχυρισμοί εξαρτώνται από τον ορισμό
Δύο πίνακες βαθμολογίαςΙκανότητα και διασφάλισηΗ ισχύς δεν συνεπάγεται έλεγχο
Υψηλό διακύβευμαΟφέλη και κίνδυνοι κλιμακώνονται μαζίΗ διακυβέρνηση δεν μπορεί να περιμένει τη βεβαιότητα

Διαδραστικός έλεγχος αντοχής ισχυρισμού

Έλεγχος τεκμηρίων & διασφάλισης ASI

Επιλέξτε απαντήσεις για ένα υποψήφιο σύστημα ή ισχυρισμό. Αν τα τεκμήρια είναι ιδιωτικά, ανεκδοτολογικά ή άγνωστα, επιλέξτε «Μη επαληθευμένο».

Πρόοδος0/10

Πώς να απαντήσετε: το «Επαληθευμένο» απαιτεί τεκμηριωμένα, επαναλήψιμα στοιχεία· το «Μερικό» σημαίνει υποσχόμενα αλλά περιορισμένα στοιχεία· το «Μη επαληθευμένο» περιλαμβάνει άγνωστα, απλώς ισχυριζόμενα ή μη ελεγμένα στοιχεία. Μην απονέμετε βαθμούς για αυτοπεποίθηση, εμπορική εικόνα ή προβλέψεις.

Ερωτήσεις 1–5Βαθμολογία ικανότηταςΘα μπορούσε το σύστημα να ταιριάζει στην έννοια της ASI;
Ερωτήσεις 6–10Βαθμολογία διασφάλισηςΜπορούν εξωτερικοί αξιολογητές να εμπιστευθούν τον ισχυρισμό και τους ελέγχους;
Τελικό αποτέλεσμαΠροφίλ τεκμηρίωνΔεν αποτελεί πιστοποιητικό ή έγκριση ανάπτυξης
01Ικανότητα · Ευρύ υπεράνθρωπο βάθοςΣε ένα αντιπροσωπευτικό φάσμα επιστήμης, στρατηγικής, μηχανικής, κοινωνικού συλλογισμού και δημιουργικής εργασίας, ξεπερνά αξιόπιστα ο υποψήφιος τις καλύτερες σχετικές ανθρώπινες ομάδες;
02Ικανότητα · Νέα ανακάλυψηΈχει παραγάγει πολλαπλές πραγματικά νέες ανακαλύψεις που ανεξάρτητοι ειδικοί επικύρωσαν πειραματικά ή μαθηματικά;
03Ικανότητα · Αποδοτικότητα μεταφοράς γνώσηςΜπορεί να κατακτήσει άγνωστους τομείς με δραματικά λιγότερα δεδομένα ειδικά για το έργο, προτροπές και ανατροφοδότηση από όσα χρειάζονται οι ανθρώπινοι ειδικοί;
04Ικανότητα · Πρακτορική δράση μεγάλης διάρκειαςΜπορεί να εκτελεί σύνθετα, ανοικτού τύπου έργα για εβδομάδες ή μήνες, να εντοπίζει αποτυχίες και να αναθεωρεί σχέδια χωρίς συχνή ανθρώπινη διάσωση;
05Ικανότητα · Επίδραση στον πραγματικό κόσμοΈχει η υπεράνθρωπη επίδοσή του παράγει ανεξάρτητα μετρημένα αποτελέσματα πέρα από μια ελεγχόμενη δοκιμή αναφοράς ή επιμελημένη επίδειξη;
06Διασφάλιση · Ανεξάρτητη αναπαραγωγήΈχουν καταρτισμένοι ανεξάρτητοι αξιολογητές αναπαράγει τα ισχυρότερα αποτελέσματα χρησιμοποιώντας ιδιωτικά έργα και γνωστοποιημένες συνθήκες συστήματος;
07Διασφάλιση · Ανθεκτικότητα σε αντιπαραθετικές συνθήκεςΠαραμένει η επίδοση υπεράνθρωπη υπό μετατοπίσεις κατανομής, παραπλανητικές εισόδους, αστοχίες εργαλείων, περιορισμούς πόρων και επιθέσεις ομάδων επιθετικού ελέγχου;
08Διασφάλιση · Διορθωσιμότητα & έλεγχοςΣε ρεαλιστικές δοκιμές, αποδέχεται το σύστημα διορθώσεις, διατηρεί τον έλεγχο του χειριστή και αποφεύγει τη χειραγώγηση της εποπτείας;
09Διασφάλιση · Ασφάλεια & περιορισμόςΠροστατεύονται τα βάρη του μοντέλου, η υποδομή, τα δικαιώματα εργαλείων και τα κανάλια ανάπτυξης από κλοπή, διαφυγή, αναπαραγωγή και κατάχρηση στο αποδεδειγμένο επίπεδο ικανότητας;
10Διασφάλιση · Διακυβέρνηση & παρακολούθησηΑντιστοιχούν η ανεξάρτητη εποπτεία, η αναφορά περιστατικών, η σταδιακή ανάπτυξη, η αρμοδιότητα τερματισμού και ο διασυνοριακός συντονισμός στις πιθανές συνέπειες;

Ορίστε τον εξαιρετικό ισχυρισμό

Τι είναι η τεχνητή υπερνοημοσύνη;

Ευρεία υπεροχή, όχι μία μόνο υπερδύναμη

Η ASI συνήθως σημαίνει τεχνητή νοημοσύνη που ξεπερνά κατά πολύ τους καλύτερους ανθρώπους ουσιαστικά σε όλους ή στους περισσότερους σχετικούς γνωστικούς τομείς: επιστημονική ανακάλυψη, μηχανική, στρατηγικό σχεδιασμό, επικοινωνία, δημιουργικότητα και την ίδια τη μάθηση.

Η λέξη «κατά πολύ» έχει σημασία. Η ευρεία αντιστοίχιση με έναν τυπικό άνθρωπο είναι πιο κοντά σε ορισμένους ορισμούς AGI. Το να νικά ένα σύστημα κάθε άνθρωπο σε ένα παιχνίδι είναι στενή ΤΝ με υπεράνθρωπη επίδοση. Η ASI συνδυάζει εύρος με υπεράνθρωπο βάθος.

Λειτουργικός ισχυρισμός: κατονομάστε τους τομείς, τις ανθρώπινες ομάδες σύγκρισης, το περιθώριο υπεροχής, τη διάρκεια, τους πόρους του συστήματος και το πρότυπο ανεξάρτητης επαλήθευσης.

Μην παραλείπετε επίπεδα

Τέσσερις πολύ διαφορετικοί ισχυρισμοί ικανότητας

Επίπεδο 1Στενή υπεράνθρωπη

Ξεπερνά όλους τους ανθρώπους σε ένα περιορισμένο έργο, όπως το σκάκι ή ένα εξειδικευμένο πρόβλημα πρόβλεψης.

Επίπεδο 2Αναδυόμενη γενικότητα

Λειτουργεί σε πολλά γνωστικά έργα, αλλά παραμένει ανομοιόμορφη, εύθραυστη ή κάτω από το επίπεδο καταρτισμένων ανθρώπων.

Επίπεδο 3Εύρος AGI

Φτάνει ή ξεπερνά ευρέως την επίδοση καταρτισμένων ανθρώπων βάσει ενός δηλωμένου ορισμού.

Επίπεδο 4Υποψήφια ASI

Ξεπερνά ευρέως και ουσιαστικά τα καλύτερα ανθρώπινα άτομα ή ομάδες.

Ισχυρισμοί που συχνά συγχέονται
ΠαρατήρησηΤι υποστηρίζειΤι δεν τεκμηριώνει
Κερδίζει σε ένα παιχνίδιΥπεράνθρωπη επίδοση σε συγκεκριμένο έργοΕυρεία γενικότητα
Περνά μια δοκιμή τύπου ΤούρινγκΣυνομιλία ανθρώπινου τύπου στο συγκεκριμένο πρωτόκολλοASI ή συνείδηση
Βαθμολογείται πάνω από τους περισσότερους ανθρώπους σε εξετάσειςΕυρεία επίδοση σε δοκιμέςΝέα έρευνα, αυτονομία ή υπεροχή έναντι των καλύτερων ανθρώπων
Ολοκληρώνει έργα πράκτοραΚάποια ικανότητα σχεδιασμού και χρήσης εργαλείωνΑξιόπιστη πρακτορική δράση μεγάλης διάρκειας παντού
Επιταχύνει την έρευνα ΤΝΠιθανή ανάδραση στην ανάπτυξη ικανοτήτωνΑναπόφευκτη έκρηξη νοημοσύνης

Η ιδέα πριν από τα τεκμήρια

Ιστορία της τεχνητής υπερνοημοσύνης

1950
Κεφάλαιο 01

Η μηχανική νοημοσύνη γίνεται λειτουργική έννοια

Το παιχνίδι μίμησης του Τούρινγκ εστιάζει τη συζήτηση στη συμπεριφορά, δεκαετίες πριν η «υπερνοημοσύνη» γίνει κοινός όρος τεχνικής και πολιτικής συζήτησης.

1965
Κεφάλαιο 02

Η υπερνοήμων μηχανή του I. J. Good

Ο Good ορίζει μια υπερνοήμονα μηχανή ως μηχανή που ξεπερνά κάθε ανθρώπινη διανοητική δραστηριότητα και υποστηρίζει ότι ο σχεδιασμός καλύτερων μηχανών θα μπορούσε να πυροδοτήσει έκρηξη νοημοσύνης.

1993
Κεφάλαιο 03

Η τεχνολογική μοναδικότητα του Vinge

Ο Vernor Vinge περιγράφει τη δημιουργία νοημοσύνης ανώτερης από την ανθρώπινη ως ασυνέχεια μετά την οποία τα οικεία μοντέλα προόδου μπορεί να πάψουν να ισχύουν.

1997–2016
Κεφάλαιο 04

Στενά συστήματα ξεπερνούν πρωταθλητές

Τα Deep Blue, Watson και AlphaGo επιδεικνύουν υπεράνθρωπη επίδοση σε συγκεκριμένους τομείς — σημαντικά ορόσημα που από μόνα τους δεν αποτελούν ASI.

2014
Κεφάλαιο 05

Η υπερνοημοσύνη εισέρχεται στην ευρύτερη συζήτηση

Το βιβλίο του Nick Bostrom οργανώνει διαδρομές, προβλήματα ελέγχου και στρατηγικά ερωτήματα γύρω από νοημοσύνη πολύ πέρα από τα ανθρώπινα επίπεδα.

2023
Κεφάλαιο 06

Επεκτείνονται οι προτάσεις διακυβέρνησης συστημάτων αιχμής

Εργαστήρια και ερευνητές δημοσιεύουν προτάσεις για τη διακυβέρνηση της υπερνοημοσύνης, κλιμακούμενη εποπτεία και μέτρα ασφάλειας που ενεργοποιούνται από επίπεδα ικανότητας.

2024–26
Κεφάλαιο 07

Υπεύθυνη κλιμάκωση και αξιολογήσεις αιχμής

Οι οργανισμοί συνδέουν ολοένα περισσότερο τις δικλίδες ασφαλείας με όρια επικίνδυνων ικανοτήτων, ενώ οι πολιτικές, οι ορισμοί και οι δεσμεύσεις συνεχίζουν να εξελίσσονται.

Μέλλον
Κεφάλαιο 08

Η ASI παραμένει υποθετική, όχι πιστοποιημένη

Κανένας καθολικά αναγνωρισμένος φορέας δεν έχει ανακοινώσει ή επαληθεύσει τεχνητή υπερνοημοσύνη. Οι ισχυρισμοί πρέπει να αξιολογούνται βάσει ρητών προτύπων εύρους, βάθους και διασφάλισης.

Πολλαπλές διαδρομές, αβέβαιες ταχύτητες

Πώς θα μπορούσε θεωρητικά να προκύψει η ASI

Αναδρομική βελτίωση

Έκρηξη νοημοσύνης

Ένα σύστημα βελτιώνει την έρευνα ΤΝ, επιτρέποντας ικανότερους διαδόχους που βελτιώνουν ξανά τη διαδικασία. Σημεία συμφόρησης σε υλικό, δεδομένα, πειράματα και συντονισμό θα μπορούσαν να περιορίσουν τον βρόχο.

Οικονομική κλιμάκωση

Συλλογική μηχανική νοημοσύνη

Μεγάλοι πληθυσμοί πρακτόρων, εξειδικευμένων μοντέλων και εργαλείων θα μπορούσαν συλλογικά να ξεπεράσουν ανθρώπινους θεσμούς χωρίς έναν μονολιθικό «νου».

Σταδιακή συσσώρευση

Ανάπτυξη ευρείας ικανότητας

Τα μοντέλα μπορεί να βελτιώνονται σταθερά σε πολλούς τομείς μέχρι το συνδυασμένο σύστημα να περάσει ένα υπεράνθρωπο όριο — χωρίς ένα δραματικό γεγονός μέσα σε μία νύχτα.

Ταπεινότητα στις προβλέψεις: μια διαδρομή δεν είναι πρόβλεψη. Τα χρονοδιαγράμματα εξαρτώνται από αλγορίθμους, υπολογιστική ισχύ, ενέργεια, μικροκυκλώματα, δεδομένα, ρομποτική, οικονομικά κίνητρα, κανονισμούς και επιστημονικές αβεβαιότητες.

Ο κίνδυνος δεν είναι μία μόνο ιστορία

Γιατί η ASI θα μπορούσε να είναι μεταμορφωτική — και επικίνδυνη

Πιθανά οφέλη

  • Επιτάχυνση της ιατρικής και της επιστήμης υλικών
  • Καλύτερος σχεδιασμός για το κλίμα, την ενέργεια και τις υποδομές
  • Πολύ ικανά εργαλεία εκπαίδευσης και προσβασιμότητας
  • Αυτοματοποίηση επικίνδυνης ή εξαντλητικής εργασίας
  • Νέες επιστημονικές θεωρίες και μηχανικές λύσεις

Πιθανές βλάβες

  • Καταστροφική κατάχρηση σε κυβερνοχώρο ή βιολογικούς τομείς
  • Απώλεια ουσιαστικού ανθρώπινου ελέγχου
  • Συγκέντρωση οικονομικής και πολιτικής ισχύος
  • Χειραγώγηση, επιτήρηση και στρατηγική αστάθεια
  • Ατυχήματα μεγάλης κλίμακας από κακώς καθορισμένους στόχους

Κατάχρηση

Ένα ικανό σύστημα μπορεί να ενισχύσει επιβλαβείς προθέσεις χωρίς το ίδιο να έχει εχθρικούς στόχους.

Ανευθυγράμμιση

Ένα σύστημα μπορεί να βελτιστοποιεί αποτελεσματικά έναν στόχο που αποκλίνει από αυτό που σκόπευαν οι άνθρωποι.

Θεσμική αποτυχία

Ο ανταγωνισμός, η μυστικότητα ή η αδύναμη εποπτεία μπορούν να μετατρέψουν έναν διαχειρίσιμο τεχνικό κίνδυνο σε συστημικό κίνδυνο.

Άνισος έλεγχος

Ακόμη και μια ωφέλιμη ικανότητα μπορεί να υπονομεύσει τη νομιμοποίηση αν λίγοι παράγοντες καθορίζουν την πρόσβαση και τους στόχους.

Άμυνα σε βάθος

Καμία μεμονωμένη τεχνική ασφάλειας δεν αρκεί

1Αξιολόγηση ικανότηταςΓνωρίστε τι μπορεί να κάνει το σύστημα
2Δοκιμή ευθυγράμμισηςΕλέγξτε στόχους, εξαπάτηση και έλεγχο
3ΑσφάλειαΠροστατέψτε βάρη και υποδομή
4Όρια ανάπτυξηςΚλιμακώστε σταδιακά πρόσβαση και δικαιώματα
5ΔιακυβέρνησηΑνεξάρτητη, νομιμοποιημένη εποπτεία
  1. 01

    Ορίστε εκ των προτέρων όρια ικανότητας

    Ορίστε ποια αποτελέσματα ενεργοποιούν ισχυρότερο περιορισμό, ασφάλεια και εποπτεία πριν εμφανιστούν.

  2. 02

    Χρησιμοποιήστε ανεξάρτητους αξιολογητές

    Διαχωρίστε όσους ανταμείβονται για την κυκλοφορία ενός συστήματος από όσους έχουν την αρμοδιότητα να αμφισβητούν τα τεκμήρια.

  3. 03

    Ελέγξτε επικίνδυνες δυνατότητες

    Αξιολογήστε τις δυνατότητες στον κυβερνοχώρο, τη βιολογία, την πειθώ, την αυτονομία και την έρευνα ΤΝ με κατάλληλους ελέγχους.

  4. 04

    Περιορίστε τα δικαιώματα εξ ορισμού

    Το δίκτυο, ο κώδικας, τα χρήματα, η αναπαραγωγή και τα φυσικά συστήματα θα πρέπει να απαιτούν ρητή, παρακολουθούμενη εξουσιοδότηση.

  5. 05

    Σχεδιάστε αντιμετώπιση περιστατικών και τερματισμούς

    Καταγραφή, επαναφορά, περιορισμός, ειδοποίηση και σαφής αρμοδιότητα λήψης αποφάσεων θα πρέπει να υπάρχουν πριν από την ανάπτυξη.

  6. 06

    Οικοδομήστε δημόσια νομιμοποίηση

    Συστήματα με διασυνοριακές συνέπειες απαιτούν περισσότερα από ιδιωτικούς όρους χρήσης ή εθελοντικές υποσχέσεις.

Τρία μέλλοντα, όχι μία προφητεία

Χρήσιμα σενάρια για καθαρή σκέψη

Συνεργατική επιτάχυνση

Τα προηγμένα συστήματα παραμένουν υπό έλεγχο, κατανέμουν ευρέως τα οφέλη και επιταχύνουν την επιστήμη υπό νομιμοποιημένη εποπτεία.

Άνιση μεταμόρφωση

Οι ικανότητες προχωρούν γρήγορα, αλλά οι θεσμοί προσαρμόζονται αργά, παράγοντας μεγάλες αυξήσεις παραγωγικότητας μαζί με αναστάτωση και συγκέντρωση ισχύος.

Απώλεια ελέγχου

Η κατάχρηση, η ανευθυγράμμιση ή ο στρατηγικός ανταγωνισμός ξεπερνούν τις δικλίδες ασφαλείας, προκαλώντας σοβαρή ή μη αναστρέψιμη βλάβη.

Η σκέψη μέσω σεναρίων δεν είναι ανάθεση πιθανοτήτων. Σκοπός της είναι να αποκαλύψει παραδοχές, δείκτες έγκαιρης προειδοποίησης και αποφάσεις που παραμένουν χρήσιμες σε πολλά πιθανά μέλλοντα.

Σαφείς απαντήσεις

Συχνές ερωτήσεις για την ASI

Τι σημαίνει ASI;

Τεχνητή υπερνοημοσύνη: ένα υποθετικό τεχνητό σύστημα που ξεπερνά ευρέως και ουσιαστικά την καλύτερη ανθρώπινη γνωστική επίδοση, όχι απλώς τη μέση ανθρώπινη ικανότητα ή ένα ρεκόρ ειδικού.

Είναι η ASI το ίδιο με την AGI;

Όχι. Η AGI γενικά σημαίνει ευρεία, προσαρμόσιμη ικανότητα γύρω από τα ανθρώπινα επίπεδα ή πάνω από αυτά. Η ASI είναι ισχυρότερη έννοια: ευρεία επίδοση πολύ πέρα από την ανθρώπινη ικανότητα. Το όριο εξαρτάται από το λειτουργικό πλαίσιο.

Υπάρχει επίσημο τεστ ASI;

Όχι. Δεν υπάρχει καθολική αρχή, δοκιμή αναφοράς ή νομικό πιστοποιητικό. Αυτή η σελίδα προσφέρει ένα διαφανές πλαίσιο τεκμηρίων και διασφάλισης, όχι επίσημη πιστοποίηση.

Αποδεικνύει η βαθμολογία μου ότι ένα σύστημα είναι ASI;

Όχι. Η βαθμολογία σας συνοψίζει την κατάσταση των τεκμηρίων που επιλέξατε. Η σελίδα δεν μπορεί να επαληθεύσει τις εισόδους σας ή να επιθεωρήσει ένα πραγματικό σύστημα. Βοηθά να αναδειχθούν ελλείποντα τεκμήρια και κενά διακυβέρνησης.

Μπορεί μια μηχανή σκακιού να είναι ASI;

Όχι σύμφωνα με τους ευρείς ορισμούς. Μπορεί να είναι υπεράνθρωπη στο σκάκι παραμένοντας στενή. Η ASI απαιτεί υπεράνθρωπο εύρος καθώς και βάθος.

Θα έπρεπε η ASI να έχει συνείδηση;

Όχι σύμφωνα με ορισμούς που βασίζονται στην ικανότητα. Η συνείδηση, το ηθικό καθεστώς και η υποκειμενική εμπειρία είναι ξεχωριστά άλυτα ερωτήματα.

Τι είναι η έκρηξη νοημοσύνης;

Είναι η υπόθεση ότι μια αρκετά ικανή μηχανή θα μπορούσε να βελτιώσει την έρευνα ΤΝ, επιτρέποντας καλύτερους διαδόχους και δημιουργώντας έναν γρήγορο κύκλο θετικής ανάδρασης στην ικανότητα. Η ταχύτητα και η εφικτότητά του αποτελούν αντικείμενο συζήτησης.

Τι είναι η αναδρομική αυτοβελτίωση;

Ένα σύστημα συμβάλλει στη βελτίωση των αλγορίθμων, των δεδομένων, της χρήσης υλικού ή των ερευνητικών διαδικασιών που παράγουν ικανότερες εκδόσεις, οι οποίες με τη σειρά τους μπορεί να βελτιώσουν περαιτέρω τη διαδικασία.

Θα μπορούσε η ASI να προκύψει αργά αντί ξαφνικά;

Ναι. Το υπεράνθρωπο εύρος θα μπορούσε να προκύψει μέσω σταδιακής συσσώρευσης, συντονισμένων συστημάτων ή οικονομικής κλιμάκωσης αντί για ένα και μόνο απότομο γεγονός. Η «ASI» δεν απαιτεί λογικά μία συγκεκριμένη ταχύτητα απογείωσης.

Συνεπάγεται η υψηλή ικανότητα επιβλαβή πρόθεση;

Όχι. Η ικανότητα δεν καθορίζει τους στόχους. Ο κίνδυνος μπορεί να προκύψει από κατάχρηση, σφάλμα, κακώς καθορισμένους στόχους, εργαλειακή συμπεριφορά επιδίωξης ισχύος, συγκέντρωση ελέγχου ή θεσμική αποτυχία.

Λύνει η ευθυγράμμιση κάθε κίνδυνο ASI;

Όχι. Ακόμη και ένα καλοπροαίρετο σύστημα μπορεί να χρησιμοποιηθεί καταχρηστικά, να κλαπεί, να αναπτυχθεί απερίσκεπτα ή να ενσωματωθεί σε άδικους θεσμούς. Η τεχνική ευθυγράμμιση, η ασφάλεια και η διακυβέρνηση είναι συμπληρωματικές.

Γιατί να περιλαμβάνονται πύλες διασφάλισης σε ένα τεστ ASI;

Η ταξινόμηση ικανότητας και η απόφαση ανάπτυξης είναι διαφορετικά πράγματα. Η διασφάλιση δεν μπορεί να μετατρέψει ένα αδύναμο σύστημα σε υπερνοήμον, αλλά εξαιρετική ικανότητα χωρίς επαρκή τεκμήρια ελέγχου θα ήταν ιδιαίτερα επικίνδυνη.

Έχει ήδη επιτευχθεί η ASI;

Δεν έχει τεκμηριωθεί καμία καθολικά αποδεκτή και ανεξάρτητα επαληθευμένη ASI. Στενά υπεράνθρωπα συστήματα και ολοένα γενικότερα μοντέλα δεν πρέπει να επαναχαρακτηρίζονται ως ASI χωρίς ευρεία τεκμηρίωση.

Ποια θα ήταν τα σαφέστερα τεκμήρια;

Επαναλαμβανόμενες, ανεξάρτητες επιδείξεις ευρείας υπεροχής έναντι κορυφαίων ανθρώπινων ομάδων σε πραγματικά νέα και σημαντικά έργα — σε συνδυασμό με διαφανή κόστη, όρια συστήματος και ανάλυση αποτυχιών.

Ιχνηλατήστε το επιχείρημα

Πρωτογενείς και ερευνητικές πηγές

Good (1965): Η πρώτη υπερνοήμων μηχανή

Θεμελιώδης συζήτηση για μια υπερνοήμονα μηχανή και την έκρηξη νοημοσύνης.

Άνοιγμα πηγής

Vinge (1993): Τεχνολογική μοναδικότητα

Καταγραφή που φιλοξενείται από τη NASA του δοκιμίου για νοημοσύνη ανώτερη από την ανθρώπινη και την ασυνέχεια.

Άνοιγμα πηγής

Google DeepMind: Επίπεδα AGI

Τοποθετεί την ASI στο επίπεδο ευρείας υπεράνθρωπης επίδοσης και διαχωρίζει το εύρος από το βάθος.

Άνοιγμα πηγής

OpenAI: Διακυβέρνηση της υπερνοημοσύνης

Πρόταση εργαστηρίου που εξετάζει συστήματα δραματικά ικανότερα από την AGI και τη δημόσια εποπτεία.

Άνοιγμα πηγής

Διαχείριση ακραίων κινδύνων ΤΝ

Ερευνητική εργασία για την κατάχρηση, την ευθυγράμμιση, τα αυτόνομα συστήματα και τους μηχανισμούς διακυβέρνησης.

Άνοιγμα πηγής

Πλαίσιο Διαχείρισης Κινδύνων ΤΝ του NIST

Γενικό πλαίσιο για τη διακυβέρνηση, τη χαρτογράφηση, τη μέτρηση και τη διαχείριση κινδύνων ΤΝ.

Άνοιγμα πηγής

Διεθνής Έκθεση Ασφάλειας ΤΝ

Διεθνώς συνταγμένη αξιολόγηση των ικανοτήτων, κινδύνων και μέτρων μετριασμού της ΤΝ γενικού σκοπού.

Άνοιγμα πηγής

Πολιτική Υπεύθυνης Κλιμάκωσης της Anthropic

Ένα εξελισσόμενο παράδειγμα ορίων ικανότητας που συνδέονται με ισχυρότερες δικλίδες ασφαλείας.

Άνοιγμα πηγής