Τεχνητή Νοημοσύνη: Δραματική παρέμβαση του Σαμ Άλτμαν – Δύο τρόποι που τα πράγματα μπορούν να στραβώσουν

Takeaways by to pontiki AI

• Ο ιδρυτής της OpenAI, Σαμ Άλτμαν, εντόπισε δύο βασικούς κινδύνους από την ταχεία εξέλιξη της τεχνητής νοημοσύνης, οι οποίοι αφορούν την απώλεια ελέγχου του μέλλοντος και την υπερβολική συγκέντρωση εξουσίας.
• Ο ίδιος υπογραμμίζει την ανάγκη για τεχνικές ευθυγράμμισης και ασφάλειας, ώστε η τεχνολογία να υπηρετεί σταθερά την ανθρωπότητα.
• Παράλληλα, ο Άλτμαν ζητά τη θέσπιση ενός ομοσπονδιακού πλαισίου με συνεπείς κανόνες ασφαλείας για τη διαχείριση των κινδύνων στον κλάδο.
• Η OpenAI εφαρμόζει ήδη μελέτες ασφάλειας πριν από την ανάπτυξη νέων μοντέλων και προτείνει τη δημιουργία κοινών προτύπων από όλες τις εταιρείες.
• Τέλος, ο επιχειρηματίας τονίζει ότι η ασφάλεια πρέπει να προηγείται του ανταγωνισμού, ενώ θεωρεί απαραίτητο τον διεθνή συντονισμό μέσω της κυβερνητικής παρέμβασης.

Με δύο αναρτήσεις του στο Χ, ο ιδρυτής της OpenAI, Σαμ Άλτμαν, προσπάθησε να περιγράψει πώς τα πράγματα μπορούν να στραβώσουν, καθώς η Τεχνητή Νοημοσύνη εξελίσσεται με ραγδαίους ρυθμούς, σε μια στιγμή που ειδικοί προειδοποιούν ότι σύντομα θα μπορούσε να εξοντώσει ολόκληρη την ανθρωπότητα.

O Άλτμαν στην ανάρτησή του γράφει ότι «υπάρχουν δύο τρόποι με τους οποίους η εξέλιξη της τεχνητής νοημοσύνης θα μπορούσε να πάρει πολύ κακή τροπή και τους οποίους πρέπει να αποφύγουμε.

• Πρώτον, θα μπορούσαμε να χάσουμε τον έλεγχο του μέλλοντος υπέρ της τεχνητής νοημοσύνης. Αυτό είναι απαράδεκτο· είμαστε χωρίς καμία αμφιβολία στην πλευρά της ανθρωπότητας και η τεχνητή νοημοσύνη πρέπει πάντα να υπηρετεί τους ανθρώπους. Για να το διασφαλίσουμε αυτό, χρειαζόμαστε τρόπους ώστε οι τεχνικές ευθυγράμμισης και ασφάλειας να προλαβαίνουν την πρόοδο στις δυνατότητες των μοντέλων.
• Δεύτερον, θα μπορούσαμε να καταλήξουμε σε έναν κόσμο με υπερβολική συγκέντρωση εξουσίας. Εάν μια εξαιρετικά ισχυρή ΤΝ χρησιμοποιηθεί από ένα άτομο ή μια εταιρεία για να επιβάλει την κοσμοθεωρία της σε όλους τους άλλους, τα αποτελέσματα θα μπορούσαν να είναι εξαιρετικά δυστοπικά».

Στο πλαίσιο αυτό, ο Άλτμαν τονίζει ότι «η αποφυγή αυτών των δύο απειλών απαιτεί την ακολουθία μιας στενής μέσης οδού· για παράδειγμα, μια χώρα θα μπορούσε να αποκτήσει υπερβολική εξουσία. Ένα άλλο παράδειγμα είναι ένα εργαστήριο να καταλήξει να διαθέτει υπερβολική εξουσία».

Λίγο νωρίτερα, σε άλλη ανάρτησή του, ο επιχειρηματίας είχε γράψει ότι «ο κόσμος δικαιούται να έχει την εμπιστοσύνη ότι οι αμερικανικές εταιρείες που αναπτύσσουν όλο και πιο ικανή τεχνητή νοημοσύνη θα ενεργούν υπεύθυνα, ειδικά τώρα που η πορεία της προόδου έχει επιταχυνθεί. Κάθε πρωτοποριακό εργαστήριο πρέπει να ανταποκριθεί σε αυτό, και δεν υπάρχει κανένας λόγος να έρχεται κανείς από εμάς στη δουλειά αν δεν μπορούμε να το κάνουμε.

Χαιρετίζουμε ένα ομοσπονδιακό πλαίσιο που θα καθορίζει συνεπείς απαιτήσεις ασφάλειας για την πρωτοποριακή τεχνητή νοημοσύνη. Ωστόσο, δεν πιστεύουμε ότι πρέπει να περιμένουμε μια εξαίρεση από τους αντιμονοπωλιακούς νόμους ή τη θέσπιση νομοθεσίας για να αρχίσουμε το έργο της δημιουργίας αυτής της εμπιστοσύνης. Οι συνεπείς κανόνες για τη διαχείριση των κινδύνων που ενέχει η πρωτοποριακή τεχνητή νοημοσύνη, ώστε να μπορέσουμε να μεγιστοποιήσουμε τα οφέλη, αποτελούν καλή ιδέα (και μας ενθουσιάζουν ιδέες όπως οι ανεξάρτητοι ελεγκτές)».

«Η σημερινή στροφή προς την έμφαση στην ασφαλή ανάπτυξη και αξιολόγηση θα απαιτήσει νέα εργαλεία. Για παράδειγμα, στην OpenAI διαμορφώνουμε πλέον ρητές μελέτες ασφάλειας πριν από τις πρωτοποριακές εκτελέσεις ενισχυτικής μάθησης που αναμένουμε να αυξήσουν σημαντικά τις δυνατότητες, επιπλέον του έργου ασφάλειας που πραγματοποιούμε εδώ και καιρό πριν από την κυκλοφορία των μοντέλων. Ελπίζουμε ότι άλλες εταιρείες θα αντλήσουν διδάγματα από τις προσεγγίσεις μας και θα προτείνουν τις δικές τους· πιστεύουμε ότι τα κοινά πρότυπα για την ασυμφωνία, την παρακολούθηση και την ασφάλεια θα οδηγήσουν σε καλύτερα αποτελέσματα», συνεχίζει ο Άλτμαν.

«Ανυπομονούμε να συνεργαστούμε με τους συναδέλφους μας σε ολόκληρο τον κλάδο για να διαμορφώσουμε την καλύτερη δυνατή εκδοχή αυτών των προτύπων. Όταν μιλάμε για “ρυθμό”, δεν εννοούμε “διακοπή”. Η πρόοδος ήταν ραγδαία και θα συνεχίσει να είναι. Ωστόσο, θα πρέπει να είναι πιο αργή από ό,τι θα μπορούσε να είναι· παρεμβάσεις όπως οι περιπτώσεις ασφάλειας και η παρακολούθηση έχουν σημαντικό κόστος. Η ρύθμιση του ρυθμού θα αξίζει αυτό το κόστος· καμία αμερικανική ανταγωνιστική πίεση δεν πρέπει να δικαιολογεί την απερισκεψία, ούτε να επιτρέπει στις δυνατότητες να προπορεύονται της ευθυγράμμισης και της παρακολούθησης. Εκεί όπου θα χρειαστούμε τη βοήθεια της κυβέρνησής μας είναι στον τομέα του διεθνούς συντονισμού. Πρώτα όμως πρέπει να κάνουμε ό,τι μπορούμε από μόνοι μας», καταλήγει.

Υπενθυμίζεται ότι ο Τζέικομπ Κόξον, ένας 27χρονος Βρετανός, που εργαζόταν επί τρία χρόνια στην προ-εκπαίδευση -το στάδιο όπου τα μοντέλα της τεχνητής νοημοσύνης απορροφούν τεράστιες ποσότητες δεδομένων- πρώτα στην OpenAI και στη συνέχεια, φέτος, στον κύριο ανταγωνιστή της, την Anthropic, ανέφερε ότι «καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας. […] Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ».

Επίσης, ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic αρμόδιος για την ασφάλεια, συμφώνησε με τον Κόξον σχολιάζοντας στο Χ: «Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους», εκτιμώντας ότι ο κίνδυνος αυτός είναι «πάνω από 10%» μέσα στη δεκαετία. Ο Χάμπιντζερ πρόσθεσε ότι η Anthropic κάνει «ό,τι καλύτερο» μπορεί, αλλά ακόμη «δεν έχει σχέδιο» για το πώς θα διασφαλίσει ότι μια τεχνητή νοημοσύνη που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς της, αν και εκτίμησε ότι ο κίνδυνος να συμβεί αυτό με τα τρέχοντα μοντέλα AI είναι «μικρός».

Διαβάστε επίσης

Η Anthropic δείχνει τους Χούθι για προσπάθεια κατασκευής βαλλιστικών πυραύλων μέσω της ΑΙ της

Γιατί κάποιοι φοβούνται όλο και περισσότερο ότι η AI θα πάρει τον έλεγχο

Η ΕΕ αποκτά το… μυθικό Mythos 5 της Anthropic – Τι είχε συμβεί με το συγκεκριμένο μοντέλο τεχνητής νοημοσύνης

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.