Ο Ζάκερμπεργκ δεν θέλει φρένο στην τεχνητή νοημοσύνη – Ποντάρει στην ασφάλεια και την αγορά

Takeaways by to pontiki AI

• Ο Μαρκ Ζάκερμπεργκ υποστηρίζει ότι η ανάπτυξη της τεχνητής νοημοσύνης δεν πρέπει να επιβραδυνθεί, αλλά να εστιάσει στη δημιουργία μοντέλων που εμπνέουν εμπιστοσύνη στους χρήστες.
• Ο επικεφαλής της Meta θεωρεί την ευθυγράμμιση των συστημάτων με τις ανθρώπινες προθέσεις ως το σημαντικότερο ανταγωνιστικό πλεονέκτημα για κάθε εταιρεία του κλάδου.
• Οι εταιρείες οφείλουν να αξιοποιούν την υπολογιστική τους ισχύ για την εξυπηρέτηση των ανθρώπων, αποφεύγοντας τον ανεξέλεγκτο αγώνα για την αυτόνομη αυτοβελτίωση των συστημάτων.
• Η υιοθέτηση ανεξάρτητων αξιολογητών και η αυστηρή προτεραιότητα στην ασφάλεια αποτελούν, κατά τον Ζάκερμπεργκ, τις απαραίτητες δικλίδες για ένα θετικό μέλλον.

Ο Μαρκ Ζάκερμπεργκ παίρνει θέση στη μεγάλη κόντρα για το αν η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να επιβραδυνθεί, υποστηρίζοντας ότι το πραγματικό στοίχημα δεν είναι να πατήσει ο κλάδος φρένο, αλλά να κατασκευάσει μοντέλα που οι χρήστες μπορούν να εμπιστευτούν.

Έναν μήνα μετά την παρέμβασή του για το πώς μπορεί να δημιουργηθεί «ένα θετικό και ασφαλές μέλλον για όλους», ο επικεφαλής της Meta επανήλθε με ανάρτησή του στο X, επιχειρώντας να εξηγήσει γιατί, κατά τη γνώμη του, η ασφάλεια δεν βρίσκεται απέναντι στην τεχνολογική πρόοδο.

Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/1KtONlqBs5

Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.

The…

— Mark Zuckerberg (@finkd) September 15, 2026

«Αν δεν εστιάσεις στην ευθυγράμμιση, θα μείνεις πίσω»

Στο επίκεντρο της τοποθέτησης του Ζάκερμπεργκ βρίσκεται η λεγόμενη ευθυγράμμιση της τεχνητής νοημοσύνης: η προσπάθεια δηλαδή τα μοντέλα και οι πράκτορες AI να λειτουργούν σύμφωνα με τις προθέσεις του χρήστη και να κάνουν αυτό που πραγματικά τους ζητείται.

Το επιχείρημά του είναι απλό: κανείς δεν πρόκειται να θέλει να χρησιμοποιεί έναν ψηφιακό πράκτορα που κάνει άλλα αντί άλλων.

«Υπάρχει μεγάλη συζήτηση για την επιβράδυνση της προόδου στις δυνατότητες μέχρι να προλάβει η ευθυγράμμιση», γράφει.

Και αμέσως δίνει τη δική του απάντηση:

«Η άποψή μου είναι ότι η εμπιστοσύνη και η ευθυγράμμιση γίνονται γρήγορα οι σημαντικότερες δυνατότητες που θα διαφοροποιούν τους agents και τα μοντέλα. Κάθε εργαστήριο που δεν επικεντρώνεται στην ευθυγράμμιση θα μείνει πίσω».

Με άλλα λόγια, ο Ζάκερμπεργκ θεωρεί ότι η ασφάλεια δεν αποτελεί απλώς υποχρέωση των εταιρειών, αλλά και ανταγωνιστικό πλεονέκτημα.

Τα κίνητρα που έχουν οι εταιρείες να προσέχουν

Ο επικεφαλής της Meta υποστηρίζει ότι τα ίδια τα εργαστήρια τεχνητής νοημοσύνης έχουν σοβαρούς λόγους να μην αφήνουν την ασφάλεια στην άκρη.

Μεταξύ άλλων σημειώνει ότι:

• οι χρήστες δεν θα εμπιστευτούν μοντέλα που δεν ακολουθούν τις εντολές τους,
• οι εταιρείες αντιμετωπίζουν σημαντική νομική ευθύνη αν τα συστήματά τους προκαλέσουν βλάβη,
• η χρήση ανεξάρτητων αξιολογητών και συμβούλων αποτελεί ήδη καλή πρακτική στον κλάδο,
• θα ήταν χρήσιμο να υπάρχει μεγαλύτερο και πιο πολυσυλλεκτικό οικοσύστημα αξιολόγησης,
• η περισσότερη υπολογιστική ισχύς πρέπει να χρησιμοποιείται για την εξυπηρέτηση των ανθρώπων και όχι σε μια κούρσα προς την «αναδρομική αυτοβελτίωση» της AI.

Όπως αναφέρει, η MSL χρησιμοποιεί ήδη ανεξάρτητους αξιολογητές σε ορισμένους τομείς και θεωρεί ότι το ίδιο μπορούν να κάνουν και τα υπόλοιπα εργαστήρια.

Γιατί η Meta πάτησε φρένο στο Muse

Ο Ζάκερμπεργκ χρησιμοποιεί ως παράδειγμα το Muse, του οποίου η κυκλοφορία καθυστέρησε από τη Meta για αρκετούς μήνες προκειμένου να δοθεί μεγαλύτερη έμφαση στην ασφάλεια και την προστασία του συστήματος.

Η λεπτομέρεια που θέλει να τονίσει είναι ότι η Meta δεν ζήτησε από τις υπόλοιπες εταιρείες να σταματήσουν μαζί της.

«Δεν καλέσαμε όλους τους άλλους να κάνουν το ίδιο προτού το κάνουμε εμείς», αναφέρει. «Απλώς το κάναμε ως μέρος της καθημερινής μας δουλειάς, επειδή ήταν ξεκάθαρα το σωστό για τους ανθρώπους και για εμάς».

Παράλληλα δηλώνει υπερήφανος για τις «βάσεις ασφαλείας» που έχει δημιουργήσει η εταιρεία.

Η σημασία των υπολογιστικών πόρων

Ιδιαίτερη αναφορά κάνει και στο πού πρέπει να διοχετεύεται η τεράστια υπολογιστική ισχύς των εταιρειών AI.

Κατά τον Ζάκερμπεργκ, μία από τις καλύτερες δικλίδες ασφαλείας είναι η δέσμευση της μεγάλης πλειονότητας των υπολογιστικών πόρων στην παροχή υπηρεσιών προς τους ανθρώπους και όχι σε έναν αγώνα για την ανάπτυξη συστημάτων που θα μπορούν να βελτιώνουν επαναλαμβανόμενα τον ίδιο τους τον εαυτό.

Η Meta, όπως σημειώνει, έχει ήδη αναλάβει αυτή τη δέσμευση και θεωρεί ότι μπορούν να ακολουθήσουν και άλλες εταιρείες.

Η ισορροπία ισχύος είναι το κλειδί

Ο επικεφαλής της Meta καταλήγει ότι για να υπάρξει ένα θετικό μέλλον με την τεχνητή νοημοσύνη χρειάζεται να διατηρηθεί η σωστή ισορροπία ισχύος.

«Αυτό είναι μέσα στις δυνατότητές μας να το κάνουμε», γράφει.

Η θέση του, με δυο λόγια, είναι ότι η απάντηση στους φόβους γύρω από την AI δεν βρίσκεται αναγκαστικά σε ένα γενικό φρένο στην τεχνολογική ανάπτυξη, αλλά σε εταιρείες που έχουν λόγους και πίεση από τους ίδιους τους χρήστες- να χτίζουν ασφαλέστερα και πιο αξιόπιστα συστήματα.

Η κόντρα για το «φρένο» στην AI

Η δημοσιοποίηση της άποψης του Ζάκερμπεργκ έρχεται σε μια στιγμή που κορυφαία στελέχη της βιομηχανίας εμφανίζονται πολύ πιο επιφυλακτικά. Ο πρώην ερευνητής της Anthropic Τζέικομπ Κόξον παραιτήθηκε προειδοποιώντας για υπαρξιακούς κινδύνους, ενώ ο διευθύνων σύμβουλος της εταιρείας Ντάριο Αμοντέι έχει ταχθεί υπέρ της επιβράδυνσης της κούρσας. Στην ίδια συζήτηση έχει μπει και η OpenAI, με τον επικεφαλής επιστήμονά της Γιάκουμπ Πατσότσκι να χαρακτηρίζει «παράλογη» την ιδέα μιας κούρσας «με κάθε κόστος», ενώ και ο Σαμ Άλτμαν έχει υποστηρίξει την ανάγκη να ελέγχεται ο ρυθμός ανάπτυξης των ισχυρότερων μοντέλων. Στον αντίποδα, ο επικεφαλής της Nvidia Τζένσεν Χουάνγκ έχει απορρίψει τις προβλέψεις περί «Αρμαγεδδώνα» ως ανεύθυνες.

Διαβάστε επίσης:

Jacob Coxon: Ποιος είναι ο 27χρονος «σπασίκλας» των μαθηματικών που σήμανε SOS για την τεχνητή νοημοσύνη

OpenAI: Μοντέλα AI κάνουν… ό,τι θέλουν – Αυτονομήθηκαν, «μαγείρεψαν» δεδομένα και προσπάθησαν να… καλύψουν τα ίχνη τους

ZuckOff: Εφαρμογή «βλέπει» τα γυαλιά της Meta πριν αυτά σας δουν και ειδοποιεί αν κάποιος σας καταγράφει

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.