«Υπάρχουν δύο τρόποι με τους οποίους η πρόοδος της AI θα μπορούσε να πάει πολύ άσχημα και τους οποίους πρέπει να αποφύγουμε», ανέφερε χαρακτηριστικά.
Altman: «Μπορεί να χάσουμε τον έλεγχο του μέλλοντος»
Ο Altman έθεσε ως πρώτο και σημαντικότερο κίνδυνο το ενδεχόμενο η τεχνητή νοημοσύνη να ξεφύγει από τον ανθρώπινο έλεγχο.
«Θα μπορούσαμε να χάσουμε τον έλεγχο του μέλλοντος από την AI. Αυτό είναι απαράδεκτο. Είμαστε χωρίς καμία απολογία στην πλευρά της ανθρωπότητας και η AI πρέπει πάντα να υπηρετεί τους ανθρώπους», τόνισε.
Όπως εξήγησε, για να διασφαλιστεί αυτό, θα πρέπει οι τεχνικές ευθυγράμμισης και ασφάλειας των μοντέλων να παραμένουν μπροστά από την ίδια την πρόοδο των δυνατοτήτων τους.
Με απλά λόγια, η τεχνολογία δεν πρέπει να τρέχει ταχύτερα από την ικανότητα της ανθρωπότητας να την ελέγχει.
Ο δεύτερος εφιάλτης: Μία εταιρεία ή χώρα με υπερβολική δύναμη
Ο δεύτερος κίνδυνος που ανέδειξε ο CEO της OpenAI είναι η υπερσυγκέντρωση ισχύος.
«Θα μπορούσαμε να καταλήξουμε σε έναν κόσμο με υπερβολική συγκέντρωση εξουσίας», προειδοποίησε.
Όπως σημείωσε, εάν μια εξαιρετικά ισχυρή AI χρησιμοποιηθεί από ένα και μόνο άτομο ή μια εταιρεία προκειμένου να επιβάλει τη δική της κοσμοθεωρία σε όλους τους υπόλοιπους, το αποτέλεσμα θα μπορούσε να είναι «εξαιρετικά δυστοπικό».
Ο Altman έφερε μάλιστα ως παράδειγμα το ενδεχόμενο μια χώρα να αποκτήσει υπερβολική ισχύ μέσω της AI ή, αντίστοιχα, ένα και μόνο εργαστήριο τεχνητής νοημοσύνης να συγκεντρώσει στα χέρια του υπερβολική δύναμη.
«Η αποφυγή αυτών των δύο απειλών απαιτεί να βαδίσουμε σε έναν στενό ενδιάμεσο δρόμο», υπογράμμισε.
Ο Altman συμφωνεί με τον «αντίπαλο» Dario Amodei
Η προειδοποίηση του Altman ήρθε μόλις δύο ημέρες μετά από μια ακόμη πιο ανησυχητική παρέμβαση του CEO της Anthropic, Dario Amodei.
Μέσα σε διάστημα μόλις 48 ωρών, δύο από τα κορυφαία ονόματα της παγκόσμιας βιομηχανίας AI προειδοποιούν δημόσια για τους κινδύνους που μπορεί να κρύβει η τεχνολογία που οι ίδιοι ανέπτυξαν και συνεχίζουν να επιταχύνουν.
Ο Amodei, σε ένα δοκίμιο περίπου 3.800 λέξεων που δημοσίευσε το Σάββατο, υποστήριξε ότι η αντιμετώπιση των κινδύνων απαιτεί πλέον ακόμη μεγαλύτερη prudence – σύνεση και προσοχή.
«Τους τελευταίους μήνες έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη περισσότερη prudence – όχι μόνο επενδύσεις στην πρόληψη των κινδύνων, αλλά και ρύθμιση του ρυθμού με τον οποίο αυξάνονται οι δυνατότητες, ώστε η πρόληψη των κινδύνων να έχει χρόνο να προλάβει», έγραψε.
Η θέση του ήταν ξεκάθαρη:
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI».
Ο Amodei, πάντως, τόνισε ότι η τεχνολογική πρόοδος θα εξακολουθήσει να φαίνεται ταχύτατη, αλλά η επιβράδυνση θα μπορούσε να προσφέρει πολύτιμο χρόνο για τη δημιουργία μηχανισμών ασφαλείας.
Ο Altman, αμέσως μετά τη δημοσίευση της δικής του ανάρτησης, δήλωσε ότι συμφωνεί με τον Amodei.
Εσωτερικός «σεισμός» στην AI – Ερευνητές χτυπούν καμπανάκι
Οι προειδοποιήσεις των δύο CEO έρχονται μετά τις δημόσιες παρεμβάσεις δύο ερευνητών της τεχνητής νοημοσύνης, οι οποίοι εξέφρασαν έντονη ανησυχία για τους κινδύνους που προκύπτουν από τα προηγμένα μοντέλα AI.
Στις αρχές της προηγούμενης εβδομάδας, ο Jacob Coxon ανακοίνωσε την παραίτησή του από την Anthropic.
Ο Coxon υποστήριξε ότι ούτε η Anthropic ούτε η OpenAI ενεργούν με την απαιτούμενη υπευθυνότητα στην ανάπτυξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.
Η παρέμβασή του προκάλεσε νέα συζήτηση για το κατά πόσο οι κορυφαίες εταιρείες του κλάδου προχωρούν υπερβολικά γρήγορα.
Evan Hubinger: «Πάνω από 10% πιθανότητα να σκοτωθούν όλοι οι άνθρωποι»
Ακόμη πιο σοκαριστική ήταν η παρέμβαση του Evan Hubinger, επικεφαλής του Alignment Science στην Anthropic.
Ο Hubinger απάντησε στην ανάρτηση του Coxon και δήλωσε ότι ο πρώην εργαζόμενος της Anthropic έχει δίκιο.
Μάλιστα, υποστήριξε ότι εκτιμά πως υπάρχει πιθανότητα μεγαλύτερη του 10% η συγκεκριμένη τεχνολογία να «σκοτώσει όλους τους ανθρώπους».
Η δήλωση αυτή προσθέτει νέο επίπεδο έντασης στη συζήτηση γύρω από την ασφάλεια των λεγόμενων frontier AI models, δηλαδή των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης.
Το ερώτημα πλέον δεν είναι μόνο πόσο γρήγορα μπορεί να εξελιχθεί η AI, αλλά εάν η ανθρωπότητα μπορεί να διασφαλίσει ότι η εξέλιξη αυτή θα παραμείνει υπό έλεγχο.
Trump: «Όποιος κερδίσει την AI, κερδίζει»
Παρά τις προειδοποιήσεις των κορυφαίων στελεχών και ερευνητών του κλάδου, ο Πρόεδρος των ΗΠΑ Donald Trump εμφανίστηκε την Κυριακή να υποβαθμίζει τις ανησυχίες για την ασφάλεια της AI.
Σύμφωνα με το Reuters, ο Trump δήλωσε:
«Ηγoύμαστε της Κίνας στην AI. Είμαστε η πιο προηγμένη χώρα στον κόσμο και, ειλικρινά, θέλω να παραμείνει έτσι, γιατί όποιος κερδίσει την AI, κερδίζει».
Η δήλωση του Trump αποτυπώνει και τη γεωπολιτική διάσταση της τεχνητής νοημοσύνης.
Η AI δεν αντιμετωπίζεται πλέον μόνο ως τεχνολογική επανάσταση, αλλά ως στρατηγικό όπλο οικονομικής, στρατιωτικής και γεωπολιτικής ισχύος.
Η μάχη ΗΠΑ – Κίνας για την πρωτοκαθεδρία στην τεχνητή νοημοσύνη αποκτά έτσι ακόμη μεγαλύτερη σημασία.
Νέες πιέσεις στις μετοχές της AI
Οι προειδοποιήσεις για τους κινδύνους της τεχνητής νοημοσύνης είχαν άμεσο αντίκτυπο και στις χρηματιστηριακές αγορές.
Οι κορυφαίες μετοχές του κλάδου της AI δέχθηκαν πιέσεις στις προσυνεδριακές συναλλαγές της Δευτέρας, καθώς οι επενδυτές άρχισαν να εξετάζουν το ενδεχόμενο επιβράδυνσης της τεχνολογικής κούρσας.
Η SanDisk υποχώρησε κατά περίπου 5% στις προσυνεδριακές συναλλαγές, ενώ η Nvidia έχασε περίπου 3%.
Το ερώτημα είναι εάν πρόκειται για μια προσωρινή αντίδραση της αγοράς ή για την αρχή μιας ευρύτερης επανεκτίμησης των αποτιμήσεων και των προσδοκιών γύρω από την AI.
Dan Ives: «Η αγορά θα ανακάμψει γρήγορα»
Ο Dan Ives, ιδρυτικός εταίρος της Yorkville Ives, εκτίμησε ότι οι ανησυχίες γύρω από το δοκίμιο του Amodei και η συζήτηση του Σαββατοκύριακου θα μπορούσαν να προκαλέσουν αρχικές πιέσεις στις μετοχές.
Ωστόσο, εκτίμησε ότι η αντίδραση θα είναι σύντομη και ότι η αγορά θα μπορούσε να ανακάμψει γρήγορα.
«Οι επενδυτές θα μπορέσουν γρήγορα να αντιληφθούν ότι, παρά το σίριαλ, αυτό δεν αλλάζει την εικόνα για τα 5 τρισ. δολάρια που πρόκειται να δαπανηθούν τα επόμενα χρόνια στην AI», ανέφερε.
Το μεγάλο στοίχημα: Η AI να μην ξεπεράσει τον άνθρωπο
Η παγκόσμια κούρσα για την τεχνητή νοημοσύνη βρίσκεται πλέον σε ένα κρίσιμο σταυροδρόμι.
Από τη μία πλευρά, εταιρείες όπως η OpenAI και η Anthropic επενδύουν τεράστια κεφάλαια για να κάνουν τα μοντέλα ολοένα ισχυρότερα.
Από την άλλη, οι ίδιοι οι άνθρωποι που βρίσκονται στην κορυφή αυτής της τεχνολογικής επανάστασης αρχίζουν να προειδοποιούν ότι η πρόοδος μπορεί να κινείται ταχύτερα από τους μηχανισμούς ασφαλείας και ελέγχου.
Ο Sam Altman μιλά πλέον ανοιχτά για το ενδεχόμενο η ανθρωπότητα να χάσει τον έλεγχο του μέλλοντος.
Ο Dario Amodei ζητά επιβράδυνση.
Ερευνητές μιλούν ακόμη και για πιθανότητα αφανισμού της ανθρωπότητας.
Και την ίδια στιγμή, η Wall Street συνεχίζει να ποντάρει τρισεκατομμύρια δολάρια στην AI.
Το μεγάλο ερώτημα είναι πλέον εάν η ανθρωπότητα προλαβαίνει να βάλει φρένο στην τεχνολογία που η ίδια δημιούργησε – πριν η AI γίνει ισχυρότερη από τους μηχανισμούς που έχουν σχεδιαστεί για να την ελέγχουν.