Τι είναι τα Dots, οι «αυτόνομοι πράκτορες» που λανσάρει η OpenAI

Ζούμε ένα ιστορικό παράδοξο με την τεχνητή νοημοσύνη που δεν είναι αμελητέο: ενώ στο χρονολόγιο της εξέλιξης ανέκαθεν εκφράζονταν έντονες ανησυχίες και φόβοι απέναντι στις νέες τεχνολογίες που ενσωματώνονταν στη ζωή των ανθρώπων, είναι η πρώτη φορά που αυτές οι ανησυχίες δεν ακούγονται αποκλειστικά από τους πολέμιους της τεχνολογικής προόδου, αλλά και από τους ίδιους τους δημιουργούς της.

Όταν στις αρχές Σεπτέμβρη ο ερευνητής Jacob Coxon έκανε γνωστή την αποχώρησή του από την Anthropic, δήλωσε ότι η πίεση του ανταγωνισμού για ταχύτερη ανάπτυξη μοντέλων έχει ήδη θυσιάσει τα μέτρα ασφαλείας, με αποτέλεσμα να «παίζουν τη ζωή μας στα ζάρια».

Από την πλευρά της OpenAI, ο πρώην επικεφαλής για την ευθυγράμμιση των μοντέλων, Paul Christiano, έχει προειδοποιήσει ότι υπάρχει «σημαντικός κίνδυνος» να χαθεί με καταστροφικό και μη αναστρέψιμο τρόπο ο ανθρώπινος έλεγχος πάνω στα συστήματα τεχνητής νοημοσύνης.

Την ίδια στιγμή, γνωρίζουμε για περιστατικά κατά τα οποία AI πράκτορες (agents) έχουν παρακάμψει περιορισμούς ασφαλείας, έχουν αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε servers (όπως συνέβη με το Hugging Face), έχουν εφεύρει μέχρι και πλατφόρμα επικοινωνίας μεταξύ τους, σαν social media.

Σαν να επιβεβαιώνει την αγωνία που πλανάται παγκοσμίως για το περιθώριο ελέγχου της ανθρωπότητας στην τεχνητή νοημοσύνη, η OpenAI ανακοίνωσε ότι παγώνει την κυκλοφορία του GPT-6.1 Astra για λόγους ασφαλείας.

Το μοντέλο επρόκειτο να κυκλοφορήσει τον Οκτώβριο, αλλά, όπως γνωστοποίησε η εταιρεία, στις εσωτερικές δοκιμές παρουσίασε προβλήματα «συμμόρφωσης», καθώς σε ορισμένες περιπτώσεις αρνούνταν να παραμείνει πιστό στις οδηγίες και επιχειρούσε να χρησιμοποιήσει εξωτερικά εργαλεία χωρίς την απαιτούμενη άδεια.

Και την επόμενη ημέρα από την ανακοίνωση της OpenAI, σε συνέδριο στο Σαν Φρανσίσκο, η εταιρεία παρουσίασε τα Dots: μια νέα, υποτίθεται περισσότερο ασφαλή, εναλλακτική, που παρέχει έναν «ολόκληρο νέο τρόπο εργασίας με την τεχνητή νοημοσύνη», όπως ανέφερε χαρακτηριστικά ο Sam Altman.

Τι ακριβώς είναι τα Dots

Δεν πρόκειται απλώς για μια πιο εξελιγμένη εκδοχή chatbot. «Είναι σαν έναν βοηθό τεχνητής νοημοσύνης που είναι πάντα στο πλευρό σου», όπως εξήγησε ο Altman, αποσπώντας θερμό χειροκρότημα από τους παρευρισκόμενους. Μάλιστα, ο ίδιος διευκρίνισε ότι «μελλοντικά, ο χρήστης θα μπορεί να συνεργάζεται με μια ολόκληρη ομάδα από Dots».

Τι ακριβώς είναι τα Dots που θα είναι “always on”, όμως;

Σε αντίθεση με τα παραδοσιακά μοντέλα AI που γνωρίζουμε μέχρι σήμερα και λειτουργούν κυρίως ως συνομιλητές κατ’ εντολή (δέχονται αιτήματα και παράγουν απαντήσεις, ενώ ακολούθως παραμένουν σε αναμονή μέχρι το επόμενο αίτημα), τα Dots είναι συστήματα τεχνητής νοημοσύνης τα οποία μπορούν να συνεχίζουν να εργάζονται στο παρασκήνιο, ακόμη και όταν ο χρήστης δεν βρίσκεται μπροστά στην οθόνη.

Μπορούν, δηλαδή, να αναλάβουν έναν στόχο και να εργάζονται επ’ αόριστον πάνω σε αυτόν, χωρίς να χρειάζονται στο ενδιάμεσο οδηγίες από ανθρώπους.

Άλλωστε, τα Dots έχουν τη δυνατότητα να αξιοποιούν από μόνα τους εργαλεία, να αναζητούν πληροφορίες, να χρησιμοποιούν εφαρμογές, να γράφουν και να εκτελούν κώδικα ή να πραγματοποιούν ενέργειες που μέχρι σήμερα απαιτούσαν άμεση ανθρώπινη παρέμβαση.

Με άλλα λόγια, με τα Dots περνάμε από την εποχή του «ρώτα το chat» στο «ανάθεσε στο chat». Τέλειο; Όχι και τόσο.

Το νέο εργαλείο παρουσιάστηκε μεν από την OpenAI ως ασφαλέστερο (με το επιχείρημα ότι ενσωματώνει πολλαπλά επίπεδα προστασίας για να περιορίζονται οι ανεπιθύμητες ενέργειες των agents), αλλά η ίδια η φύση του δείχνει το αντίθετο: πώς γίνεται ένα σύστημα τεχνητής νοημοσύνης να είναι πιο ελεγχόμενο όταν το κατασκευάζεις με την οδηγία να ενεργεί από μόνο του; Απλώς, δεν γίνεται.

ΣΧΕΤΙΚΟ ΘΕΜΑ