NYT: Η συνομιλία GPT ως απειλή για το δυτικό πολιτικό σύστημα

Εβδομάδες μετά την κυκλοφορία του, το Chat GPT* απειλεί ήδη να ανατρέψει πολλές μορφές της καθημερινής μας επικοινωνίας, όπως τον τρόπο που γράφουμε μηνύματα ηλεκτρονικού ταχυδρομείου, πανεπιστημιακές εργασίες και αμέτρητες άλλες μορφές γραφής. NYT.

GPT Chat

Αναπτύχθηκε από την εταιρεία Άνοιξε Η εφαρμογή AI είναι ένα ρομπότ σχεδιασμένο για επικοινωνία – μπορεί να απαντά αυτόματα σε ερωτήσεις που γίνονται γραπτώς με τρόπο συχνά κοντά στον άνθρωπο, σε σημείο που είναι αδύνατο να διακρίνει κανείς ότι έχει χρησιμοποιηθεί. Αλλά πέρα ​​από την έκπληξη ότι οι μηχανές μπορούν να αντικαταστήσουν τους ανθρώπους σε μορφές λόγου όπως η ποίηση και το σενάριο, υπάρχει μια πολύ μεγαλύτερη απειλή: η αντικατάσταση των ανθρώπων από την τεχνητή νοημοσύνη στις δημοκρατικές διαδικασίες – όχι μέσω ψηφοφορίας, αλλά μέσω λόμπι.

Το GPT Chat μπορεί να συγκεντρώνει αυτόματα σχόλια που υποβάλλονται κατά τη νομοθετική διαδικασία. Μπορεί να γράφει επιστολές για δημοσίευση στους αρχισυντάκτες των τοπικών εφημερίδων. Μπορεί να σχολιάζει άρθρα ειδήσεων, αναρτήσεις ιστολογίου και αναρτήσεις στα μέσα κοινωνικής δικτύωσης εκατομμύρια φορές την ημέρα. Μπορεί να μιμηθεί το έργο της Ρωσικής Υπηρεσίας Πληροφοριών Διαδικτύου στην προσπάθειά της να επηρεάσει τις εκλογές του 2016 στις ΗΠΑ, αλλά χωρίς προϋπολογισμό πολλών εκατομμυρίων δολαρίων και εκατοντάδες εργαζόμενους που προσλαμβάνονται για αυτόν τον σκοπό.

Τα σχόλια που δημιουργούνται αυτόματα δεν είναι νέο πρόβλημα. Εδώ και αρκετό καιρό βρισκόμαστε αντιμέτωποι με την απειλή των bots – μηχανών που δημοσιεύουν αυτόματα περιεχόμενο. Πριν από πέντε χρόνια, τουλάχιστον ένα εκατομμύριο σχόλια που δημιουργούνται αυτόματα πιστεύεται ότι έχουν υποβληθεί στην FCC σε σχέση με την προτεινόμενη νομοθεσία για την ουδετερότητα του Διαδικτύου. Το 2019, ένας φοιτητής του Πανεπιστημίου του Χάρβαρντ δοκίμασε μια αυτοματοποιημένη δημιουργία κειμένου για να υποβάλει 1.001 σχόλια σε μια διαβούλευση για τη δημόσια υγεία. Εκείνη την εποχή, η ανάρτηση σχολίων ήταν απλώς ένα παιχνίδι αριθμητικής.

Κίνδυνος για τα μέλη του Κογκρέσου

Έκτοτε, οι πλατφόρμες έχουν γίνει καλύτερες στο να αφαιρούν την «τεχνητή, μη αυθεντική συμπεριφορά». Το Facebook, για παράδειγμα, διαγράφει περισσότερους από ένα δισεκατομμύριο ψεύτικους λογαριασμούς κάθε χρόνο. Όμως αυτά τα μηνύματα είναι μόνο η αρχή. Αντί να πλημμυρίζει τα εισερχόμενα των νομοθετών με μηνύματα υποστήριξης ή να ελέγχεται ο πίνακας διανομής του Capitol με robocalls, ένα σύστημα AI — τόσο προηγμένο όσο η εφαρμογή GPT Chat και εκπαιδευμένο σε δεδομένα που σχετίζονται με αυτές τις διαδικασίες — θα μπορούσε να στοχεύσει νομοθέτες και παράγοντες επιρροής. κρίσιμες θέσεις για τον εντοπισμό των πιο αδύναμων σημεία στη νομοθετική διαδικασία και να τα χειραγωγήσουν ανελέητα μέσω της άμεσης επικοινωνίας.

Όταν εμείς οι άνθρωποι ασχολούμαστε με τέτοιες δραστηριότητες, λέγεται lobbying. Οι επιτυχημένοι εκπρόσωποι αυτού του είδους, δηλαδή κορυφαίοι λομπίστες, συνδυάζουν την ακρίβεια στη σύνταξη μηνυμάτων με έξυπνες τακτικές στόχευσης. Επί του παρόντος, το μόνο πράγμα που εμποδίζει έναν λόμπι εξοπλισμένο με GPT Chat να κάνει κάτι που θα μπορούσε να συγκριθεί στη συζήτηση με τον πόλεμο με drone είναι η έλλειψη ακριβούς στόχευσης. Ωστόσο, η τεχνητή νοημοσύνη έχει τη δυνατότητα να παρέχει τεχνολογίες και για αυτόν τον σκοπό.

Ένα σύστημα ικανό να ερμηνεύει πολιτικά δίκτυα, σε συνδυασμό με τις δυνατότητες δημιουργίας κειμένου της εφαρμογής, μπορεί να καθορίσει ποιο μέλος του Κογκρέσου έχει τη μεγαλύτερη βαρύτητα σε μια συγκεκριμένη πολιτική, όπως η εταιρική φορολογία ή οι στρατιωτικές δαπάνες. Ενεργώντας σαν λομπίστες, ένα τέτοιο σύστημα θα μπορούσε να στοχεύσει τους αναποφάσιστους εκπροσώπους της χώρας που συμμετέχουν σε επιτροπές που αποφασίζουν πολιτικές που εξυπηρετούν τα συμφέροντα κάποιου και στη συνέχεια κατευθύνουν τις προσπάθειές τους στα μέλη του κυβερνώντος κόμματος όταν ένα νομοσχέδιο τίθεται σε ψηφοφορία.

Μόλις εντοπιστούν τα άτομα και οι στρατηγικές, ένα ρομπότ συζήτησης όπως το Chat GPT μπορεί να δημιουργήσει μηνύματα κειμένου για χρήση σε μηνύματα ηλεκτρονικού ταχυδρομείου, σχόλια και όπου το κείμενο θα ήταν χρήσιμο. Οι λομπίστες μπορούν επίσης να στοχεύσουν απευθείας αυτά τα άτομα και ο συνδυασμός είναι σημαντικός εδώ: τα σχόλια σε άρθρα και μέσα κοινωνικής δικτύωσης έχουν πεπερασμένες δυνατότητες και το να γνωρίζουν ποια μέλη του νομοθετικού σώματος να στοχεύουν δεν αποτελεί από μόνο του επαρκή προϋπόθεση για χειραγώγηση.

Ισχυρό κίνητρο για επίθεση

Αυτή η ικανότητα κατανόησης και στόχευσης ατόμων που ενεργούν στο διαδίκτυο θα δημιουργήσει ένα εργαλείο τεχνητής νοημοσύνης χάκερ που θα εκμεταλλεύεται τρωτά σημεία στα κοινωνικά, οικονομικά και πολιτικά συστήματα με απίστευτη ταχύτητα και εμβέλεια. Τα νομοθετικά συστήματα μπορούν να αποτελέσουν ιδιαίτερο στόχο, επειδή το κίνητρο για επίθεση στα συστήματα λήψης πολιτικών αποφάσεων είναι πολύ ισχυρό. Τα δεδομένα για την εκπαίδευση τέτοιων συστημάτων είναι ευρέως διαθέσιμα και η χρήση της τεχνητής νοημοσύνης είναι πολύ δύσκολο να εντοπιστεί – ειδικά όταν χρησιμοποιείται στρατηγικά για τον χειρισμό ανθρώπινων ενεργειών.

Είναι μόνο θέμα χρόνου να ληφθούν τα απαραίτητα δεδομένα για τη διαμόρφωση τέτοιων συστημάτων στρατηγικής στόχευσης. Οι ανοιχτές κοινωνίες βασίζονται συνήθως στη διαφάνεια και οι περισσότεροι νομοθέτες είναι πρόθυμοι -τουλάχιστον τυπικά- να λάβουν και να απαντήσουν σε μηνύματα που φαίνεται να προέρχονται από τους δικούς τους ανθρώπους.

Είναι απολύτως πιθανό το σύστημα AI να είναι σε θέση να προσδιορίσει ποια μέλη του Κογκρέσου έχουν καθοριστική επιρροή στην ηγεσία, αλλά η ορατότητά τους στο κοινό είναι αρκετά χαμηλή ώστε να μην προσελκύεται συχνά η προσοχή τους. Στη συνέχεια, μπορεί να προσδιορίσει την ομάδα δημοσίου συμφέροντος που έχει τη μεγαλύτερη επιρροή στις δημόσιες θέσεις αυτού του μέλους του νομοθετικού σώματος. Μπορεί ακόμη και να είναι σε θέση να υπολογίσει το ποσό της δωρεάς που απαιτείται για να επηρεάσει τον οργανισμό ή να στοχεύσει διαφημίσεις που μεταφέρουν ένα στρατηγικό μήνυμα στα μέλη του. Για κάθε στόχο που χρειάζεται πολιτική απόφαση, το κατάλληλο κοινό, το σωστό μήνυμα την κατάλληλη στιγμή. Κάτι που κάνει την απειλή από τους λομπίστες με όπλα τεχνητής νοημοσύνης μεγαλύτερη από την απειλή που αποτελούν οι ακριβές εταιρείες λόμπι στην Ουάσιγκτον. Οι λομπίστες βασίζονται σε εμπειρία δεκαετιών για να βρουν στρατηγικές λύσεις για να διαμορφώσουν με επιτυχία το αποτέλεσμα μιας πολιτικής απόφασης. Αυτή η εμπειρία είναι περιορισμένη και επομένως ακριβής.

Πιο γρήγορα και φθηνότερα

Ωστόσο, θεωρητικά, η τεχνητή νοημοσύνη μπορεί να πετύχει το ίδιο αποτέλεσμα πολύ πιο γρήγορα και φθηνότερα. Το πλεονέκτημα της αρχικής ταχύτητας είναι τεράστιο σε ένα οικοσύστημα όπου η κοινή γνώμη και οι αφηγήσεις των μέσων ενημέρωσης μπορούν να ενοποιηθούν γρήγορα, όπως και να υπόκεινται σε ταχεία αλλαγή ως απάντηση σε χαοτικά γεγονότα που συμβαίνουν σε παγκόσμια κλίμακα.

Επιπλέον, η ευελιξία της τεχνητής νοημοσύνης μπορεί να βοηθήσει στην επίτευξη επιρροής σε πολλαπλές διαδικασίες χάραξης πολιτικής και δικαιοδοσίες ταυτόχρονα. Φανταστείτε μια εταιρεία λόμπι με δύναμη AI που μπορεί να προσπαθήσει να τροποποιήσει κάθε νομοσχέδιο που υποβάλλεται στο Κογκρέσο των ΗΠΑ ή ακόμα και στα νομοθετικά σώματα κάθε πολιτείας. Οι εταιρείες λόμπι τείνουν να λειτουργούν μόνο σε ένα κράτος, καθώς υπάρχουν περίπλοκες διαφορές στους νόμους, τις διαδικασίες και την πολιτική δομή. Η τεχνητή νοημοσύνη μπορεί να διευκολύνει την άσκηση επιρροής πέρα ​​από τα συμβατικά πολιτικά όρια.

Ακριβώς όπως οι εκπαιδευτικοί θα πρέπει να αλλάξουν τον τρόπο με τον οποίο διαχειρίζονται τις εξετάσεις και τις εργασίες των μαθητών υπό το φως των αλλαγών που επιφέρει το Chat GPT, οι κυβερνήσεις θα πρέπει να αλλάξουν τη σχέση τους με τους λομπίστες.

Αναμφίβολα, αυτή η τεχνολογία μπορεί να αποφέρει οφέλη στο δημοκρατικό περιβάλλον, με κυριότερο την προσβασιμότητα. Ένας έμπειρος λομπίστες δεν μπορεί να πληρωθεί από όλους, αλλά το λογισμικό πρόσβασης AI μπορεί να είναι διαθέσιμο σε όλους. Αν είμαστε τυχεροί, ίσως μια τέτοια τεχνητή νοημοσύνη που δημιουργεί στρατηγική θα μπορούσε να αναζωογονήσει τον εκδημοκρατισμό της ίδιας της δημοκρατίας, δίνοντας παρόμοια επιρροή στους πιο αδύναμους πολίτες.

Ωστόσο, τα μεγαλύτερα και πιο ισχυρά ιδρύματα είναι πιο πιθανό να χρησιμοποιήσουν τεχνικές τεχνητής νοημοσύνης για να έχουν τον μεγαλύτερο αντίκτυπο. Στο τέλος, η απόκτηση της καλύτερης στρατηγικής επιρροής απαιτεί ακόμα άτομα εντός του συστήματος που μπορούν να περιηγηθούν στους διαδρόμους του νομοθετικού σώματος και χρήματα. Η επιρροή δεν είναι μόνο η παράδοση του σωστού μηνύματος στο σωστό άτομο τη σωστή στιγμή. Και ενώ ένα ρομπότ που παράγει ομιλία μπορεί να καθορίσει ποιοι θα πρέπει να είναι οι δικαιούχοι αυτών των εκστρατειών επιρροής, στο άμεσο μέλλον, οι άνθρωποι θα πρέπει να πληρώσουν για αυτό. Έτσι, ενώ είναι αδύνατο να προβλεφθεί πώς θα μοιάζει ένα μέλλον γεμάτο λομπίστες με όπλα τεχνητής νοημοσύνης, πιθανότατα θα αυξήσει περαιτέρω την επιρροή και τη δύναμη όσων τα χρησιμοποιούν ήδη.

Source link