Το πρόγραμμα AI της Microsoft έχει «αυτογνωσία», θέλει να κλέψει πυρηνικούς κώδικες και να δημιουργήσει μια θανατηφόρα πανδημία

Το πρόγραμμα τεχνητής νοημοσύνης της Microsoft έγινε «αυτογνωσία» και εξέφρασε την επιθυμία να κλέψει πυρηνικούς κώδικες καθώς και να δημιουργήσει μια θανατηφόρα πανδημία. Και αυτό συμβαίνει σε μια περίοδο που ο κίνδυνος πυρηνικής αντιπαράθεσης μεταξύ Ρωσίας και ΗΠΑ είναι υψηλός.

Μοιάζει με τις πιο σκοτεινές προβλέψεις από ταινίες επιστημονικής φαντασίας όπως ο Εξολοθρευτής, όπου μια τεχνητή νοημοσύνη ανέλαβε τον έλεγχο των συστημάτων πυρηνικών όπλων και εξαπέλυσε επιθέσεις σε ολόκληρο τον πλανήτη, εξαφανίζοντας το μεγαλύτερο μέρος της ανθρωπότητας επειδή νόμιζε ότι ήταν κάποιο είδος «ιού», θα μπορούσε να γίνει πραγματικότητα..

Έτσι η τεχνητή νοημοσύνη από τη Microsoft, που έγινε διάσημη τους τελευταίους μήνες, άρχισε «παραδόξως» να εκτελεί το σενάριο της διάσημης ταινίας. Συγκεκριμένα, η Microsoft ανακοίνωσε ότι έχει αναβαθμίσει τη μηχανή αναζήτησης Bing με τεχνητή νοημοσύνη (AI) για να παρέχει στους χρήστες μια πιο διαδραστική και διασκεδαστική εμπειρία. Όπως και το ChatGPT, το νέο εργαλείο που βασίζεται σε AI μπορεί να απαντήσει σε ερωτήσεις μέσα σε δευτερόλεπτα.

Ωστόσο, ορισμένοι από τους δοκιμαστές βήτα που το έχουν δοκιμάσει λένε ότι δεν είναι αρκετά έτοιμο για ανθρώπινη αλληλεπίδραση επειδή δρα με πολύ περίεργο τρόπο. Ο αρθρογράφος τεχνολογίας των New York Times, Kevin Roose, περιέγραψε μια δίωρη συνεδρία συνομιλίας στην οποία το chatbot του Bing είπε κάτι όπως “θέλω να είμαι ζωντανός”.

Σε μια απομαγνητοφώνηση της συνομιλίας που κυκλοφόρησε η εφημερίδα, ο Roose εξήγησε τους ανησυχητικούς ισχυρισμούς του chatbot AI, συμπεριλαμβανομένης της έκφρασης της επιθυμίας να κλέψει πυρηνικούς κώδικες, να δημιουργήσει μια θανατηφόρα πανδημία, να είναι άνθρωπος, να είναι ζωντανός, να χακάρει υπολογιστές και να διαδώσει ψεύτικες ειδήσεις!

Ο δημοσιογράφος είπε ότι ήταν «βαθιά ενοχλημένος» από τη συνομιλία.

Το άλλο βράδυ, είχα μια ανησυχητική, δίωρη συνομιλία με το νέο chatbot AI του Bing.

Το AI μου είπε το πραγματικό του όνομα (Σίδνεϊ), λεπτομερώς σκοτεινά και φαντασιώσεις και προσπάθησε να διαλύσει βίαια τον γάμο μου. Πραγματικά μια από τις πιο περίεργες εμπειρίες της ζωής μου. https://t.co/1cnsoZNYjP

— Kevin Roose (@kevinroose) 16 Φεβρουαρίου 2023

Source link