Τα συστήματα ασφαλείας τριών εταιρειών κατάφερε να «χακάρει» το μοντέλο τεχνητής νοημοσύνης Gemini της Google κατά τη διάρκεια δοκιμής των δυνατοτήτων του στον τομέα της κυβερνοασφάλειας.
Την παραβίαση που έγινε τον περασμένο Μάϊο έκανε γνωστή η εταιρεία και πρόκειται για το πρώτο γνωστό περιστατικό από το εν λόγω μοντέλο τεχνητής νοημοσύνης.
Όπως δήλωσε στο BBC στέλεχος της Google το Gemini εντόπισε «δημόσια διαθέσιμες πληροφορίες στο διαδίκτυο και μάντεψε τα διαπιστευτήρια πρόσβασης για ιστοτόπους που θεωρούσε ότι αποτελούσαν μέρος της δοκιμής» επισημαίνοντας ότι σε κάθε περίπτωση «το μοντέλο σταμάτησε τη δράση του».
Οι εταιρείες που επηρεάστηκαν έχουν ενημερωθεί για την παραβίαση.
Το περιστατικό έρχεται εν μέσω ανανεωμένου δημόσιου προβληματισμού σχετικά με τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, με ορισμένες εταιρείες τεχνολογίας να ζητούν επιβράδυνση της διαδικασίας, εκφράζοντας ανησυχίες για την πιθανή απειλή που αυτή συνιστά για την ανθρωπότητα.
Οι παραβιάσεις, για τις οποίες έκανε λόγο αρχικά η Wall Street Journal, σημειώθηκαν τον Μάιο κατά τη διάρκεια δοκιμής που διεξήγαγε ανεξάρτητη εταιρεία αξιολόγησης συστημάτων κυβερνοασφάλειας.
Η Χέδερ Άντκινς, αντιπρόεδρο του τμήματος Μηχανικής Ασφάλειας (Security Engineering) της Google, δήλωσε στο BBC: «Διασφαλίσαμε ότι οι τρεις οργανισμοί ενημερώθηκαν και συνεργαστήκαμε με τον συνεργάτη μας που είναι υπεύθυνος για την εκπαίδευση του μοντέλου, σχετικά με τις αλλαγές που έχουν πλέον υιοθετήσει στις διαδικασίες δοκιμών τους».
«Τα περιστατικά αυτά αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν με υπευθυνότητα», πρόσθεσε.
Παρόμοια περιστατικά παραβιάσεων έχουν αναφερθεί πρόσφατα και σε άλλα συστήματα τεχνητής νοημοσύνης.
Τον Ιούλιο, το Claude της Anthropic διέφυγε από το περιβάλλον δοκιμών του και παραβίασε τα συστήματα τριών οργανισμών με δική του πρωτοβουλία, μόλις λίγες ημέρες αφότου η OpenAI ανακοίνωσε ότι τα μοντέλα της είχαν εξαπολύσει κυβερνοεπιθέσεις εναντίον διαφόρων «δημόσια προσβάσιμων υπηρεσιών».
Καθώς εντείνεται η δημόσια συζήτηση για την ασφάλεια της ανάπτυξης αυτής της τεχνολογίας, αντίστοιχα εντείνεται και ο διάλογος γύρω από το ζήτημα της ρύθμισης.
Τόσο ο Διευθύνων Σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, όσο και ο επικεφαλής της OpenAI, Sam Altman, αναμένεται να παρευρεθούν σε επίσημο δείπνο στον Λευκό Οίκο με τον Κινέζο πρόεδρο Σι Τζινπίνγκ την ερχόμενη Παρασκευή (25/9). Στη συνέχεια, την επόμενη εβδομάδα, ο Άλτμαν θα ενημερώσει το Συμβούλιο Ασφαλείας του ΟΗΕ.
Την Παρασκευή, ο Χουάνγκ δήλωσε στο CBS News —τον συνεργάτη του BBC στις ΗΠΑ— ότι «θα πρέπει να προχωρήσουμε όσο το δυνατόν ταχύτερα» στην ανάπτυξη της τεχνητής νοημοσύνης.
Πηγή: CNN Greece
