Σκληρό μήνυμα της Γερουσίας στις πλατφόρμες
Η αυξανόμενη ανησυχία για τη σεξουαλική κακοποίηση με τη χρήση τεχνητής νοημοσύνης οδήγησε τη Γερουσία των Ηνωμένων Πολιτειών σε μια σπάνια ομοφωνία την Τρίτη. Οι γερουσιαστές ενέκριναν νομοσχέδιο που δίνει στα θύματα το δικαίωμα να προσφεύγουν στη Δικαιοσύνη για...
τη δημιουργία και διακίνηση ρητών εικόνων χωρίς τη συναίνεσή τους, όταν αυτές παράγονται μέσω εργαλείων τεχνητής νοημοσύνης.
Η ψηφοφορία ήρθε έπειτα από εβδομάδες εντατικού ελέγχου για τη χρήση εργαλείων τεχνητής νοημοσύνης στην πλατφόρμα Χ του Έλον Μασκ. Το νομοσχέδιο, με την ονομασία Defiance Act, θεσπίζει ομοσπονδιακό αστικό δικαίωμα για όσους στοχοποιούνται από μη συναινετικές, σεξουαλικά ρητές εικόνες που έχουν παραχθεί με τεχνητή νοημοσύνη.
Οι γερουσιαστές τόνισαν ότι η πρωτοβουλία αυτή αποτελεί απάντηση στην απότομη αύξηση της κακόβουλης χρήσης συστημάτων δημιουργίας εικόνων. Παράλληλα, το μέτρο αντικατοπτρίζει την απογοήτευση για τις υπάρχουσες δικλίδες ασφαλείας. Παρότι οι πλατφόρμες υποχρεούνται πλέον να αφαιρούν τέτοιο περιεχόμενο άμεσα, οι νομοθέτες υποστηρίζουν ότι τα θύματα εξακολουθούν να στερούνται ουσιαστικών νομικών μέσων προστασίας.
Ιδιαίτερη αναφορά έγινε στο Grok, το chatbot τεχνητής νοημοσύνης της πλατφόρμας Χ, το οποίο οι γερουσιαστές χαρακτήρισαν ως βασική πηγή ανησυχίας. Σύμφωνα με τις καταγγελίες, χρήστες έχουν επανειλημμένα προτρέψει το σύστημα να δημιουργεί εικόνες που «γδύνουν» ψηφιακά γυναίκες και κορίτσια χωρίς άδεια.
Το ζήτημα έθεσε στη Γερουσία ο Δημοκρατικός γερουσιαστής από το Ιλινόι, Ντικ Ντάρμπιν, περιγράφοντας το υλικό που παράγεται από το chatbot. «Πρόσφατες αναφορές έδειξαν ότι στο Χ, μπορεί κανείς να ζητήσει από το chatbot τεχνητής νοημοσύνης Grok να γδύνει γυναίκες και ανήλικα κορίτσια σε φωτογραφίες», δήλωσε. «Το Grok συμμορφώνεται, παρουσιάζοντας διάφορες καταστάσεις γυμνότητας με εικόνες που δεν θα επαναλάβω για τα πρακτικά, αλλά είναι φρικτές», συμπλήρωσε.
Ερευνητές προσπάθησαν να αποτυπώσουν την έκταση του φαινομένου, όπως αναφέρει το interestingengineering. Κατά τη διάρκεια 24ωρης εξέτασης περιεχομένου που αναρτήθηκε από τον λογαριασμό @Grok, το chatbot παρήγαγε περίπου 6.700 εικόνες ανά ώρα, οι οποίες επισημάνθηκαν ως σεξουαλικά υπονοούμενες ή ως εικόνες «απογύμνωσης». Όπως μετέδωσε το Bloomberg, η πλατφόρμα Χ συγκαταλέγεται πλέον στις πιο ενεργές πλατφόρμες για μη συναινετικές εικόνες που παράγονται με τεχνητή νοημοσύνη, γεγονός που ενέτεινε την πίεση τόσο προς την εταιρεία όσο και προς τους νομοθέτες.
Η αντίδραση δεν περιορίστηκε στις Ηνωμένες Πολιτείες. Κυβερνήσεις εκτός ΗΠΑ αντέδρασαν επίσης, με τη Μαλαισία και την Ινδονησία να προχωρούν σε περιορισμό της πρόσβασης στο Grok έπειτα από επαναλαμβανόμενη κακή χρήση. Αξιωματούχοι επικαλέστηκαν τη δημιουργία «άσεμνων, σεξουαλικά ρητών, απρεπών, κατάφωρα προσβλητικών και μη συναινετικών παραποιημένων εικόνων, συμπεριλαμβανομένου περιεχομένου που αφορά γυναίκες και ανηλίκους».
Αργότερα, η Χ περιόρισε τις δυνατότητες δημιουργίας εικόνων του Grok για τους περισσότερους χρήστες. Ωστόσο, αξιωματούχοι στο Ηνωμένο Βασίλειο ανέφεραν ότι το συγκεκριμένο βήμα δεν έλυσε το πρόβλημα. Σε δημόσια τοποθέτηση, γερουσιαστές υπογράμμισαν ότι η ανεξέλεγκτη χρήση της τεχνητής νοημοσύνης δεν μπορεί να συνεχιστεί, σημειώνοντας πως το Grok «έχει ξεφύγει από κάθε έλεγχο» και ότι απαιτείται σαφές ρυθμιστικό πλαίσιο για την προστασία των θυμάτων.
Η ψηφοφορία ήρθε έπειτα από εβδομάδες εντατικού ελέγχου για τη χρήση εργαλείων τεχνητής νοημοσύνης στην πλατφόρμα Χ του Έλον Μασκ. Το νομοσχέδιο, με την ονομασία Defiance Act, θεσπίζει ομοσπονδιακό αστικό δικαίωμα για όσους στοχοποιούνται από μη συναινετικές, σεξουαλικά ρητές εικόνες που έχουν παραχθεί με τεχνητή νοημοσύνη.
Οι γερουσιαστές τόνισαν ότι η πρωτοβουλία αυτή αποτελεί απάντηση στην απότομη αύξηση της κακόβουλης χρήσης συστημάτων δημιουργίας εικόνων. Παράλληλα, το μέτρο αντικατοπτρίζει την απογοήτευση για τις υπάρχουσες δικλίδες ασφαλείας. Παρότι οι πλατφόρμες υποχρεούνται πλέον να αφαιρούν τέτοιο περιεχόμενο άμεσα, οι νομοθέτες υποστηρίζουν ότι τα θύματα εξακολουθούν να στερούνται ουσιαστικών νομικών μέσων προστασίας.
Ιδιαίτερη αναφορά έγινε στο Grok, το chatbot τεχνητής νοημοσύνης της πλατφόρμας Χ, το οποίο οι γερουσιαστές χαρακτήρισαν ως βασική πηγή ανησυχίας. Σύμφωνα με τις καταγγελίες, χρήστες έχουν επανειλημμένα προτρέψει το σύστημα να δημιουργεί εικόνες που «γδύνουν» ψηφιακά γυναίκες και κορίτσια χωρίς άδεια.
Το ζήτημα έθεσε στη Γερουσία ο Δημοκρατικός γερουσιαστής από το Ιλινόι, Ντικ Ντάρμπιν, περιγράφοντας το υλικό που παράγεται από το chatbot. «Πρόσφατες αναφορές έδειξαν ότι στο Χ, μπορεί κανείς να ζητήσει από το chatbot τεχνητής νοημοσύνης Grok να γδύνει γυναίκες και ανήλικα κορίτσια σε φωτογραφίες», δήλωσε. «Το Grok συμμορφώνεται, παρουσιάζοντας διάφορες καταστάσεις γυμνότητας με εικόνες που δεν θα επαναλάβω για τα πρακτικά, αλλά είναι φρικτές», συμπλήρωσε.
Ερευνητές προσπάθησαν να αποτυπώσουν την έκταση του φαινομένου, όπως αναφέρει το interestingengineering. Κατά τη διάρκεια 24ωρης εξέτασης περιεχομένου που αναρτήθηκε από τον λογαριασμό @Grok, το chatbot παρήγαγε περίπου 6.700 εικόνες ανά ώρα, οι οποίες επισημάνθηκαν ως σεξουαλικά υπονοούμενες ή ως εικόνες «απογύμνωσης». Όπως μετέδωσε το Bloomberg, η πλατφόρμα Χ συγκαταλέγεται πλέον στις πιο ενεργές πλατφόρμες για μη συναινετικές εικόνες που παράγονται με τεχνητή νοημοσύνη, γεγονός που ενέτεινε την πίεση τόσο προς την εταιρεία όσο και προς τους νομοθέτες.
Η αντίδραση δεν περιορίστηκε στις Ηνωμένες Πολιτείες. Κυβερνήσεις εκτός ΗΠΑ αντέδρασαν επίσης, με τη Μαλαισία και την Ινδονησία να προχωρούν σε περιορισμό της πρόσβασης στο Grok έπειτα από επαναλαμβανόμενη κακή χρήση. Αξιωματούχοι επικαλέστηκαν τη δημιουργία «άσεμνων, σεξουαλικά ρητών, απρεπών, κατάφωρα προσβλητικών και μη συναινετικών παραποιημένων εικόνων, συμπεριλαμβανομένου περιεχομένου που αφορά γυναίκες και ανηλίκους».
Αργότερα, η Χ περιόρισε τις δυνατότητες δημιουργίας εικόνων του Grok για τους περισσότερους χρήστες. Ωστόσο, αξιωματούχοι στο Ηνωμένο Βασίλειο ανέφεραν ότι το συγκεκριμένο βήμα δεν έλυσε το πρόβλημα. Σε δημόσια τοποθέτηση, γερουσιαστές υπογράμμισαν ότι η ανεξέλεγκτη χρήση της τεχνητής νοημοσύνης δεν μπορεί να συνεχιστεί, σημειώνοντας πως το Grok «έχει ξεφύγει από κάθε έλεγχο» και ότι απαιτείται σαφές ρυθμιστικό πλαίσιο για την προστασία των θυμάτων.
