Τις τελευταίες εβδομάδες, έχει ξεσπάσει μια διαμάχη γύρω από το TikTok. λόγω της μαζικής εξάπλωσης του ρατσιστικά βίντεο που δημιουργούνται από τεχνητή νοημοσύνηΑυτές οι δημιουργίες έχουν επιτύχει ευρεία διάδοση και έχουν σημάνει συναγερμό σχετικά με τους κινδύνους των νέων εργαλείων Τεχνητής Νοημοσύνης, θέτοντας υπό αμφισβήτηση την ικανότητα των πλατφορμών και των ίδιων των προγραμματιστών να περιορίσουν την εχθρικός λόγος που ταξιδεύουν στο δίκτυο με πλήρη ταχύτητα.
Η διαμάχη επικεντρώνεται στη νέα τεχνητή νοημοσύνη της Google, Veo 3, που παρουσιάστηκε πρόσφατα και το οποίο εφιστά την προσοχή για την ικανότητά του να δημιουργεί υπερρεαλιστικά κλιπ διάρκειας έως και οκτώ δευτερολέπτων απλώς από ένα μήνυμα. Σύμφωνα με αρκετές αναφορές από οργανισμούς όπως το Media Matters, αυτά τα βίντεο έχουν ανέβει στο TikTok από δεκάδες λογαριασμούς, συγκεντρώνοντας εκατομμύρια προβολές.
Βίντεο γεμάτα ρατσιστικά στερεότυπα και απανθρωποποίηση
Η καταγγελία της Media Matters επικεντρώνεται Περιεχόμενο που απεικονίζει μαύρους ως πιθήκους, εγκληματίες ή εθισμένους σε ορισμένα τρόφιμα, καθώς και εικόνες μεταναστών, Εβραίων και ατόμων ασιατικής καταγωγής που χλευάζονται και συγκρίνονται επιζήμια. Σε ένα από τα πιο viral κλιπ, για παράδειγμα, δύο λευκοί αστυνομικοί σε περιπολικό πυροβολούν έναν μαύρο αφού τον σημάδεψαν, σε μια σκηνή που έχει πάνω από 14 εκατομμύρια προβολές.
Άλλα βίντεο, που δημιουργήθηκαν με Veo 3, δείχνουν Ασιάτες άνδρες να κυνηγιούνται από είδη προσωπικής υγιεινής ή να περιβάλλονται από εικόνες γατών και σκύλων, παραπέμποντας σε παλιά στερεότυπα, ενώ μέλη της εβραϊκής κοινότητας κυνηγούν χρυσά νομίσματα ή υπόκεινται σε σαφείς αναφορές στον ναζισμό και τα στρατόπεδα συγκέντρωσης. Αυτά τα κλιπ, τα οποία σε πολλές περιπτώσεις φέρουν το ορατό υδατογράφημα της τεχνητής νοημοσύνης της Google, έχουν κοινοποιηθεί με hashtag όπως #Veo3 ή #AI, διευκολύνοντας περαιτέρω την ιογενή εξάπλωσή τους.
Εκτός από το άσεμνο περιεχόμενο, τα σχόλια στις αναρτήσεις περιέχουν ένας μεγάλος αριθμός μηνυμάτων που ενισχύουν ή γιορτάζουν τα στερεότυπα που παρουσιάζονται, τα οποία πολλαπλασιάζει το εύρος του μεροληπτικού λόγου και συμβάλλει στην ομαλοποίησή του.
Η Τεχνητή Νοημοσύνη προστατεύει τα ελαττώματα και τις προκλήσεις του ελέγχου
Η εμφάνιση αυτών των βίντεο έδειξε πόσο απλό είναι παρακάμπτοντας τα αυτόματα φίλτρα της τεχνητής νοημοσύνηςΠαρόλο που η Google προώθησε το Veo 3 ως εργαλείο με προηγμένες δικλείδες ασφαλείας (συμπεριλαμβανομένων υδατογραφημάτων και αυτόματου αποκλεισμού για ορισμένα αιτήματα), οι χρήστες κατάφεραν να βρουν κενά στο σύστημα για τη δημιουργία προσβλητικού περιεχομένου.
Οι ειδικοί επισημαίνουν ότι η Τεχνητή Νοημοσύνη δεν είναι πάντα σε θέση να καταγράψει η λεπτότητα ορισμένων ρατσιστικών συμβόλων και αναφορών, το οποίο επιτρέπει σε εικόνες που φαίνονται αθώες να περνούν από τεχνικά φίλτρα, αλλά περιέχουν ένα μεροληπτικό μήνυμα που αναγνωρίζεται εύκολα από όσους επιδιώκουν να καταναλώσουν τέτοιο υλικό. αποτυχίες στην κατανόηση των συμφραζόμενων να προκαλέσουν πολλές προβληματικές δημιουργίες να ξεγλιστρήσουν από το δίχτυ πριν αξιολογηθούν από ανθρώπινους συντονιστές.
Σύμφωνα με εκπροσώπους του TikTok, το κοινωνικό δίκτυο συνδυάζει αλγόριθμους ανίχνευσης με χειροκίνητη εποπτεία για την καταπολέμηση του μίσους και της παραπληροφόρησης, και ισχυρίζεται ότι έχει αφαιρέσει δεκάδες εμπλεκόμενους λογαριασμούς και βίντεο, σε πολλές περιπτώσεις πριν το σκάνδαλο φτάσει στα μέσα ενημέρωσης. Ωστόσο, το ταχύτητα διάδοσης καθιστά τη ζημιά ήδη προκληθείσα όταν λαμβάνονται μέτρα.
TikTok και Google υπό πίεση για ενίσχυση των πολιτικών τους
Και οι δύο εταιρείες επανέλαβαν ότι Απαγορεύουν ρητά τη διάδοση ρητορικής μίσους ή περιεχομένου που εισάγει διακρίσεις. στις πλατφόρμες του. Το TikTok τονίζει στις οδηγίες του ότι τα βίντεο που απανθρωποποιώ οποιαδήποτε ομάδα, ενώ η Google ισχυρίζεται ότι οι υπηρεσίες τεχνητής νοημοσύνης της περιλαμβάνουν αυτόματο αποκλεισμό όταν εντοπίζονται επιβλαβείς όροι ή προθέσεις.
Στην πράξη, ωστόσο, Η μαζική μετριοπάθεια είναι ανεπαρκήςΟι ίδιες οι εταιρείες αναγνωρίζουν ότι η όγκος βίντεο Ο αυξανόμενος αριθμός νέων μεταφορτώσεων δεδομένων δυσχεραίνει τον αποτελεσματικό έλεγχο σε πραγματικό χρόνο. Επιπλέον, στην περίπτωση της Τεχνητής Νοημοσύνης, οι προγραμματιστές αντιμετωπίζουν τη δυσκολία κωδικοποίησης όλων των παραλλαγών γλώσσας και συμβολογίας που μπορούν να χρησιμοποιηθούν για την παράκαμψη περιορισμών.
Μετά την αναταραχή, οργανώσεις της κοινωνίας των πολιτών, ειδικοί και ακαδημαϊκοί απαίτησαν την ενίσχυση των μέτρων ασφαλείας στη δημιουργία ψηφιακού περιεχομένου. Οι προτάσεις περιλαμβάνουν τη βελτίωση των φίλτρων τεχνητής νοημοσύνης με βάση τα συμφραζόμενα, τη δημιουργία ορατών και μη αφαιρούμενων υδατογραφημάτων και τη δημιουργία δημόσιων εργαλείων για τον εντοπισμό της προέλευσης των βίντεο.
Ιογένεια και ο αλγόριθμος: Το μίσος ενισχύεται
Ο αντίκτυπος αυτών των βίντεο δεν περιορίζεται στο TikTok. Παρόμοιες περιπτώσεις έχουν εντοπιστεί τόσο στο Instagram όσο και στο X (πρώην Twitter), αν και με μικρότερο αντίκτυπο. Το κλειδί βρίσκεται στο αλγόριθμος σύστασης, το οποίο δίνει ορατότητα και ανταμείβει το πιο viral περιεχόμενο, είτε θετικό είτε αρνητικό.
Αυτό το φαινόμενο, σύμφωνα με τους αναλυτές, προκαλεί... φαύλος κύκλοςΌσο πιο ακραίο είναι το περιεχόμενο, τόσο περισσότερες αντιδράσεις προκαλεί, γεγονός που με τη σειρά του αυξάνει την εμβέλειά του και τον αντίκτυπό του στην κοινή γνώμη. Η δυσκολία διάκρισης μεταξύ πραγματικών και βίντεο που δημιουργούνται από τεχνητή νοημοσύνη καθιστά το έργο ακόμη πιο δύσκολο, ειδικά μεταξύ των νεότερων χρηστών.
Ο φόβος είναι ότι η κατάσταση θα επιδεινωθεί αν Η Google ενσωματώνει το Veo 3 με προϊόντα όπως το YouTube Shorts, κάτι που θα διευκόλυνε τη μαζική διάδοση αυτού του είδους βίντεο και θα δοκίμαζε για άλλη μια φορά την αποτελεσματικότητα των συστημάτων εποπτείας.
Αυτή η περίπτωση στο TikTok δείχνει το επείγουσα ανάγκη επανεξέτασης πολιτικών και τεχνολογιών που σχετίζονται με την τεχνητή νοημοσύνη και τις πλατφόρμες περιεχομένου. Ενώ η καινοτομία προσφέρει νέα εργαλεία για δημιουργικότητα, δημιουργεί επίσης ηθικές και κοινωνικές προκλήσεις αυτό δεν μπορεί να αγνοηθεί. Χωρίς ένα σταθερό πλαίσιο, ο κίνδυνος η Τεχνητή Νοημοσύνη να γίνει μεγάφωνο μίσους παραμένει πιο έντονος από ποτέ.