Η OpenAI αποφάσισε προσωρινά να σταματήσει να δημιουργεί βίντεο που απεικονίζουν τον Μάρτιν Λούθερ Κινγκ Τζούνιορ στον Σόρα μετά τη δυσαρέσκεια που εξέφρασε η οικογένειά του, μια απόφαση που επιδιώκει να... ενίσχυση των ορίων στη χρήση εικόνων ιστορικών προσωπικοτήτων εντός της πλατφόρμας οπτικοακουστικής δημιουργίας χρησιμοποιώντας Τεχνητή Νοημοσύνη.
Η εταιρεία επικοινώνησε με την κληρονομιά του Δρ. Κινγκ ότι, παρόλο που υπάρχει έννομο συμφέρον στην ελευθερία της έκφρασης, Οι οικογένειες και οι εκπρόσωποι πρέπει να έχουν τον τελευταίο λόγο σχετικά με τον τρόπο με τον οποίο η ομοιότητά τους χρησιμοποιείται σε περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη.
Τι ακριβώς αποφάσισε η OpenAI;
Η εταιρεία έχει ενεργοποιήσει μια συγκεκριμένη παύση για να εμποδίσει τον Sora να δημιουργεί κλιπ όπου εμφανίζεται ο ηγέτης των πολιτικών δικαιωμάτων, ενώ παράλληλα έχει θεσπίσει μια επίσημη διαδικασία για κληρονόμοι ή εξουσιοδοτημένοι εκπρόσωποι ζητούν αποκλεισμό της ομοιότητας άλλων προσωπικοτήτων στα λεγόμενα «cameo» της εφαρμογής, σύμφωνα με προηγούμενες περιπτώσεις όπως η απροσδόκητη αναστολή λογαριασμών Instagram.
Σύμφωνα με την OpenAI, αυτό είναι ένα προσωρινό μέτρο, ενώ αυστηροποίηση των μέτρων ασφαλείας για ιστορικά πρόσωπα και τα χειριστήρια των εργαλείων προσαρμόζονται, με στόχο την αποφυγή υποβαθμιστικών ή μη εξουσιοδοτημένων χρήσεων της εικόνας, σε ένα πλαίσιο παρόμοιο με αυτό του Το Instagram κάτω από τον μεγεθυντικό φακό.
Γιατί ελήφθη το μέτρο
Η απόφαση έρχεται μετά από ένα κύμα άκομψες αναπαραστάσεων που κυκλοφορούν στο Sora, μερικές με ρατσιστικό περιεχόμενο και άλλες που τοποθετούν τον Δρ. King σε καρτουνίστικες ή παράλογες σκηνές. Αυτά τα ευρέως κοινά παραδείγματα... προκάλεσε κριτική και παράπονα για προσβολή της αξιοπρέπειας του ακτιβιστή.
Η Μπέρνις Κινγκ, κόρη του Μάρτιν Λούθερ Κινγκ Τζούνιορ, ζήτησε δημόσια να σταματήσουν τα βίντεο του πατέρα της που δημιουργούνται από την Τεχνητή Νοημοσύνη, αποκαλώντας τις αναπαραστάσεις επώδυνες και ασεβείς. Το παράπονό της προστέθηκε σε αυτό της... Ζέλντα Γουίλιαμς, κόρη του ηθοποιού Ρόμπιν Γουίλιαμς, αντιτάχθηκε στα συνθετικά κλιπ αποβιωσάντων συγγενών.
Η Λειτουργία και τα Όρια του Sora
Το Sora είναι η πλατφόρμα κοινωνικής δικτύωσης βίντεο της OpenAI που σας επιτρέπει να δημιουργείτε υπερρεαλιστικά αποσπάσματα από κείμενο, συμπεριλαμβανομένων προσώπων πραγματικών ανθρώπων ή ιστορικών προσώπων, και η κυκλοφορία του πυροδότησε μια έντονη συζήτηση σχετικά με την ευκολία με την οποία μπορεί να παραχθεί χειραγωγημένο ή παραπλανητικό περιεχόμενο.
Παρόλο που υπάρχουν εμπόδια που εμποδίζουν ορισμένα αιτήματα από διασημότητες, η εμπειρία έχει δείξει ότι Τα φίλτρα δεν είναι αλάνθαστα και αποτελέσματα που υπονομεύουν την εικόνα ή τη φήμη γνωστών ατόμων ενδέχεται να ξεφύγουν από το δίχτυ.
Εκτός από την υπόθεση του Κινγκ, οι χρήστες της εφαρμογής έχουν διαδώσει αμφισβητήσιμες αναπαραστάσεις άλλων προσωπικοτήτων όπως ο Μπομπ Ρος, η Γουίτνεϊ Χιούστον και ο Τζον Φ. Κένεντι, καθώς και κλιπ εμπνευσμένα από... έργα που προστατεύονται από πνευματικά δικαιώματα (για παράδειγμα, South Park, Pokémon ή SpongeBob), κάτι που έχει ανησυχήσει στούντιο και πρωτοσέλιδα στη βιομηχανία ψυχαγωγίας, και αφορά τον πολλαπλασιασμό των φάρσες και απάτες στο Facebook.
Πνευματικά δικαιώματα και έλεγχος εικόνας
Παράλληλα, η OpenAI ανακοίνωσε ότι θα προσφέρει στους κατόχους δικαιωμάτων ένα πιο λεπτομερής έλεγχος σχετικά με τη χρήση των χαρακτήρων ή των εμπορικών σημάτων της εντός του Sora και ότι εργάζεται πάνω σε μηχανισμούς αποζημίωσης και κατανομής εσόδων για εξουσιοδοτημένο περιεχόμενο, με τη δυνατότητα αιτήματος συγκεκριμένων εξαιρέσεων, μια γραμμή που υπενθυμίζει το Η Meta μηνύει για το κλείσιμο του Facebook.
Η θέση της παροχής ικανότητας λήψης αποφάσεων σε οικογένειες και κληρονομιές ανοίγει ξανά τη συζήτηση μεταξύ δημιουργικής ελευθερίας και σεβασμού της μνήμης, μια ένταση που η OpenAI προσπαθεί να διαχειριστεί ενισχύοντας εμπόδια για ιστορικά πρόσωπα χωρίς να κλείνει την πόρτα σε νόμιμες χρήσεις της τεχνολογίας.
Αντιδράσεις εντός της εταιρείας
Η παρουσίαση του Sora δεν ήταν χωρίς εσωτερικές αμφιβολίες: ορισμένοι ερευνητές εξέφρασαν την αμηχανία τους και ο ίδιος ο Sam Altman παραδέχτηκε ότι υπήρχαν ανησυχία την ημέρα της εκτόξευσης, έχοντας επίγνωση του πιθανού κοινωνικού αντίκτυπου του προϊόντος.
Σε απάντηση, διευθυντές προϊόντων όπως ο Nick Turley υπερασπίστηκαν τη φιλοσοφία της ανοιχτής μάθησης: ρίχνω, παρατηρώ, διορθώνω και επαναλάβετε ξανά, υποθέτοντας ότι η δημόσια ανάπτυξη επιταχύνει τον εντοπισμό κινδύνων και τη βελτίωση των συστημάτων.
Η παύση για τον Μάρτιν Λούθερ Κινγκ Τζούνιορ έχει γίνει προειδοποιητικό σημάδι για το οικοσύστημα Sora: ένα εργαλείο σχεδιασμένο για δημιουργικότητα που πλέον οριοθετεί τα ηθικά και νομικά όρια, δίνοντας προτεραιότητα σεβασμός στην κληρονομιά και τα δικαιώματα ενάντια σε αναψυχές που μπορεί να είναι προσβλητικές ή προβληματικές.