Ο εκδότης παιχνιδιών ισχυρίζεται ότι το TikTok χρησιμοποίησε AI για να τροποποιήσει διαφημίσεις, προσθέτοντας ένα ρατσιστικό στερεότυπο
Η indie εκδότρια Finji δηλώνει ότι το TikTok χρησιμοποίησε γενετική AI για να τροποποιήσει τις διαφημίσεις της χωρίς άδεια—συμπεριλαμβανομένης μιας που εισήγαγε ένα ρατσιστικό, σεξουαλικοποιημένο στερεότυπο ενός χαρακτήρα από το Usual June. Το στούντιο, γνωστό για την έκδοση τίτλων όπως το Night in the Woods και το Tunic και την ανάπτυξη των Usual June και Overland, αναφέρει ότι οι τροποποιημένες διαφημίσεις εμφανίστηκαν σαν να είχαν αναρτηθεί από τον επίσημο λογαριασμό του.
Η CEO της Finji, Rebekah Saltsman, έθεσε το ζήτημα δημόσια, ρωτώντας τους ακολούθους της στο Bluesky: "Αν δείτε οποιεσδήποτε διαφημίσεις της Finji που φαίνονται σαφώς μη-Finji, στείλτε μου μια εικόνα οθόνης."
Μιλώντας στο GameWorld, η Saltsman δηλώνει ότι η Finji έχει "την AI απενεργοποιημένη εντελώς" στον λογαριασμό διαφημίσεων του TikTok. Η ομάδα ενημερώθηκε για το ζήτημα μόνο αφού οι χρήστες άρχισαν να σχολιάζουν τις νόμιμες διαφημίσεις της, αμφισβητώντας περίεργες εκδόσεις που δεν ταίριαζαν με τα αρχικά βίντεο. Οι θεατές έστειλαν στιγμιότυπα οθόνης που έδειχναν αυτό που φαινόταν να είναι παραλλαγές που δημιουργήθηκαν από AI. Μια εικόνα που είδε το GameWorld δείχνει μια τροποποιημένη έκδοση της κεντρικής τέχνης του Usual June στην οποία η πρωταγωνίστρια June έχει σχεδιαστεί ξανά με υπερβολικούς γοφούς και μηρούς, ένα μπικίνι και μπότες πάνω από το γόνατο—εικόνες που η Saltsman λέει ότι προκαλούν ένα επιβλαβές στερεότυπο.
Σε μηνύματα που εξετάστηκαν από το GameWorld, ένας εκπρόσωπος υποστήριξης του TikTok επιβεβαίωσε ότι η Finji είχε απενεργοποιήσει τόσο το "Smart Creative" όσο και το "Automate Creative"—χαρακτηριστικά που χρησιμοποιούν γενετική AI για να αναμειγνύουν ή να βελτιστοποιούν τα διαφημιστικά στοιχεία. Παρά τούτο, η υποστήριξη αρχικά είπε στη Finji ότι δεν υπήρχε καμία απόδειξη ότι το σύστημα πρόσθεσε περιεχόμενο που δημιουργήθηκε από AI ή αυτόματα συνέθεσε στοιχεία slideshow.
Μετά την επαναποστολή της προσβλητικής εικόνας οθόνης και την απαίτηση για κλιμάκωση, το TikTok απάντησε: "Δεν αμφισβητούμε πλέον αν αυτό συνέβη," αναγνωρίζοντας "τη μη εξουσιοδοτημένη χρήση AI, την σεξουαλικοποίηση και την παραπλανητική απεικόνιση των χαρακτήρων σας," και υποσχόμενο μια εσωτερική ανασκόπηση.
Ωστόσο, λίγες μέρες αργότερα, η υποστήριξη του TikTok προσέφερε μια διαφορετική εξήγηση, λέγοντας ότι η Finji είχε συμπεριληφθεί σε "μια ευρύτερη αυτοματοποιημένη πρωτοβουλία" που σχετίζεται με μια μορφή διαφημίσεων καταλόγου σχεδιασμένη να ενισχύσει την απόδοση, ισχυριζόμενη ότι οι καμπάνιες που χρησιμοποιούν μικτές πηγές βλέπουν μια "1.4x ROAS lift" (επιστροφή στη δαπάνη διαφήμισης). Η εταιρεία προσφέρθηκε να ζητήσει να προστεθεί η Finji σε μια λίστα αποκλεισμού, αν και η έγκριση δεν ήταν εγγυημένη. Όταν η Finji ρώτησε γιατί είχε συμπεριληφθεί χωρίς συναίνεση και γιατί δεν μπορούσε να αποκλειστεί αξιόπιστα, η υποστήριξη απάντησε ότι ο τρέχων εκπρόσωπος ήταν "η υψηλότερη διαθέσιμη εσωτερική ομάδα" και ότι "τα τελικά ευρήματα και οι ενέργειες" είχαν ήδη παρασχεθεί.
Η Saltsman χαρακτήρισε την απάντηση ακατανόητη. "Είναι ένα πράγμα να έχεις έναν αλγόριθμο που είναι ρατσιστικός και σεξιστικός, και άλλο πράγμα να χρησιμοποιείς AI για να παράγεις περιεχόμενο των πληρωμένων επιχειρηματικών συνεργατών σου… και μετά να μην απαντάς σε κανένα από αυτά τα λάθη με συνεκτικό τρόπο; Σοβαρά;"
Πρόσθεσε: "Αυτή είναι η δουλειά μου, η δουλειά της ομάδας μου, και η φήμη μου και της εταιρείας μου—την οποία έχω χτίσει πάνω από μια δεκαετία... εδώ είναι το πραγματικά διασκεδαστικό πράγμα σε όλα αυτά—εσείς, που πληρώσατε και κάνατε αντιπροσωπευτικές διαφημίσεις για τη δουλειά σας, δεν θα δείτε ποτέ τι έχουν κάνει στη δουλειά σας. Αλλά το κοινό σας θα το δει. Και ίσως κάποιος σε αυτό το κοινό να είναι αρκετά γενναίος για να επικοινωνήσει μαζί σας και να σας ενημερώσει για το τι συμβαίνει."
Η Finji δηλώνει ότι δεν έχει λάβει περαιτέρω ενημερώσεις παρά τις επιπλέον παρακολουθήσεις, και το TikTok αρνήθηκε να σχολιάσει επίσημα.