Η Apple αφαίρεσε αρκετές εφαρμογές γενετικής τεχνητής νοημοσύνης από το App Store αφού μια έρευνα του 404 Media ανακάλυψε ότι θα μπορούσαν να χρησιμοποιηθούν για τη δημιουργία μη συναινετικών γυμνών εικόνων.
Η Apple αφαίρεσε τρεις εφαρμογές από το App Store που εντόπισε ο ιστότοπος, αλλά σύμφωνα με πληροφορίες χρειάστηκε αρκετός χρόνος για να δράσει. Η 404 Media χρειάστηκε να παράσχει στην Apple απευθείας συνδέσμους του App Store, "υποδεικνύοντας ότι η εταιρεία δεν ήταν σε θέση να βρει η ίδια τις εφαρμογές που παραβίαζαν την πολιτική της", ανέφερε.
Οι προγραμματιστές φέρονται να προωθούν αυτές τις εφαρμογές μέσω διαφημίσεων στο Instagram με σλόγκαν όπως "γδύστε δωρεάν κάθε κορίτσι" και "διαγράψτε οποιοδήποτε ρούχο".
Οι εικόνες και τα βίντεο πορνό με deepfake έχουν πολλαπλασιαστεί στα μέσα κοινωνικής δικτύωσης, παγιδεύοντας ανυποψίαστους εφήβους και δημόσια πρόσωπα, όπως η Τέιλορ Σουίφτ και η βουλευτής Αλεξάντρια Οκάσιο-Κορτέζ. Στη Βουλή των Αντιπροσώπων, η Rep. Ocasio-Cortez εισήγαγε τον νόμο Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act, ο οποίος θα δημιουργούσε μια "ομοσπονδιακή αστική αποζημίωση" για τα θύματα deepfake. Ένα αντίστοιχο νομοσχέδιο, όπως εισήχθη επίσης στη Γερουσία, αλλά μέχρι στιγμής δεν έχει προχωρήσει.
Το App Store δεν είναι η μόνη πλατφόρμα που παλεύει με το deepfake πορνό. Οι εικόνες της Τέιλορ Σουίφτ διανεμήθηκαν στο X και το Εποπτικό Συμβούλιο της Meta έθεσε την εταιρεία προ των ευθυνών της για την ασυνεπή πολιτική επιβολής όσον αφορά τα deepfakes πραγματικών γυναικών που δημιουργούνται με τεχνητή νοημοσύνη.
Το Υπουργείο Δικαιοσύνης του Ηνωμένου Βασιλείου ανακοίνωσε πρόσφατα σχέδια για να καταστήσει παράνομη στη χώρα τη δημιουργία σεξουαλικά ακατάλληλων deepfakes όπως αυτά που θα μπορούσαν να δημιουργηθούν από τις εφαρμογές που αφαιρέθηκαν.