Νέοι κανόνες της Apple για εφαρμογές με AI deepfakes και Nudify
Η Apple προχώρησε σε σημαντική επέκταση των κανόνων διαχείρισης του App Store, εστιάζοντας ιδιαίτερα στην αντιμετώπιση του προβλήματος των εικόνων που δημιουργούνται με τεχνητή νοημοσύνη (AI) χωρίς τη συναίνεση των ατόμων που απεικονίζονται. Αν και το σεξουαλικά ρητό περιεχόμενο ήδη απαγορευόταν στο App Store, η εταιρεία πλέον απαιτεί από τους δημιουργούς εφαρμογών να προλαμβάνουν και να αφαιρούν ενεργά τέτοια υλικά, ειδικά αν αυτά προέρχονται από τεχνολογία deepfake. Η Apple προειδοποιεί ότι οι εφαρμογές που παραβιάζουν αυτούς τους κανόνες, χωρίς να λαμβάνουν μέτρα, κινδυνεύουν με την άμεση αφαίρεση από το App Store.
Στόχευση εφαρμογών δημιουργίας AI και το παράδειγμα του Grok
Ο αναθεωρημένος κανόνας 1.2 αναφέρει ρητά τις εφαρμογές που χρησιμοποιούν τεχνολογία AI για τη δημιουργία περιεχομένου, με σαφή στόχο να περιορίσει την εξάπλωση μη εγκεκριμένων deepfakes. Ενδεικτικό παράδειγμα είναι η περίπτωση της εφαρμογής Grok, η οποία ανήκει στην εταιρεία xAI. Χρήστες έχουν εκφράσει παράπονα για την εκμετάλλευση του chatbot Grok στην παραγωγή γυμνών και σεξουαλικά φορτισμένων deepfakes. Νωρίτερα μέσα στο τρέχον έτος, η Apple είχε προειδοποιήσει την xAI ότι εάν δεν σταματούσε να επιτρέπει τέτοιο περιεχόμενο, η εφαρμογή θα απομακρυνόταν από το App Store. Ακολούθησε η εφαρμογή πρόσθετων προληπτικών μέτρων ασφαλείας από την xAI, με αποτέλεσμα η ενημερωμένη έκδοση του Grok να εγκριθεί και να παραμείνει διαθέσιμη στο κατάστημα εφαρμογών.
Η αναγνώριση αυτού του προβλήματος αντικατοπτρίζει τη δέσμευση της Apple να αντιμετωπίσει τη μη συναίνεση στη χρήση προσωπικών εικόνων μέσω τεχνητής νοημοσύνης, ειδικά σε περιβάλλοντα όπου τα chatbots μπορούν να διευκολύνουν τέτοιου είδους παράνομες ή επιβλαβείς δημιουργίες.
Νέοι κανόνες για κρυφές λειτουργίες και Nudification εφαρμογές
Σε συνέχεια του νέου πλαισίου, η Apple πρόσθεσε τον κανόνα 2.5.19, που επισημαίνει πως οποιαδήποτε λειτουργία ή χαρακτηριστικό δεν περιλαμβάνεται στην έκδοση της εφαρμογής που υποβάλλεται για έγκριση, αλλά προστίθεται εκ των υστέρων, μπορεί να οδηγήσει σε απομάκρυνση τόσο της εφαρμογής από το App Store όσο και την έξωση του προγραμματιστή από το Apple Developer Program.
Αυτή η αλλαγή είναι ιδιαίτερα σημαντική για τις γνωστές ως “nudification” εφαρμογές, οι οποίες παράγουν ρητές, σεξουαλικές εικόνες αληθινών ανθρώπων χωρίς τη συγκατάθεσή τους. Η Apple υποψιάζεται ότι ορισμένες από αυτές τις εφαρμογές παραποιούν ή αποκρύπτουν την αληθινή τους λειτουργικότητα κατά τη διαδικασία ελέγχου, παρουσιάζοντας αρχικά μια διαφορετική εικόνα και απελευθερώνοντας τη δυνατότητα nudify μόνο μετά την έγκριση. Η συγκεκριμένη τακτική, γνωστή ως “bait-and-switch”, απαγορεύεται ρητά στο App Store.
Η απαγόρευση αυτή συμβάλλει στην ενίσχυση της προστασίας των χρηστών και στη διαφάνεια όσον αφορά τις λειτουργίες των εφαρμογών που διατίθενται στο οικοσύστημα της Apple.
Επέκταση απαγορεύσεων και η αυστηρή στάση της Apple
Παράλληλα με τις αλλαγές που αφορούν περιεχόμενο τεχνητής νοημοσύνης, η Apple αναθεώρησε και την ενότητα 5 των κανόνων της, επεκτείνοντας την απαγόρευση εφαρμογών που διευκολύνουν ή προωθούν την εμπορία ανθρώπων και την παιδική εκμετάλλευση. Οι απαγορεύσεις αυτές πλέον καλύπτουν και εναλλακτικές μορφές διανομής εφαρμογών, επιχειρώντας να κλείσουν πιθανά παραθυράκια που θα μπορούσαν να χρησιμοποιηθούν για παράνομες πρακτικές.
Η αυστηρή στάση της Apple φανερώνεται και στην επίσημη ανακοίνωσή της προς τους προγραμματιστές, όπου επισημαίνεται πως η εταιρεία δεν διστάζει να αφαιρέσει εφαρμογές και να διαγράψει λογαριασμούς προγραμματιστών που παραβαίνουν τους κανόνες. Αυτή η προσέγγιση αποσκοπεί στη διασφάλιση ενός ασφαλούς και αξιόπιστου περιβάλλοντος για τους χρήστες όλου του κόσμου.
Τέλος, η Apple έχει δημοσιεύσει τις πλήρεις, ενημερωμένες κατευθυντήριες γραμμές του App Store στην επίσημη ιστοσελίδα της, όπου οι ενδιαφερόμενοι προγραμματιστές και χρήστες μπορούν να ενημερωθούν για τις τελευταίες εξελίξεις και υποχρεώσεις.
Συχνές Ερωτήσεις (FAQ)
Ποια είναι η κύρια αλλαγή στους κανόνες του App Store σχετικά με τις εικόνες AI;
Η Apple απαιτεί πλέον από τις εφαρμογές να αποτρέπουν και να αφαιρούν ενεργά AI-generated, μη συναίνεσης, σεξουαλικά ρητό περιεχόμενο, όπως deepfakes.
Τι συνέβη με την εφαρμογή Grok και την Apple;
Η Apple είχε απειλήσει να απομακρύνει το Grok λόγω χρήσης του chatbot για δημιουργία nude deepfakes. Η xAI υιοθέτησε πρόσθετα μέτρα ασφαλείας και η ενημερωμένη έκδοση εγκρίθηκε και παραμένει στο App Store.
Τι σημαίνει ο κανόνας 2.5.19 για τις εφαρμογές;
Απαγορεύει την προσθήκη κρυφών ή μη δηλωμένων λειτουργιών μετά την υποβολή για έγκριση, ειδικά αν αυτές δημιουργούν ρητές εικόνες (“nudification”) χωρίς τη συναίνεση των ατόμων.
Πώς αντιμετωπίζει η Apple εφαρμογές που προωθούν παράνομες δραστηριότητες;
Επεκτείνει τις απαγορεύσεις και δεν διστάζει να αφαιρέσει τέτοιες εφαρμογές και να απαγορεύσει τους υπεύθυνους προγραμματιστές από το οικοσύστημα της.
