Crush AI: Η Meta μηνύει τον προγραμματιστή του “nudify” app
secnews.gr
IT Security News, Gadgets, Tweaks for Geeks and More
Crush AI: Η Meta μηνύει τον προγραμματιστή του "nudify" app
https://www.secnews.gr/650826/crush-ai-meta-miniei-nudify-app/
Jun 12th 2025, 15:55
by Digital Fortress
Η Meta μηνύει τον κατασκευαστή της αμφιλεγόμενης εφαρμογής "nudify" Crush AI κατηγορώντας τον για τη διανομή χιλιάδων διαφημίσεων στις πλατφόρμες της. Η αγωγή κατατέθηκε στο Χονγκ Κονγκ και στοχεύει την εταιρεία Joy Timeline HK, που φέρεται να βρίσκεται πίσω από την εφαρμογή.
Σύμφωνα με τη Meta, η Joy Timeline HK παρέκαμψε συστηματικά τους ελέγχους διαφημίσεων του τεχνολογικού κολοσσού, προωθώντας υπηρεσίες που χρησιμοποιούν Generative AI για να παράγουν ψεύτικες, σεξουαλικά άσεμνες εικόνες πραγματικών προσώπων, χωρίς τη συναίνεσή τους.
Παρότι η Meta ισχυρίζεται ότι κατέβασε επανειλημμένα τις διαφημίσεις που παραβίαζαν τις πολιτικές της, η Joy Timeline HK φέρεται να συνέχισε την προβολή νέων καμπανιών, παρακάμπτοντας τα φίλτρα και τους μηχανισμούς ασφαλείας της εταιρείας.
Δείτε επίσης: Συλλήψεις για διακίνηση υλικού σεξουαλικής κακοποίησης ανηλίκων
Λέγεται ότι η Crush AI είχε προβάλλει πάνω από 8.000 διαφημίσεις για τις υπηρεσίες "AI undresser" μέσα στις πρώτες δύο εβδομάδες του 2025. Σύμφωνα με τον συγγραφέα του Faked Up newsletter, Alexios Mantzarlis, περίπου το 90% της επισκεψιμότητας των ιστότοπων της Crush AI προερχόταν από το Facebook και το Instagram.
Η Crush AI κατάφερε να διαφημίζει τις υπηρεσίες της δημιουργώντας δεκάδες νέους διαφημιστικούς λογαριασμούς και αλλάζοντας συνεχώς domain names. Ορισμένοι από τους λογαριασμούς φέρεται να είχαν ονόματα όπως "Eraser Anyone's Clothes" συνοδευόμενα από διαφορετικούς αριθμούς, ενώ η Crush AI διατηρούσε και σελίδα στο Facebook για την προώθηση της υπηρεσίας της, ενισχύοντας την προβολή και την απήχησή της σε ανυποψίαστους χρήστες.
Η Meta ανακοίνωσε ότι εξετάζει νέα μέτρα ενίσχυσης της ασφάλειας απέναντι σε εφαρμογές που καταχρώνται την τεχνητή νοημοσύνη για να παραβιάσουν προσωπικά δεδομένα ή να διασπείρουν επιβλαβές περιεχόμενο.
Το φαινόμενο, όμως, δεν περιορίζεται στο οικοσύστημα της Meta. Καθώς πλατφόρμες όπως το X (πρώην Twitter), το Reddit και το YouTube προσπαθούν να ενσωματώσουν λειτουργίες Generative AI, έρχονται αντιμέτωπες με το αυξανόμενο κύμα κατάχρησης AI για τη δημιουργία επιβλαβούς περιεχομένου, με ιδιαίτερη ανησυχία για την ασφάλεια των ανηλίκων. Οι ερευνητές διαπίστωσαν ότι οι σύνδεσμοι προς εφαρμογές AI nudify αυξήθηκαν κατακόρυφα το 2024 στις παραπάνω πλατφόρμες και εκατομμύρια άνθρωποι φέρεται να έλαβαν διαφημίσεις για τέτοιες εφαρμογές.
Δείτε επίσης: Ισπανία: Καταδικάστηκαν ανήλικοι για δημιουργία γυμνών φωτογραφιών κοριτσιών μέσω AI
Σε απάντηση σε αυτό το αυξανόμενο πρόβλημα, η Meta και το TikTok έχουν απαγορεύσει τις αναζητήσεις λέξεων-κλειδιών για AI nudify apps, αλλά η πλήρης απόσυρση αυτών των υπηρεσιών από τις πλατφόρμες τους έχει αποδειχθεί δύσκολη.
Σε μια πρόσφατη ανάρτηση, η Meta ανακοίνωσε ότι ανέπτυξε νέους αλγορίθμους εντοπισμού, ικανούς να αναγνωρίζουν διαφημίσεις για τέτοιες εφαρμογές, ακόμη και όταν δεν περιλαμβάνουν ευθέως γυμνό περιεχόμενο. Παράλληλα, η εταιρεία έχει επεκτείνει τη λίστα όρων, φράσεων και emoji που ενεργοποιούν τους μηχανισμούς φιλτραρίσματος, καθώς και μια τεχνολογία αντιστοίχισης που επιταχύνει την αφαίρεση πανομοιότυπων διαφημίσεων από την πλατφόρμα. Όπως αποκάλυψε η εταιρεία, από τις αρχές του 2025 έχει εντοπίσει και διαλύσει τέσσερα ξεχωριστά δίκτυα λογαριασμών που διέδιδαν διαφημίσεις για τέτοιες υπηρεσίες.
Συνεργασία με άλλες εταιρείες
Παράλληλα με τις ενέργειες στις πλατφόρμες της, η Meta ανακοίνωσε ότι ξεκινά να μοιράζεται δεδομένα για ύποπτες εφαρμογές nudify μέσω του Lantern, ενός κοινού εγχειρήματος της Tech Coalition που περιλαμβάνει τεχνολογικούς κολοσσούς όπως Google, Snap και άλλους. Η πρωτοβουλία στοχεύει στην πρόληψη της διαδικτυακής σεξουαλικής εκμετάλλευσης ανηλίκων. Από τον Μάρτιο, η Meta έχει ήδη δώσει περισσότερες από 3.800 μοναδικές διευθύνσεις URL στη βάση δεδομένων του προγράμματος.
Οι κινήσεις της Meta είναι θετικές και απαραίτητες, αλλά έρχονται σε έναν αγώνα δρόμου που έχει ήδη ξεκινήσει με καθυστέρηση. Οι πλατφόρμες κοινωνικής δικτύωσης έχουν αποδειχθεί εξαιρετικά ευάλωτες στην τεχνητή νοημοσύνη που παραβιάζει την ιδιωτικότητα, με χαρακτηριστικό παράδειγμα τις εφαρμογές nudify όπως η Crush AI.
Δείτε επίσης: Μια νέα λειτουργία iMessage προτρέπει τα παιδιά να αναφέρουν ακατάλληλες εικόνες
Το γεγονός ότι η Meta ενισχύει την ασφάλεια, αφαιρώντας διαφημίσεις και επεκτείνοντας τη συνεργασία της μέσω του Lantern, δείχνει πως αναγνωρίζει τη σοβαρότητα του φαινομένου. Ωστόσο, η επιτυχία αυτών των μέτρων θα εξαρτηθεί από δύο βασικούς παράγοντες:
• Την ταχύτητα και την ακρίβεια των συστημάτων ανίχνευσης — οι κακόβουλοι δημιουργοί εργαλείων AI αλλάζουν συνεχώς τακτικές, και το ίδιο πρέπει να κάνουν και οι πλατφόρμες.
• Τη διαφάνεια και συνεργασία μεταξύ εταιρειών και κρατών — χωρίς κοινά πρότυπα και ανταλλαγή δεδομένων, η προσπάθεια θα είναι αποσπασματική.
Συνολικά, πρόκειται για μια σωστή κατεύθυνση, αλλά περισσότερο ως απάντηση σε ένα ήδη υπάρχον και σοβαρό πρόβλημα, παρά ως προληπτική πολιτική. Η τεχνητή νοημοσύνη απαιτεί εκ των προτέρων ρύθμιση, και όχι μόνο καταστολή αφού η ζημιά έχει γίνει.
Πηγή: techcrunch.com
You are receiving this email because you subscribed to this feed at https://blogtrottr.com
If you no longer wish to receive these emails, you can unsubscribe here:
https://blogtrottr.com/unsubscribe/nfz/3xfHTz
IT Security News, Gadgets, Tweaks for Geeks and More
Crush AI: Η Meta μηνύει τον προγραμματιστή του "nudify" app
https://www.secnews.gr/650826/crush-ai-meta-miniei-nudify-app/
Jun 12th 2025, 15:55
by Digital Fortress
Η Meta μηνύει τον κατασκευαστή της αμφιλεγόμενης εφαρμογής "nudify" Crush AI κατηγορώντας τον για τη διανομή χιλιάδων διαφημίσεων στις πλατφόρμες της. Η αγωγή κατατέθηκε στο Χονγκ Κονγκ και στοχεύει την εταιρεία Joy Timeline HK, που φέρεται να βρίσκεται πίσω από την εφαρμογή.
Σύμφωνα με τη Meta, η Joy Timeline HK παρέκαμψε συστηματικά τους ελέγχους διαφημίσεων του τεχνολογικού κολοσσού, προωθώντας υπηρεσίες που χρησιμοποιούν Generative AI για να παράγουν ψεύτικες, σεξουαλικά άσεμνες εικόνες πραγματικών προσώπων, χωρίς τη συναίνεσή τους.
Παρότι η Meta ισχυρίζεται ότι κατέβασε επανειλημμένα τις διαφημίσεις που παραβίαζαν τις πολιτικές της, η Joy Timeline HK φέρεται να συνέχισε την προβολή νέων καμπανιών, παρακάμπτοντας τα φίλτρα και τους μηχανισμούς ασφαλείας της εταιρείας.
Δείτε επίσης: Συλλήψεις για διακίνηση υλικού σεξουαλικής κακοποίησης ανηλίκων
Λέγεται ότι η Crush AI είχε προβάλλει πάνω από 8.000 διαφημίσεις για τις υπηρεσίες "AI undresser" μέσα στις πρώτες δύο εβδομάδες του 2025. Σύμφωνα με τον συγγραφέα του Faked Up newsletter, Alexios Mantzarlis, περίπου το 90% της επισκεψιμότητας των ιστότοπων της Crush AI προερχόταν από το Facebook και το Instagram.
Η Crush AI κατάφερε να διαφημίζει τις υπηρεσίες της δημιουργώντας δεκάδες νέους διαφημιστικούς λογαριασμούς και αλλάζοντας συνεχώς domain names. Ορισμένοι από τους λογαριασμούς φέρεται να είχαν ονόματα όπως "Eraser Anyone's Clothes" συνοδευόμενα από διαφορετικούς αριθμούς, ενώ η Crush AI διατηρούσε και σελίδα στο Facebook για την προώθηση της υπηρεσίας της, ενισχύοντας την προβολή και την απήχησή της σε ανυποψίαστους χρήστες.
Η Meta ανακοίνωσε ότι εξετάζει νέα μέτρα ενίσχυσης της ασφάλειας απέναντι σε εφαρμογές που καταχρώνται την τεχνητή νοημοσύνη για να παραβιάσουν προσωπικά δεδομένα ή να διασπείρουν επιβλαβές περιεχόμενο.
Το φαινόμενο, όμως, δεν περιορίζεται στο οικοσύστημα της Meta. Καθώς πλατφόρμες όπως το X (πρώην Twitter), το Reddit και το YouTube προσπαθούν να ενσωματώσουν λειτουργίες Generative AI, έρχονται αντιμέτωπες με το αυξανόμενο κύμα κατάχρησης AI για τη δημιουργία επιβλαβούς περιεχομένου, με ιδιαίτερη ανησυχία για την ασφάλεια των ανηλίκων. Οι ερευνητές διαπίστωσαν ότι οι σύνδεσμοι προς εφαρμογές AI nudify αυξήθηκαν κατακόρυφα το 2024 στις παραπάνω πλατφόρμες και εκατομμύρια άνθρωποι φέρεται να έλαβαν διαφημίσεις για τέτοιες εφαρμογές.
Δείτε επίσης: Ισπανία: Καταδικάστηκαν ανήλικοι για δημιουργία γυμνών φωτογραφιών κοριτσιών μέσω AI
Σε απάντηση σε αυτό το αυξανόμενο πρόβλημα, η Meta και το TikTok έχουν απαγορεύσει τις αναζητήσεις λέξεων-κλειδιών για AI nudify apps, αλλά η πλήρης απόσυρση αυτών των υπηρεσιών από τις πλατφόρμες τους έχει αποδειχθεί δύσκολη.
Σε μια πρόσφατη ανάρτηση, η Meta ανακοίνωσε ότι ανέπτυξε νέους αλγορίθμους εντοπισμού, ικανούς να αναγνωρίζουν διαφημίσεις για τέτοιες εφαρμογές, ακόμη και όταν δεν περιλαμβάνουν ευθέως γυμνό περιεχόμενο. Παράλληλα, η εταιρεία έχει επεκτείνει τη λίστα όρων, φράσεων και emoji που ενεργοποιούν τους μηχανισμούς φιλτραρίσματος, καθώς και μια τεχνολογία αντιστοίχισης που επιταχύνει την αφαίρεση πανομοιότυπων διαφημίσεων από την πλατφόρμα. Όπως αποκάλυψε η εταιρεία, από τις αρχές του 2025 έχει εντοπίσει και διαλύσει τέσσερα ξεχωριστά δίκτυα λογαριασμών που διέδιδαν διαφημίσεις για τέτοιες υπηρεσίες.
Συνεργασία με άλλες εταιρείες
Παράλληλα με τις ενέργειες στις πλατφόρμες της, η Meta ανακοίνωσε ότι ξεκινά να μοιράζεται δεδομένα για ύποπτες εφαρμογές nudify μέσω του Lantern, ενός κοινού εγχειρήματος της Tech Coalition που περιλαμβάνει τεχνολογικούς κολοσσούς όπως Google, Snap και άλλους. Η πρωτοβουλία στοχεύει στην πρόληψη της διαδικτυακής σεξουαλικής εκμετάλλευσης ανηλίκων. Από τον Μάρτιο, η Meta έχει ήδη δώσει περισσότερες από 3.800 μοναδικές διευθύνσεις URL στη βάση δεδομένων του προγράμματος.
Οι κινήσεις της Meta είναι θετικές και απαραίτητες, αλλά έρχονται σε έναν αγώνα δρόμου που έχει ήδη ξεκινήσει με καθυστέρηση. Οι πλατφόρμες κοινωνικής δικτύωσης έχουν αποδειχθεί εξαιρετικά ευάλωτες στην τεχνητή νοημοσύνη που παραβιάζει την ιδιωτικότητα, με χαρακτηριστικό παράδειγμα τις εφαρμογές nudify όπως η Crush AI.
Δείτε επίσης: Μια νέα λειτουργία iMessage προτρέπει τα παιδιά να αναφέρουν ακατάλληλες εικόνες
Το γεγονός ότι η Meta ενισχύει την ασφάλεια, αφαιρώντας διαφημίσεις και επεκτείνοντας τη συνεργασία της μέσω του Lantern, δείχνει πως αναγνωρίζει τη σοβαρότητα του φαινομένου. Ωστόσο, η επιτυχία αυτών των μέτρων θα εξαρτηθεί από δύο βασικούς παράγοντες:
• Την ταχύτητα και την ακρίβεια των συστημάτων ανίχνευσης — οι κακόβουλοι δημιουργοί εργαλείων AI αλλάζουν συνεχώς τακτικές, και το ίδιο πρέπει να κάνουν και οι πλατφόρμες.
• Τη διαφάνεια και συνεργασία μεταξύ εταιρειών και κρατών — χωρίς κοινά πρότυπα και ανταλλαγή δεδομένων, η προσπάθεια θα είναι αποσπασματική.
Συνολικά, πρόκειται για μια σωστή κατεύθυνση, αλλά περισσότερο ως απάντηση σε ένα ήδη υπάρχον και σοβαρό πρόβλημα, παρά ως προληπτική πολιτική. Η τεχνητή νοημοσύνη απαιτεί εκ των προτέρων ρύθμιση, και όχι μόνο καταστολή αφού η ζημιά έχει γίνει.
Πηγή: techcrunch.com
You are receiving this email because you subscribed to this feed at https://blogtrottr.com
If you no longer wish to receive these emails, you can unsubscribe here:
https://blogtrottr.com/unsubscribe/nfz/3xfHTz