Οι ερευνητές λένε στο Fortune ότι βρήκαν δεκάδες χιλιάδες ψεύτικες κριτικές που δημιουργήθηκαν από τεχνητή νοημοσύνη.
Της Sage Lazzaro
Μια νέα έρευνα δείχνει πώς η γενετική τεχνητή νοημοσύνη αυξάνει γρήγορα τον αριθμό των ψεύτικων αξιολογήσεων στο διαδίκτυο, εξαπατώντας τους χρήστες ώστε να κατεβάζουν εφαρμογές που έχουν μολυνθεί με κακόβουλο λογισμικό και επίσης εξαπατώντας τους διαφημιστές ώστε να τοποθετούν διαφημίσεις σε κακόβουλες εφαρμογές.
Η ομάδα analytics απάτης στη DoubleVerify -μια εταιρεία που παρέχει εργαλεία και έρευνα σε διαφημιστές, αγορές και εκδότες για να τους βοηθάει να εντοπίζουν απάτες και να προστατεύουν τα εμπορικά τους σήματα- δημοσίευσε μια έρευνα που περιγράφει πώς χρησιμοποιούνται σε μεγάλη κλίμακα τα εργαλεία τεχνητής νοημοσύνης που τροφοδοτούν τη δημιουργία κακόβουλων αξιολογήσεων εφαρμογών πιο γρήγορα και πιο εύκολα από ποτέ. Οι ερευνητές λένε στο Fortune ότι βρήκαν δεκάδες χιλιάδες ψεύτικες κριτικές που δημιουργήθηκαν από τεχνητή νοημοσύνη και υποστηρίζουν αμέτρητες κακόβουλες εφαρμογές σε μεγάλα καταστήματα εφαρμογών, όπως το iOS store, το Google Play store και τα καταστήματα εφαρμογών σε συνδεδεμένες τηλεοράσεις.
«Η τεχνητή νοημοσύνη επιτρέπει βασικά στην κλίμακα των ψεύτικων κριτικών να μεγεθύνεται πολύ πιο γρήγορα», επισημαίνει η Gilit Saporta, ανώτερη διευθύντρια ανάλυσης απάτης στο DoubleVerify, στο Fortune.
Οι δόλιες κριτικές είναι ένα μακροχρόνιο ζήτημα στο διαδίκτυο, ειδικά σε πλατφόρμες ηλεκτρονικού εμπορίου όπως η Amazon. Νωρίτερα αυτό το μήνα, η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ οριστικοποίησε τους κανόνες που απαγορεύουν τις ψεύτικες αξιολογήσεις και τις σχετικές παραπλανητικές πρακτικές, όπως η αγορά αξιολογήσεων, η ψευδής παρουσίαση αυθεντικών αξιολογήσεων στον ιστότοπο μιας εταιρείας και η αγορά ψεύτικων follower ή ψεύτικης εμπλοκής στα μέσα κοινωνικής δικτύωσης.
Οι κανόνες απαγορεύουν επίσης ρητά τις κριτικές που δημιουργούνται από τεχνητή νοημοσύνη, οι οποίες κατακλύζουν ολοένα και περισσότερο ιστότοπους όπως η Amazon, το TripAdvisor και οπουδήποτε βρίσκονται κριτικές από τότε που έγιναν άμεσα διαθέσιμα τα εργαλεία δημιουργίας τεχνητής νοημοσύνης, σύμφωνα με τη DoubleVerify.
Στα νέα ευρήματά τους, οι ερευνητές απάτης της εταιρείας περιγράφουν πώς η παραγωγική τεχνητή νοημοσύνη προκαλεί την έκρηξη του ήδη διαδεδομένου προβλήματος, ειδικά στα καταστήματα εφαρμογών. Το 2024, η εταιρεία εντόπισε υπερ-τριπλάσιο αριθμό εφαρμογών με ψεύτικες κριτικές που δημιουργήθηκαν από τεχνητή νοημοσύνη σε σύγκριση με την ίδια περίοδο το 2023. Ορισμένες από τις κριτικές περιέχουν προφανείς φράσεις που υποδεικνύουν ότι έχουν δημιουργηθεί από τεχνητή νοημοσύνη («Είμαι γλωσσικό μοντέλο»), αλλά άλλες θεωρούνται αυθεντικές και θα ήταν δύσκολο να εντοπιστούν από τους χρήστες, σύμφωνα με τη Saporta. Μόνο αναλύοντας αξιολογήσεις σε μαζική κλίμακα, η ομάδα της μπόρεσε να εντοπίσει άλλες λεπτές αποχρώσεις που παραπέμπουν στη δημιουργία από τεχνητή νοημοσύνη, όπως φράσεις που επαναλαμβάνονται ξανά και ξανά.
Οι κακόβουλες εφαρμογές που ουσιαστικά «νομιμοποιούνται» από κριτικές τεχνητής νοημοσύνης συνήθως κατεβάζουν κακόβουλο λογισμικό στις συσκευές των χρηστών για να συλλέξουν δεδομένα ή να ζητήσουν παρεμβατικές άδειες, όπως να επιτρέπεται στην εφαρμογή να εκτελείται στο παρασκήνιο χωρίς να εντοπιστεί.
Πολλές από τις εφαρμογές «στοχεύουν στα πιο ευάλωτα μέλη της κοινωνίας μας», τονίζει η Saporta, όπως ηλικιωμένους (εφαρμογές μεγέθυνσης, εφαρμογές φακού) και παιδιά (εφαρμογές που υπόσχονται δωρεάν νομίσματα και πολύτιμους λίθους σε δημοφιλή παιδικά παιχνίδια για κινητές συσκευές). Άλλες εφαρμογές που η DoubleVerify ανακάλυψε ότι έχουν σημαντικό αριθμό κριτικών που δημιουργούνται από τεχνητή νοημοσύνη περιλαμβάνουν μια εφαρμογή της Fire TV που ονομάζεται Wotcho TV, μια εφαρμογή που ονομάζεται My AI Chatbot στο Google Play Store και μια άλλη που ονομάζεται Brain E-Books στο Google Play Store.
