Hλεκτρονικά αντίμετρα ενάντια στα Image Generators

Πληθαίνουν συνεχώς οι αντιδράσεις στο διαδίκτυο κατά των πρακτικών εκμάθησης που χρησιμοποιούν τα διάφορα AI Image Generators όπως το DALL–E της OpenAI, τα αντίστοιχα της Stable Diffusion και της MidJourney αλλά και άλλα προερχόμενα από τους γίγαντες των Social media. Δηλ. απλά «διαβάζουν» το περιεχόμενο άπειρων αναρτημένων στο Internet εικόνων, το αναλύουν σε επιμέρους στοιχεία και το ανασυνθέτουν δυναμικά με τους δικούς τους αλγόριθμους έχοντας όμως «εκπαιδεύσει» δωρεάν  τα λογισμικό τους. Εκτός από τις αγωγές που έχουν κατατεθεί σε μορφή class actions από δημιουργούς στις ΗΠΑ, εντός δηλ. από τα νομικά αντίμετρα, τώρα αρχίζουν και τα ηλεκτρονικά. Όπως δημοσιεύτηκε στο MIT Technology Review, ο καθηγητής του Πανεπιστημίου του Σικάγο Ben Zhao και συνεργάτες του, εκπόνησαν την εφαρμογή Nightshade που δρα ανασχετικά στην πρόσβαση σε ψηφιακό εικονογραφικό περιεχόμενο και λειτουργεί απαγορευτικά για τα bots που «διαβάζουν» φωτογραφίες. To Nightshade «δηλητηριάζει» με παραπλανητικά pixel το αναρτημένο περιεχόμενο, τα οποία είναι αόρατα στην ανθρώπινη όραση αλλά μπερδεύουν τα image generator ώστε να δημιουργούν τελείως άλλο τελικό αποτέλεσμα. Η λύση λειτουργεί ως εξής: οι δημιουργοί που επιθυμούν να προστατευτούν από Ιmage Generator ανεβάζουν το υλικό στο Glaze και εν συνεχεία γίνεται η εμφύτευση του «δηλητηρίου». Η χρήση είναι εντελώς δωρεάν. Όλη η διαδικασία περιγράφεται στο white paper του καθηγητή Zhao  Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models.