Η κληρονομημένη ψευδαίσθηση

Κεφάλαιο 4 — Η κληρονομημένη ψευδαίσθηση

Αυτή είναι ίσως η πιο διδακτική ιστορία ολόκληρης της έρευνας, επειδή αγγίζει ένα θέμα που τα εκπαιδευτικά προγράμματα αγνοούν και το οποίο όμως προκαλεί περισσότερη ζημιά από όλα τα άλλα μαζί: την ποιότητα των δεδομένων που εισέρχονται.

Μια αμερικανική εταιρεία ποδηλάτων — ας την ονομάσουμε έτσι από σεβασμό — είχε ένα τεράστιο αρχείο φωτογραφιών, χιλιάδες εικόνες προϊόντων, εκδηλώσεων, πελατών πάνω σε ποδήλατα, διαφημιστικών ταξιδιών. Ήταν η οπτική κληρονομιά της εταιρείας, συσσωρευμένη σε δεκαπέντε χρόνια καμπανιών. Σε μια στιγμή προνοητικότητας, κάποιος χρησιμοποίησε μια υπηρεσία αυτόματης επισήμανσης για να προσθέσει, σε κάθε φωτογραφία, μια λίστα με "αντικείμενα που υπάρχουν": "ποδήλατο, κράνος, δρόμος, βουνό, άτομο". Μεταδεδομένα χρήσιμα, θεωρητικά, για τη μελλοντική οπτική αναζήτηση. Αρχειοθετήθηκαν δίπλα στις φωτογραφίες, ξεχάστηκαν για χρόνια, στη συνέχεια ανακτήθηκαν και ενσωματώθηκαν στο νέο RAG της εταιρείας με την φυσική πεποίθηση ότι "όσο περισσότερα μεταδεδομένα, τόσο το καλύτερο".

Μετά την εισαγωγή, η αναζήτηση εικόνων έδινε σουρεαλιστικά αποτελέσματα. Αναζητούσες "ποδήλατο στην πόλη" και εμφανιζόταν μια φωτογραφία μιας λίμνης. Αναζητούσες "μοντέλο γυναίκα με κράνος" και εμφανιζόταν ένα vintage αυτοκίνητο. Αναζητούσες "βουνό" και εμφανιζόταν, αδιάκριτα, οτιδήποτε — ένα τυχαίο δείγμα ολόκληρου του αρχείου, σαν το σύστημα να είχε κάνει κλήρωση. Η ομάδα, αρχικά, έδειξε το δάχτυλο στο μοντέλο ενσωμάτωσης οπτικού περιεχομένου. Μετά στον επαναταξινομητή (δες προηγούμενο κεφάλαιο, για να καταλάβεις γιατί αυτό το ίχνος ήταν ιδιαίτερα δελεαστικό). Μετά στην ποιότητα των περιγραφών που δημιουργούνται από την AI.

Η πραγματική έρευνα, που έγινε αυτή τη φορά με ένα απευθείας query SQL στη βάση δεδομένων, έδειξε κάτι γκροτέσκο. Από τις 3997 φωτογραφίες του καταλόγου, όλες, μα όλες, είχαν ακριβώς την ίδια λίστα αντικειμένων. Μια λίστα δεκαεννέα στοιχείων — "αυτοκίνητο, μοτοσικλέτα, λίμνη, θάλασσα, βουνό, ποδήλατο, κράνος, δρόμος, πόλη, άτομο..." — που δεν είχε καμία σχέση με το περιεχόμενο της κάθε φωτογραφίας. Είχε εισαχθεί, χρόνια πριν, από έναν άλλο ιστότοπο, ως ένα σύνολο γενικών ετικετών για να συμπληρώσει ένα υποχρεωτικό πεδίο του CMS. Κανείς στην εταιρεία δεν το θυμόταν πλέον. Οι φωτογραφίες είχαν περάσει από σύστημα σε σύστημα, μεταφέροντας μαζί τους αυτές τις ετικέτες φαντάσματα, αρκετά εύλογες ώστε να μην προκαλέσουν υποψίες, αρκετά δηλητηριώδεις ώστε να διαφθείρουν κάθε αναζήτηση που βασιζόταν σε αυτές. Η μηχανή αναζήτησης, επιμελής, τις χρησιμοποιούσε ως σύμπτωμα περιεχομένου. Και επέστρεφε οποιαδήποτε φωτογραφία για οποιαδήποτε ερώτηση, με ένα ορισμένο βαθμό αλλοίωσης εγγυημένο από το νόμο της φύσης.

Το δύσκολο σημείο, αυτό που πονάει όταν το καταλάβεις, είναι ότι σε ένα RAG τα "θορυβώδη" δεδομένα δεν προκαλούν θόρυβο που να ακούγεται. Δεν επιβραδύνουν το σύστημα, δεν δημιουργούν σφάλματα, δεν ανάβουν προειδοποιητικές λυχνίες. Απλώς διαβρώνουν σιωπηλά την ποιότητα των αποτελεσμάτων. Και όταν το γλωσσικό μοντέλο που ακολουθεί λαμβάνει πέντε έγγραφα, εκ των οποίων τα τέσσερα εκτός θέματος, δεν σου λέει "αυτά δεν έχουν σχέση, ρώτησέ με κάτι άλλο": κατασκευάζει επιμελώς μια απάντηση που τα αναμιγνύει, και η απάντηση ακούγεται πάντα εύλογη. Πάντα. Η τελική ψευδαίσθηση — αυτή η εφευρεμένη απάντηση για την οποία παραπονιόμαστε — δεν προέρχεται από το μοντέλο, όπως λέει η κυρίαρχη αφήγηση. Προέρχεται ανώτερη από τα δεδομένα. Το μοντέλο είναι απλώς αυτό που τη συσκευάζει σε μια γραμματικά άψογη πρόταση. Αλλά η ευθύνη είναι αλλού, πιο πίσω, σε αυτό που έδωσες στο σύστημα μήνες πριν του ζητήσεις κάτι.

Αυτή η παρατήρηση έχει πρακτικές συνέπειες που κοστίζουν χρήματα. Η πρώτη δουλειά για όποιον κατασκευάζει ένα σοβαρό εταιρικό RAG, πριν γράψει μια γραμμή κώδικα, είναι να κάνει αυτοψία στα δικά του δεδομένα. Από πού προέρχονται. Ποιος τα έχει αγγίξει. Ποια πεδία παρακολουθούνται και ποια είναι απολιθώματα κληρονομιάς από προηγούμενα συστήματα. Ποια μεταδεδομένα έχουν νόημα σήμερα και ποια είχαν το 2017 και κανείς δεν ασχολήθηκε ποτέ να τα καθαρίσει. Είναι μια δουλειά χωρίς λάμψη, πολύ αρχειογραφική, εντελώς απούσα από τα εκπαιδευτικά, συχνά αντιλαμβάνεται ως "μη τεχνική" και επομένως παραβλέπεται από τις ομάδες ανάπτυξης. Αλλά χωρίς αυτήν την αρχική υγιεινή, οποιαδήποτε ιδιοφυής αρχιτεκτονική βάλεις μπροστά γίνεται απλώς ένας πολύ ισχυρός ενισχυτής πολύ παλιάς ακαταστασίας.

Στην περίπτωση της αμερικανικής εταιρείας, η λύση ήταν σκληρή και σωστή: να αδειάσει το πεδίο "αντικείμενα", να ανακατασκευάσει τα μεταδεδομένα από το μηδέν με ένα σύγχρονο μοντέλο όρασης που εφαρμόζεται σε κάθε μεμονωμένη φωτογραφία και να παρακολουθεί, αυτή τη φορά, πότε και πώς δημιουργήθηκε κάθε μεταδεδομένο. Βαρετή δουλειά. Αποτέλεσμα: η αναζήτηση άρχισε επιτέλους να λειτουργεί. Όχι επειδή είχαν αλλάξει μοντέλο. Επειδή είχαν καθαρίσει την αποθήκη.