Ερωτηματικά έχει προκαλέσει στους χρήστες του διαδικτύου η διαπίστωση ότι η αναζήτηση φωτογραφιών στο Google παρουσιάζει τους λευκούς νέους και τους μαύρους νέους με έναν άκρως αντίθετο τρόπο. Δεν είναι λίγοι μάλιστα εκείνοι που κατηγορούν την μηχανή αναζήτησης για ρατσιστική συμπεριφορά, παρόλο που η αναζήτηση βασίζεται σε αλγόριθμο και όχι στις προσωπικές επιλογές των εργαζομένων της Google.
Όλα ξεκίνησαν όταν ο χρήστης του Twitter Kabir Alli από την Βιρτζίνια των ΗΠΑ δημοσίευσε στον προσωπικό του λογαριασμό ένα screenshot με τις φωτογραφίες που εμφάνισε η μηχανή αναζήτησης όταν γκούγκλαρε την φράση «τρεις μαύροι έφηβοι» (three black teenagers). Η φωτογραφία έδειχνε το παράθυρο της αναζήτησης να έχει γεμίσει με φωτογραφίες συλλήψεων νεαρών από τα αρχεία της αστυνομίας.
Στην συνέχεια, ο Alli έκανε ένα ακόμα πείραμα, επιβεβαιώνοντας αυτό που φοβόταν: εάν αναζητήσει κανείς φωτογραφίες «τριών λευκών εφήβων» (three white teenagers), θα βρει μια σειρά από stock φωτογραφίες χαμογελαστών νέων που ακούν μουσική ή παίζουν κάποιο άθλημα.
Τα ευρήματα έχουν αναδημοσιευτεί περισσότερες από 50.000 φορές στο Twitter, με πολλούς να κατηγορούν την Google για διακρίσεις σε βάρος των μαύρων. Παρόλα αυτά, ο ίδιος ο Alli εξήγησε στον Guardian ότι τα αποτελέσματα στηρίζονται σε έναν αλγόριθμο και όχι στις προσωπικές εκτιμήσεις των εργαζομένων της Google.
Η επίσημη απάντηση της Google έχει ως εξής: «Τα αποτελέσματα της αναζήτησης εικόνων αντανακλούν το περιεχόμενο που υπάρχει σε όλο τον ιστό, συμπεριλαμβάνοντας τη συχνότητα με την οποία τύποι εικόνων εμφανίζονται καθώς και τον τρόπο που περιγράφονται στο διαδίκτυο. Αυτό σημαίνει ότι μερικές φορές περίεργες περιγραφές σε εικόνες που αφορούν ευαίσθητα θέματα στο διαδίκτυο μπορούν να επηρεάσουν τα αποτελέσματα των εικόνων που εμφανίζονται από μια δεδομένη αναζήτηση. Αυτά τα αποτελέσματα δεν αντιπροσωπεύουν τα πιστεύω και τις αρχές της Google- σαν εταιρεία, υπολογίζουμε τη διαφορετικότητα των απόψεων, των ιδεών και των πολιτισμών».