Training Sets

Miramos el pasado y nos parece racista y sexista, desigual e injusto. y se tiran estatuas al río, y se retiran programas de televisión, y se dice que Lo que el viento se llevó hace apología del Sur esclavista.

Sí, el pasado no fue bueno. Pero tampoco el presente es espectacular.

Ahora que estamos a las puertas de la aplicación masiva de la Inteligencia Artificial, tenemos que tener cuidado con la información que va a utilizar para tomar sus decisiones. Un fundamento de cualquier algoritmo, por sofisticado que sea, es “garbage in, garbage out”, esto es, que la calidad de los inputs determinará la calidad del output.

Nuestro presente tiene muchas imperfecciones, está sucio, si en el futuro cercano utilizamos algoritmos para tomar decisiones, el riesgo es que el output amplifique las injusticias que son inherentes a nuestra sociedad, porque esos algoritmos, en su sofisticación, detectarán los patrones de la realidad, reforzando la posición de los privilegiados, eternizando las desigualdades.