El proyecto “Diversity in Faces” (DiF) de IBM fue un ambicioso intento por abordar el sesgo sistémico en los sistemas de reconocimiento facial. Lanzado en 2019, este dataset de gran escala se propuso un objetivo claro: promover la equidad en la inteligencia artificial (IA) y servir como una herramienta para investigar por qué los modelos de IA fallan con ciertos grupos demográficos, especialmente mujeres y personas de piel oscura.

La principal innovación de DiF no fue solo su tamaño, sino la riqueza de sus anotaciones. A diferencia de otros datasets que solo se centraban en la identidad de una persona, DiF incluía 100 parámetros de codificación para cada imagen. Estos parámetros iban desde características físicas (edad y género percibidos) y características geométricas (medidas faciales) hasta condiciones de la imagen (iluminación o pose de la cabeza) y aparatos de apoyo (gafas, gorras, etc.).

Las fotos del dataset, casi un millón, fueron extraídas del conjunto de datos YFCC100M de Flickr. Al ser imágenes con licencia Creative Commons, el dataset terminó incluyendo fotos de momentos personales como bodas, fiestas y vacaciones familiares, lo que generó un intenso debate.

A pesar de sus “buenas intenciones”, DiF generó una gran controversia. La principal crítica fue que IBM no obtuvo el consentimiento explícito de las personas cuyas fotos se utilizaron. Aunque las imágenes eran públicas en Flickr, muchos argumentaron que su uso para entrenar IA constituía una violación de la privacidad.

Además, el proyecto ha enfrentado una demanda colectiva en Illinois por supuestas violaciones de la Ley de Privacidad de la Información Biométrica de ese estado. También se ha señalado que IBM no proporcionó la atribución adecuada a los fotógrafos, un requisito de las licencias Creative Commons que podría representar miles de infracciones.

Ante la presión, IBM retiró el dataset de su portal en 2019. Sin embargo, el proyecto dejó una huella importante en el debate sobre la ética en la IA. DiF puso en el centro de atención el problema del sesgo en los algoritmos y fomentó la investigación para crear sistemas de IA más justos y transparentes. En última instancia, el caso de DiF es un recordatorio de que un objetivo positivo no justifica todos los medios. Demuestra la importancia crítica de la privacidad y el consentimiento como pilares fundamentales en el desarrollo responsable de la inteligencia artificial.

• Página oficial de IBM sobre el proyecto Diversity in Faces (archivada) 1

• Página oficial de IBM sobre el proyecto Diversity in Faces (archivada) 2
• exposing.ai