Cando os algoritmos herdan a nosa historia, quen decide como se ve a xustiza?
O sesgo na IA adoita describirse como un fallo técnico —un erro que hai que corrixir—. Mais este enfoque é enganoso. O sesgo non é un fallo: é un espello. Os sistemas de IA aprenden a partir de datos moldeados polas eleccións humanas, as culturas e as institucións. Ao facelo, reproducen os patróns —e os prexuízos— que xa existen.
Iso converte a equidade non só nun reto técnico, senón nunha cuestión de gobernanza. Obríganos a preguntar: quen define a equidade, e en que termos?
Que significa equidade?
Non hai unha definición única. Algúns sosteñen que a equidade significa igualdade: tratar a todas as persoas do mesmo xeito. Outros insisten en que require equidade: tratar de maneira diferente para acadar resultados xustos. E o que se considera xusto nun contexto cultural ou legal pode non selo noutro.
Isto fai que a gobernanza da IA sexa especialmente complicada: un sistema adestrado nun país pode implantarse a nivel global, trasladando os seus supostos incorporados a través de fronteiras.
Ferramentas de gobernanza
- Auditorías: avaliacións independentes para comprobar se os sistemas se comportan de maneira coherente e xusta entre distintos grupos.
- Mandatos de transparencia: esixir ás organizacións que expliquen como se toman as decisións e con que datos.
- Mecanismos de reparación: dar ás persoas o dereito a recorrer cando unha decisión algorítmica lles prexudique.
Estas ferramentas son prometedoras, mais suscitan outra cuestión: quen establece os estándares e como se fan cumprir?
O risco do “fairness-washing”
Cada vez máis empresas anuncian os seus sistemas como “libres de sesgo” ou “xustos por deseño”. Sen definicións compartidas nin estándares esixibles, estas afirmacións poden quedar en pouco máis ca mercadotecnia. A equidade corre o risco de converterse nunha marca, non nunha garantía.
A gobernanza, daquela, vai máis alá dos algoritmos. Trátase de poder: quen ten a autoridade para definir a equidade, quen se beneficia desas definicións e quen soporta o custo cando os sistemas fallan.
Por que importa
Se tratamos o sesgo como un erro, centrámonos só en solucións técnicas. Se o vemos como unha cuestión de gobernanza, vémonos obrigados a afrontar preguntas máis difíciles: que valores se integran nos nosos sistemas e que voces fican excluídas? A equidade na IA non é unha casiña que marcar —é unha elección política.