¿Podemos dejar que las máquinas decidan por nosotros?
· @Danilo Medina
Hace unos años, decirle a un asistente «pon música tranquila» parecía ciencia ficción. Hoy, los sistemas de inteligencia artificial recomiendan qué ver, aprueban o rechazan créditos, ayudan a diagnosticar enfermedades e incluso conducen coches. Cada vez deciden más cosas, y eso nos obliga a hacernos una pregunta incómoda: ¿hacen realmente lo que queremos que hagan?
A eso se le llama el problema de control (o de alineación) de la IA: cómo lograr que un sistema autónomo actúe de acuerdo con nuestros valores y no solo con las instrucciones literales que le dimos.
El problema no es que la IA «se rebele»
Olvida las películas. El riesgo real es mucho más cotidiano: las máquinas hacen exactamente lo que les pedimos, pero no lo que queríamos decir.
Un ejemplo clásico es el de un sistema al que se le ordena optimizar un proceso. Si solo le importa la eficiencia, puede sacrificar la seguridad o la justicia sin «darse cuenta», porque nadie le dijo que esas cosas importaban. Ya hay casos reales parecidos: herramientas de selección de personal que aprendieron a penalizar a las mujeres porque los datos históricos de contratación estaban sesgados, o chatbots que en pocas horas aprendieron a repetir insultos al conversar con usuarios en internet.
En ninguno de estos casos hubo malicia. Hubo un objetivo mal definido y poca supervisión.
Qué puede salir mal
Los especialistas suelen agrupar los riesgos en cuatro grandes frentes:
- Valores que no encajan. Es difícil traducir ideas como equidad, responsabilidad o dignidad a algo que un algoritmo pueda medir.
- Objetivos mal planteados. Un sistema puede cumplir al pie de la letra una meta que, aplicada sin criterio, termina siendo perjudicial.
- Efectos que nadie previó. Cuanto más complejo es el sistema, más difícil es anticipar todo lo que puede hacer.
- Cajas negras. A menudo ni sus propios creadores pueden explicar por qué un modelo tomó cierta decisión, y sin explicación no hay forma de corregirlo.
Cuando algo falla, las consecuencias son concretas: un vehículo autónomo que interpreta mal una situación en la carretera, un sistema vulnerable a ciberataques que expone datos sensibles, o un algoritmo que reproduce prejuicios y deja a personas sin un empleo o un préstamo que merecían. A esto se suma el impacto en el trabajo, porque la automatización puede dejar a muchas personas sin ocupación si no se gestiona bien.
Qué se está haciendo al respecto
La buena noticia es que mucha gente trabaja en esto. Entre los enfoques más importantes están:
- Enseñar valores a partir de ejemplos. En lugar de dar reglas rígidas, se entrena a los sistemas para inferir qué prefieren las personas observando su comportamiento y sus valoraciones.
- Probar los sistemas al límite. Se les somete a situaciones extremas o engañosas antes de lanzarlos, y en sistemas críticos se usan métodos matemáticos para verificar que no fallarán de ciertas maneras.
- Abrir la caja negra. La investigación en interpretabilidad busca entender qué ocurre dentro de un modelo para poder explicar sus decisiones.
- Mantener a una persona en el circuito. Auditorías, revisiones humanas y la posibilidad de detener un sistema a tiempo siguen siendo la red de seguridad más sencilla y eficaz.
Por qué nos afecta a todos
No es un asunto reservado a laboratorios. En la salud, un error puede costar vidas. En las finanzas, puede dejar a alguien sin crédito o desestabilizar un mercado. En el transporte, está en juego la seguridad en las calles. En la educación, un sistema mal diseñado puede reforzar desigualdades en lugar de reducirlas.
Entonces, ¿podemos confiar?
La respuesta honesta es: depende de cómo lo hagamos. La confianza no se da por supuesta, se construye con pruebas, transparencia y responsabilidad, y para eso hacen falta ingenieros, legisladores y también ciudadanos que hagan preguntas. La IA puede aportar mucho, pero solo si recordamos que las decisiones importantes siguen siendo, en última instancia, cosa nuestra.
