¿Te subirías a un automóvil autónomo programado para sacrificar a sus pasajeros en cierto tipo de ac

Los coches que se manejan solos ya son una realidad. En los próximos 20 años haremos una transición hacía vehículos automotores independientes sobre los cuales el ser humano no tendrá ningún tipo de control.

Ante lo inminente del cambio, es pertinente preguntarnos cuales deben ser las decisiones que las inteligencias sintéticas tomen en caso de un accidente. ¿Quién se debe salvar? ¿Quién se puede sacrificar?

Al ser humano le gusta tener control sobre las cosas, inclusive si esto solamente es una cuestión aparente. Por ejemplo, al momento en el que se diseñaba el interior del módulo de comando del programa espacial Apollo, los ingenieros habían considerado establecer un espacio relativamente cómodo, sin ventanas y con muy pocos controles.

Esto se explica ya que los astronautas tenían, durante el trayecto a la luna, muy pocas tareas ya que todo se hacía a distancia desde el mando en Houston. Realmente un pequeño porcentaje de las maniobras que se realizaron durante los trayectos estaban a cargo de los astronautas.

No obstante, una vez que las tripulaciones vieron esto se quejaron amargamente. Recordemos que todos ellos eran pilotos militares que de alguna manera habían tenido. Querían ventanas, botones, manijas, y otras cuestiones que de alguna manera les permitiesen tener un “control” sobre la nave, a pesar de que realmente no lo tendrían.

No podemos desconocer que gracias a este control que se cedió a los tripulantes, fue posible que el accidente de la misión Apollo XIII no terminara en tragedia.[1] Como siempre, el elemento humano es definitivo ante un evento que los especialistas en probabilidades han definido como cisne negro.[2]

De lo anterior es posible desprender dos conclusiones. La posibilidad de tener vehículos que se manejan solos tal vez se encuentre con la reticencia de muchas personas que no querrán subir a un vehículo que no es controlado.

Por otra parte, es claro que un sistema de conducción autónomo de este tipo tendrá fallas y existirán accidentes. Incluso, podemos considerar que por la velocidad de aprendizaje y procesamiento que pueden tener las inteligencias artificiales que están detrás del manejo, tendremos eventos desafortunados que serán amplificados (el peor de los escenarios sucederá en un tiempo más corto del esperado).

Incluso se generarán nuevos problemas. Por ejemplo, la disminución radical de muertes por accidentes de tránsito (sobre todo aquellas provocadas por manejar en estado de ebriedad) tendrá un impacto directo sobre la donación de órganos para trasplantes.

Frente a esta condición, la pregunta en boca de todos es: que debemos enseñar a los automóviles autónomos cuando se enfrenten a situaciones dramáticas, en las cuales el único desenlace es la pérdida de vidas humanas.

Así, nos vemos obligados a resolver lo que la cultura norteamericana a designado como el dilema del tranvía, inventado por Philippa Foot en 1967.

El problema moral se puede plantear de la siguiente manera. Un tranvía a toda velocidad va a estrellarse en contra de cinco personas. No obstante, es posible desviarlo a efecto de que siga otra vía y en ese caso solamente mate a una persona. En este sentido, es necesario saber que es lo que una inteligencia sintética estaría dispuesta de decidir frente a un caso extremo.

¿Salvar a los pasajeros y matar a los peatones o a la inversa?

Por otra parte, es cierto que la automatización permite salvar (salvo los casos de los cisnes negros ya hemos adelantado) más vidas puesto que elimina en un porcentaje muy alto los riesgos de accidentes derivados de la impericia o errores humanos.

Incluso, nos permitimos adelantar que hasta que este tipo de cuestiones no tenga una respuesta clara, el número de personas dispuestas a subirse a un coche autónomo no será muy alto. La única manera de que todos quieran subirse es teniendo la garantía de que serán protegidos como pasajeros ante cualquier eventualidad.

¿Cuál es el criterio que debemos establecer para definir quiénes son los que se deben salvar en un accidente? ¿Podemos decir que es una cuestión de edad o de esperanza de vida?

Normalmente este tipo de cuestionamientos no son abordados al momento de subirnos a un coche. Se deja al azar. No obstante, si sabemos que el automóvil reaccionará de cierta manera ante un determinado evento esto es una certeza. Si algo pasa el resultado será inevitable. Los resultados de un accidente se han justificado a posteriori, ahora será necesario hacerlo a priori.

Solamente si sabemos que es lo que el automóvil está programado para hacer frente a este tipo de situaciones límites es que una persona estaría dispuesta a subirse al mismo.[3]

La pregunta persiste: ¿tu te subirás a un coche autónomo?

[1] Cuando la misión se encontraba camino a la luna, explotó un tanque de oxígeno dentro del módulo de servicio. Los astronautas tuvieron que dar la vuelta a la luna viviendo en el módulo de aterrizaje lunar.

[2] Taleb, Nassim Nicholas. The Black Swan: the impact of the highly improbable. Random House. New York. 2007.

[3] Lacroix, Alexandre. Les machines vont-elles nous faire la morale? Philosophie magazine 118. Paris. Avril. 2018.