La ética de los asesinos coches sin volante

Imagínate dentro de 10 años. Vas en coche por una carretera nacional a 100km/h, volviendo del trabajo y viendo una película. Eres pasajero del coche “sin-volante” que Google te alquila mensualmente mediante una tarifa ondulada a un buen precio. De repente, justo en una curva, se cae en la carretera un ciclista a 20 metros en frente de tu coche ¿y ahora qué ocurre?

prototipo de coche de Google

prototipo de coche de Google

Si en vez de ser un coche sin volante estuvieses tú a los mandos del mismo, la decisión de qué hacer dependería de tí. Ni tú sabes a ciencia cierta cómo resolverías la situación. Dependiendo de tu decisión y pericia, podrían ocurrir múltiples desenlaces; quizás..

    • te bloqueas y atropellas al pobre ciclista por inacción.
    • lo atropellas porque en ese instante decides que si lo esquivas te vas a estrellar tú. Valoras más tu vida en ese momento, pero a lo mejor te arrepientes el resto de tu vida.
    • intentas esquivar al ciclista, el coche se descontrola y terminas estrellándote tú, sufriendo un accidente grave pero salvas la vida.
    • misma situación que la anterior, con la mala suerte de que el coche que venía detrás de tí termina atropellando al ciclista
    • intentas esquivar al ciclista, el coche se descontrola con la mala suerte de que al final no os salváis ni tú ni el ciclista

Podemos concluir que en general si el coche lo conduces tú (o cualquier persona), la decisión se toma en el momento y por tanto es impredecible saber qué es lo que realmente ocurrirá.

Volvamos ahora al coche de Google. Con un coche autónomo el caso es diferente: es un software el que toma las decisiones. Mucho antes de llegar el coche al mercado, hubo una persona, un programador, que se vio en la tesitura de escribir el código que tomará finalmente la decisión para casos como el anteriormente expuesto. Un software que decide atropellar o estrellarse. Vida o muerte. O peor: esta muerte o aquella.

¿Qué decidirá el coche autónomo, priorizar la vida de quien pagó por usar el coche, o intentar salvar la vida de la persona más indefensa? Los que están en el coche tienen más posibilidades de sobrevivir, pero ¿y si hay varias personas en el coche incluido un bebé y únicamente un ciclista tirado en la carretera? ¿en qué momento se inclina la balanza a un lado u a otro?

Siendo del gremio, lo primero que hago es empatizar con ese programador, igual que empatizamos con esos médicos que hacen delicadas operaciones a corazón abierto. Su tarea es muy delicada, y alguien tenía que hacerla. En el caso del programador, es un software que se ejecutará en millones de coches, y por tanto millones vidas en juego.

El programador lo intentará hacer lo mejor posible, sabiendo como nadie las grandes implicaciones éticas de su tarea. De hecho, lo más lógico y probable es que delegue la tarea final de priorizar unas vidas sobre otras delegando esa tarea a otro. Hará esa tarea parametrizable y configurable, y en todo caso dejará que sea otro quien decida: él sólo hará el software que actuará en base a las reglas que se establezcan.

Y la cosa va más allá: como hemos visto, es impredecible el comportamiento de un conductor cualquiera, pero dadas unas reglas de actuación, es de esperar que en situaciones similares los mismos coches actúen de forma similar. Y pongo dos ejemplos contrapuestos:

Si se programa que el coche intente salvar siempre a la persona más indefensa que suele ser la que está fuera del coche, entonces quizás yo me pensaría dos veces antes de montar en un coche de ese estilo: buscaría uno de la competencia. Así de duro es el mercado: quien paga manda. Además un coche de este tipo podría ser peligroso porque podría usarse como método de asesinato: me tiro delante del coche de mi jefe, porque sé que yo saldré ileso y el coche de mi jefe será el que se estrelle.

Si por el contrario se programa el coche para, en caso de duda, preferir salvar a sus ocupantes, muchos posiblemente lo verían como un comportamiento poco ético. Por cada nuevo ciclista atropellado aumentaría aun más la alarma social, incluso si estadísticamente baja el número de ciclistas atropellados gracias a la buena conducción de los coches sin volante. No es lo mismo que te mate un conductor que que lo haga una máquina/robot.

Probablemente lo mejor sería que desde luego no sea el programador de turno, el fabricante de coches, ni “el mercado” de automóviles quien tome esta decisión. Para evitar que se ponga el foco en los fabricantes de coches autónomos y así lavarse las manos, hay quien podría argumentar que deberían ser ellos mismos quienes promovieran una legislación de coches autónomos donde se especifique de alguna forma cual es el método de resolver  las decisiones difíciles en casos de accidente. El problema es que por otro lado la tecnología avanza mucho más rápido que las leyes, y por tanto esa legislación quedaría obsoleta antes incluso de nacer: generaría más problemas que soluciones.

Para evitar suspicacias, mi propuesta para casos de indecisión sería usar un procedimiento aleatorio. Es lo que más se asemeja a lo que pasaría si fuese una persona quien condujese el coche: impredecible. Unas veces saldrá una cosa, y otras veces otra. Cuando no hay solución buena, lo más ecuánime es escoger al azar.

Todas estas consideraciones no son nada nuevo. Pero se avecina una revolución tecnológica en la automatización del automóvil, y este tipo de consideraciones éticas podrían afectarnos a todos. Cuando los coches automáticos empiecen a atropellar ciclistas y matar gente en accidentes de tráfico (aunque no sean culpa suya), inevitablemente la gente empezará a plantearse estas cuestiones. Ya lo planteaba Isaac Asimov en sus novelas y sus tres leyes de la robótica, por ejemplo. Y es más, los pilotos automáticos de los aviones ya plantean retos similares.

About these ads

2 Responses to “La ética de los asesinos coches sin volante”


  1. 1 stalker junio 29, 2014 en 3:25 pm

    ¿Pero como va a ser un asesino un coche con esa cara de koala? :P

    Añado una vuelta de tuerca extra para el debate… ¿Cómo legislamos al respecto?

  2. 2 Félix Robles junio 29, 2014 en 4:42 pm

    Los coches autopiloto serán una excelente herramienta para la NSA/CIA. Todo el que moleste morirá en un trágico accidente de tráfico. Será suficiente usar software libre para evitar eso?


Deja un comentario

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s





Seguir

Recibe cada nueva publicación en tu buzón de correo electrónico.

A %d blogueros les gusta esto: