El culpable de turno

Un conocido me contó, con una mezcla rara de alivio y de vergüenza, algo que le pasó en marzo. Tenía que darle una mala noticia a un proveedor con el que trabaja hace años y no encontraba la manera de decirlo. Le pidió ayuda al modelo, revisó lo que salió, estuvo de acuerdo con cada línea y lo mandó. El proveedor lo llamó al día siguiente, dolido, y en algún momento de la conversación dijo una frase que a mi conocido se le quedó grabada: «se nota que eso no lo escribiste vos». Lo dijo sin rabia, casi con lástima.

No le habían perdonado nada. Le habían ofrecido una coartada, y él la tomó.

Esa coartada tiene nombre técnico y viene de la industria automotriz. La parte delantera de un coche moderno está diseñada para destruirse. Se arruga de manera controlada durante el choque para que la energía se disipe ahí y no en la cabina. Se llama zona de deformación programada y es una de las buenas ideas de la ingeniería del siglo pasado, porque decide de antemano qué se sacrifica.

Hace unos años la investigadora Madeleine Elish tomó prestada la imagen para algo bastante menos noble. En los sistemas automatizados complejos, sostenía, hay siempre un componente humano que termina absorbiendo la responsabilidad moral y legal de fallas que apenas controlaba. El operador del turno de noche, el piloto, el conductor del coche que se conducía casi solo. Un sistema no comparece ante nadie. La persona sí, y por eso es la pieza diseñada para romperse.

Con eso en la cabeza uno esperaría que la inteligencia artificial en la oficina funcionara igual. Ocurre lo contrario, y está medido. Jess Hohenstein y Malte Jung, de Cornell, pusieron a conversar a parejas por una aplicación de mensajes, unas con respuestas sugeridas por un modelo y otras sin ellas, en intercambios que terminaban bien y en intercambios que terminaban mal. Cuando la cosa salía bien, la presencia del asistente aumentaba la confianza entre las dos personas. Cuando salía mal, el asistente cargaba con parte de la responsabilidad que de otro modo habría recaído sobre el interlocutor humano. Los autores usaron el término de Elish al revés. En la conversación, la zona de deformación es la máquina.

De modo que tenemos un mismo aparato repartiendo la culpa en direcciones opuestas. Cuando un coche automatizado atropella a alguien, responde el conductor. Cuando un mensaje hiere a alguien, responde la herramienta. No hay teoría de la responsabilidad que sostenga las dos cosas a la vez.

Lo que sí las explica es más incómodo. La culpa no fluye hacia quien la merece. Fluye hacia quien tiene menos capacidad de protestar. Detrás del coche hay un fabricante con departamento jurídico y detrás del conductor no hay nadie. Detrás del modelo que redactó el mensaje no hay ofensa posible, y detrás del colega con el que uno se cruza el lunes sí la hay. Escogemos el culpable por costo y no por justicia, sin darnos cuenta.

El escudo, además, es condicional, y conviene saber en qué punto deja de funcionar. Cuando el que recibe percibe que la máquina no ayudó a escribir sino que escribió sola, la absolución se cancela y se da vuelta. Las mediciones de trabajo despachado sin revisar coinciden en un detalle que no aparece en ninguna otra parte de esta discusión: uno de cada cinco destinatarios declara sentirse ofendido, que es una palabra desproporcionada para un documento de trabajo y aun así es la que eligen. Nadie se ofende con una herramienta. La coartada protege mientras la máquina sea coautora y se cae el día en que es la única autora, y del otro lado lo notan antes de lo que uno cree.

Un responsable alterno siempre disponible no vuelve mentiroso a nadie. Hace algo más lento y más grave, que es volver opcional el cuidado. La atención cuesta: leer dos veces antes de enviar, imaginarse la cara del que va a recibir el mensaje, corregir la frase que suena bien y hiere. Uno sostiene ese gasto porque sabe que si sale mal va a tener que dar la cara. Quítele esa certeza y el gasto empieza a parecer un lujo.

Hay una asimetría final que vale la pena decir en voz alta. En la zona de deformación que describió Elish, quien absorbe la culpa es casi siempre quien menos poder tiene, el operario o el empleado de turno. En la nuestra, quien se libra suele ser quien más tiene. El que despachó la mala noticia con ayuda del modelo no perdió nada. El que la recibió se quedó con el daño y encima con la explicación.

Mi conocido no dejó las cosas ahí, y por eso vale la pena contarlo. Volvió a llamar esa misma tarde y le dijo al proveedor que el mensaje lo había escrito él, que la máquina solo había puesto las comas y que lo sostenía. La conversación se puso mucho peor. Terminaron cuarenta minutos después con un acuerdo que ninguno de los dos quería del todo y que los dos podían cumplir. No sé si eso es tener carácter. Sé que la primera versión, la cómoda, no habría llegado a ningún acuerdo, porque en esa conversación no había nadie con quien negociar.