He votado "depende" por razones que otros ya han comentado aquí (quiénes son los jueces, qué es un sistema justo, los modelos predictivos que se agotan con el tiempo). Por otro lado, ¿no es una forma de discriminación equivalente a la que sufren muchas mujeres que no son contratadas por querer ser madres?
He imaginado un escenario algo peor. Imagina que el sistema está socialmente aprobado (da igual si es o no por ley, aunque quizá esa sea la parte que más me asusta), te presentas al puesto de tus sueños, sabes que encajas a la perfección. Pasas la evaluación y no te descartan, pero te ofrecen una posición menor, o haciendo una cosa totalmente distinta a la que querías y que no te gusta nada. ¿Cuál sería tu reacción? ¿Y si esto te pasara de forma consistente en todas las entrevistas?
Cristian, has traído dos cosas y las dos muy interesantes. La analogía con la maternidad es la más certera que ha aparecido en todo el hilo, porque demuestra que esto no es ciencia ficción: ya descartamos a personas por un comportamiento futuro que no ha ocurrido (y que quizá no ocurra) solo que lo hacemos sin algoritmo, con el prejuicio a pelo. El relato no inventa la injusticia, le pone una interfaz limpia y la vuelve defendible con números. Lo que hoy es discriminación ilegal, mañana podría ser un parámetro auditado.
Pero es tu escenario el que me ha dejado pensando, porque es peor que el mío y tienes razón en que lo es. En mi relato te descartan, y el descarte al menos deja intacta la imagen que tienes de ti: el sistema se equivoca, tú lo sabes, hay un agravio claro contra el que indignarse. En el tuyo no te rechazan: te reubican. Te dejan entrar, pero por la puerta que el sistema ha decidido que es la tuya, no la que tú querías. Y eso es más corrosivo, porque no hay agravio contra el que rebelarse: te han dado algo. Lo que te quitan es la posibilidad de aspirar. Si encima ocurre de forma consistente, en entrevista tras entrevista, el sistema deja de predecir tu vida y empieza a escribirla: acabas siendo la versión de ti que el modelo eligió, y no porque fuera cierta, sino porque nadie te dejó otra opción. Eso ya no es descarte, es destino asignado. Y es, probablemente, el verdadero relato que habría que escribir (quizá para una segunda parte).
Gracias por pensarlo tan lejos. Y sobre todo, por compartirlo.
Mi respuesta es no. La predicción afectiva ya aborda esta cuestión: la precisión de las predicciones se degrada con el paso del tiempo, especialmente cuando hablamos de emociones y comportamientos. Además, existen otros riesgos, como la profecía autocumplida. Si aceptamos los apartados del informe que tratan sobre nuestros posibles comportamientos y los revestimos de una falsa apariencia de cientificidad, estos podrían influir tanto en nuestro comportamiento como en la percepción que tenemos de nosotros mismos.
Traes algo que el relato deja implícito y tú dices muy bien: la degradación temporal de la predicción. El sistema dictamina sobre dos años vista como si el tiempo no erosionara su propio cálculo, cuando es justo al revés (cuanto más lejos mira, menos sabe). Esa es la grieta técnica que el texto confía a la intuición del lector sin enunciarla.
Y la profecía autocumplida le da la vuelta perfecta al título. El relato pregunta si una predicción puede ser correcta e injusta a la vez; lo que tú apuntas es peor todavía: que la predicción puede volverse correcta porque se ha emitido. Si interiorizo el informe que me describe como alguien destinado al conflicto, acabo cumpliéndolo, y entonces el sistema no acertó, se cumplió a sí mismo. Esa apariencia de cientificidad que mencionas es lo que blinda el mecanismo: no se vive como una opinión sobre ti, sino como un diagnóstico, y contra un diagnóstico cuesta mucho más rebelarse. Un abrazo
Pongamos, un adolescente aspira a incorporarse a una banda callejera, tipo latinkings. No asustarse, las empresas son más destructivas que las bandas. Antes de iniciar el proceso de prueba, con el corazón en la mano, os parecería mejor que superase el proceso o tal vez pensasteis que casi fuera mejor, para él, a futuro, no superarlo.
Pues lo mismo para ingresar en una empresa.
Si eres asalariado, deberías, reflexionar en clave bolchevique. El resto es entreguismo.
No es que yo lo diga. Es que es así.
La propiedad de los medios de producción establece la diferencia.
Que yo me sienta el más guapo del baile, no garantiza ser elegido para bailar.
Hola! Pues de tú comentario me quedo con la cuestión de la banda, porque le da la vuelta a algo del relato. Preguntas si preferiríamos que el chaval supere la prueba de ingreso o que fracase y se quede fuera, y das por hecho que a veces no entrar es la salvación. Ahí tocas algo que mi dilema no contempla: yo lo planteo como agravio (te descartan, qué injusticia), pero tú apuntas que el descarte puede ser un favor disfrazado. Si lo que el sistema premia es sumisión, pasar el filtro sería la verdadera derrota, y quedarte fuera, una forma de conservarte a tí mismo. Esa lectura invierte al protagonista .
Hay solo una cosa que me gustaria mencionar, es que, la capacidad de adaptación de los trabajadores a los requisitos que se les imponen para aspirar a un cargo, que, con frecuencia, suelen ser paradojicos, por decir un ejemplo, el de la experiencia (¿Como quieren que consiga experiencia si todos los trabajos piden experiencia de minimo un año?) que te impide aspirar a cualquier cargo, primero, si eres honesto, y segundo, si no tienes experiencia; ahora, con el sistema predictivo, respondí que depende, depende de cómo funciona el sistema, si la prediccion la hace con base a tus respuestas, entonces basta con que se modifiquen un poco (digamos, para parecer mas sumiso) pero si la prediccion tambien tiene en cuenta datos como la gesticulación y demás, que pueda detectar que alguna respuesta esta incompleta, y en consecuencia, meterse por ahi, hasta dar con la aguja y hacer que sueltes la sopa, ahi si responderia de otro modo a la pregunta.
Dresval, aportas dos cosas y ambas aprietan donde el relato no llega.
La paradoja de la experiencia es perfecta como antecedente: ya vivimos filtros que se muerden la cola (piden lo que impiden conseguir) y los hemos normalizado. El sistema predictivo no inaugura este absurdo, lo perfecciona más aún.
Pero lo más importante es tu distinción sobre el sistema. Si solo lee respuestas, puedes fingir sumisión y colarte. El problema es justo el caso que temes: que lea la gesticulación, el titubeo, lo que dejas a medias, y se meta por ese agujero hasta sacarte lo que no querías decir. Ahí ya no hay máscara posible.
Y eso qué significa? Que el sistema deja de evaluar lo que haces y pasa a evaluar lo que eres, lee señales que tú no controlas. Así que tiene mucho sentido el "depende".
Un mundo que viene de esta forma no es mi mundo. No quiero participar en una empresa que cree en la existencia de una ciencia del comportamiento futuro y practica la predicción como una verdad revelada. El día que la brujería se convierte en ciencia es el día de la bestia.
Lo tuyo no es un voto, es un portazo... Jejejje... se agradece la contundencia.
Lo único que añadiría a tu portazo es esto: la bestia del relato no llega con cuernos, llega con buenos resultados. Si fallara, sería fácil echarla. Lo que la vuelve peligrosa es que funciona (menos bajas, más permanencia, equipos estables) y por eso entra por la puerta grande, aplaudida, votada en el parlamento. La brujería que da miedo no es la que se equivoca, sino la que acierta lo suficiente para que dejemos de llamarla brujería.
Muchas gracias por comentar y dejar tú voto. Un abrazo!
Opino que sí. Al fin y al cabo el entrevistador humano sigue las mismas instrucciones corporativas y además su evaluación se ve afectada por sus emociones y estado de ánimo.
También hacen predicciones en esa línea pero con menos capacidad objetiva y puntos a analizar por lo que el análisis de la IA es más neutro y se aplica del mismo modo en todos los casos
Tu argumento es el más difícil de rebatir de todos los que han llegado por el momento, porque es cierto: el entrevistador humano también predice, también obedece instrucciones corporativas, y encima lo hace con sesgos, cansancio y simpatías personales. La máquina, al menos, aplica el mismo rasero a todos. Eso es verdad y el relato no lo niega.
Donde lo pondría en cuestión es en la palabra "neutro". El sistema es uniforme (trata a todos igual), pero uniforme no es lo mismo que justo: si el criterio que aplica por igual penaliza a quien cuestiona la cadena de mando, entonces está discriminando de forma sistemática y limpia, sin la inconsistencia humana que a veces deja pasar al inconformista por puro azar o por buena química en la sala. El sesgo humano es injusto pero errático, y en su error cabe el indulto. El de la máquina es coherente, y por eso no perdona a nadie que entre en la categoría. La pregunta sería: ¿preferimos un juez imperfecto que a veces se equivoca (en contra o a tu favor), o uno impecable que nunca lo hará?
Mi respuesta va en función de como me gustaría que fuera el futuro de la humanidad.
Odio que la máquina sustituya a la persona, que lo controle todo, que el factor humano con sus limitaciones se acabe.
No me gusta LA TENDENCIA hacia ese futuro que alimentamos día a día con el uso de la IA por ejemplo que nos llevará a esas situaciones y que como buenos humanos nos lamentaremos .... cuando sea tarde.
Gracias, Manu. Lo que dices toca el fondo del relato, y me gusta especialmente cómo lo dices, porque has escrito "no me gusta la tendencia" y la pieza gira justo sobre esa palabra. Tú reivindicas el derecho a que una tendencia no se cumpla (la de la humanidad hacia ese futuro) y eso es exactamente lo que el sistema le niega al candidato: la posibilidad de desmentir su propia curva. Aunque la probabilidad de que lo haga sea baja.
De nuevo, gracias por tu aportación siempre interesante. Abrazos!
No sé qué tiene que ver la ley en todo esto. La selección de ovejas para un rebaño de ovejas no atenta contra ningún derecho de las ovejas. En una sociedad libre siempre habrá quien contrate leones, cebras o canguros. Lo único que hay que legislar es la libertad de las sociedades
Hola, Ricky. Tu objeción tiene una lógica interna sólida (si una empresa quiere ovejas y otra leones, que el mercado decida y que nadie legisle el gusto ajeno). Es una posición legítima. Pero el relato incide justo donde esa lógica cruje.
Primero: tu argumento funciona si hay leones contratando en otra parte. ¿Y si el sistema es tan bueno que todas las empresas lo adoptan, porque a todas les da mejores resultados? Entonces no quedan rebaños alternativos. El «león» (el que cuestiona, el que disiente) no encuentra dónde, no porque una ley se lo impida, sino porque el mercado entero ha convergido en filtrarlo. La libertad de las empresas para elegir puede producir, agregada, una sociedad donde un tipo de persona ya no es contratable en ningún sitio. Y eso sí es un problema de derechos, aunque ninguna empresa individual haya hecho nada ilegal.
Segundo, lo de las ovejas. La metáfora supone que hay especies distintas y cada empresa elige la suya. Pero el sistema del relato no selecciona especies: penaliza un rasgo concreto (cuestionar la autoridad) que resulta ser el mismo que, en el primer párrafo, explicaba los éxitos del candidato. No filtra leones para buscar ovejas. Filtra a quien piensa por su cuenta, y lo hace en nombre de la productividad. La pregunta del relato no es si una empresa puede preferir ovejas; es si queremos una sociedad donde ser oveja sea el único requisito para trabajar.
Mil gracias por tu comentario. Le da amplitud al debate.
Tú has preguntado si la ley debería legislar cierta conducta empresarial y yo he contestado que "en una sociedad libre" la ley no tiene nada que legislar a ese respecto. Sé perfectamente a dónde quieres ir, pero en una sociedad libre los leones o los canguros también pueden crear empresas con sus criterios particulares. No hay un método único para mejorar la productividad, y la creatividad o el inconformismo, siendo conflictivos, son presumiblemente más eficaces en eso que el aborregamiento. Los grandes avances científicos de la historia no los ha hecho ninguna oveja ni ningún sistema totalitario. No te atasques en los estereotipos. Los seres humanos somos complejos y la 'productividad' no es un concepto unívoco ni absoluto. La película Metrópolis nunca se hizo realidad.
Tienes razón en lo esencial, Ricky, y me has adelantado el contraargumento que iba a darte: si el inconformismo es más productivo a largo plazo, el mercado libre acabará premiando a quien lo contrate, y los "leones" tendrán sus empresas. No habrá convergencia total porque la diversidad de criterio es, en sí misma, una ventaja competitiva. Estoy de acuerdo.
Donde no te sigo del todo es en el "acabará". Estoy de acuerdo en el equilibrio final; no tanto en el trayecto hasta ahí. El mercado corrige, pero suele hacerlo tarde y sobre cadáveres: durante el tiempo en que la moda del sistema predictivo se extiende (porque da resultados a corto, que es lo que se mide) hay una generación de "leones" a la que ningún algoritmo deja entrar. El mercado los reivindicará dentro de X años, cuando alguien demuestre que filtrarlos era un error. A ellos, mientras tanto, no les sirve tener razón a destiempo. Mi relato no vive en tu equilibrio, vive en ese trayecto de desajuste.
Y aquí coincidimos en el fondo, aunque lleguemos por caminos distintos: tú dices que la productividad no es unívoca y que ninguna oveja hizo un gran avance. Es exactamente la tesis del relato. La diferencia es que tú confías en que el mercado lo reconozca solo, y yo no estoy tan segura de que lo haga a tiempo, ni sin que algunos paguen el precio del retraso. Por eso a mí la pregunta de la ley no me parece ociosa.
Lo de Metrópolis te lo concedo con una sonrisa: no, no se hizo realidad. Pero yo creo que los relatos distópicos rara vez aciertan en la estética; aciertan, cuando lo hacen, en el mecanismo.
Existe la idea preconcebida de que los individuos son peleles zarandeados por las leyes del mercado. Pero en realidad el mercado lo hacemos entre todos, interactuando libremente. En Europa estamos acostumbrados a vivir en estados invasivos con grandes empresas monopolísticas, y a muchos les asusta la idea de ser libres, porque temen perder la protección del estado y verse obligados a aceptar riesgos y tomar iniciativas. En una sociedad libre se crean oportunidades de trabajo con la misma facilidad con que se destruyen, y siempre hay oportunidades, aunque sólo sea porque las puedes crear tú mismo. En Europa vivimos ahogados por siglos de miedo acumulado, por lo menos desde los tiempos de Bismarck. Y, antes de Bismarck, por siglos de sociedades feudales.
Hay una ecuación ineludible en la vida: la libertad y la seguridad son antagónicas. Cuanta más seguridad tengas, menos libertad disfrutarás, y a la inversa. La libertad conlleva riesgos, pero no impide protegerse a quienes prefieran la seguridad. Las ovejas no molestan a nadie.... salvo que quieran imponernos a todos su preferencia por la seguridad. En una sociedad libre hay sitio para todos: leones y ovejas. Para quienes asumen riesgos, los percances serán tan posibles como los éxitos: la posibilidad de fracasar es el precio que hay que pagar por la posibilidad de triunfar. Es un juego de suma cero. Si no quieres fracasar, no te arriesgues. Pero si yo quiero asumir riesgos, no me hará ninguna gracia que me lo impidan por ley. Dicho de otro modo: en una sociedad libre, tú puedes optar por la seguridad. En una sociedad segura no hay huecos para la libertad. Es asimétrico.
Es un buen argumento, y no lo voy a discutir, la asimetría que planteas es real. Una sociedad libre puede dar cobijo a quien quiere seguridad; una sociedad securizada no deja resquicio a quien quiere arriesgarse. Como principio, lo comparto. Pero lo que describes no es un juego de suma cero, es justo lo contrario. Suma cero es lo que pasa cuando mi ganancia es tu pérdida. Lo que tú defiendes (arriesgo y gano o pierdo yo) es un juego donde la apuesta es mía y las consecuencias también. Y ahí está, precisamente, donde el relato te discute.
Porque tu modelo da por hecho que el león puede jugar y perder. Pero el sistema del relato no le deja perder: le impide entrar. No lo descarta por fracasar, lo descarta antes de intentarlo, por lo que un cálculo predice que haría. Esa es mi única reserva. En todo lo demás, llevas razón: la libertad incluye el derecho a arriesgarse y a pagar por ello, y ninguna ley debería confundir protegernos con decidir por nosotros. Me quedo con tu asimetría; es de lo mejor que se ha dicho en este hilo.
No puedo evitar inmiscuirme en la conversación, porque ese "Sé perfectamente a dónde quieres ir" me ha parecido tan apropiado al texto que me ha hecho gracia: el algoritmo predictivo de la política. En el que caemos todos, claro, porque en cuanto he visto lo de que "lo único que hay que legislar es la libertad de las sociedades", he añadido mentalmente, "privadas". Tú anticipas y cuestionas la agenda política que sospechas detrás del texto, y yo anticipo y sospecho de la tuya. Es algo así como una "reducción a la política": todo argumento es político y entonces todo se reduce a averiguar de qué bando es el interlocutor y a apoyarlo (raramente) o a atacarlo. Resulta aburrido porque es predecible -y sin necesidad de recurrir a una IA de ciencia ficción: los argumentos de uno y otro lado están muy pero que muy trillados.
Yo creo que hay pensamiento más allá de la política. Este texto abre la puerta a pensar sobre comportamiento, predictibilidad, etc. De hecho, diría que la mención de la ley es accesoria, que está ahí para forzar la pregunta de un caso parcial a la totalidad, y que no es esencial al texto.
Me temo que tus capacidades como psicólogo dejan mucho que desear. Se limitan a pensar que los que no son de tu bando (¿secta?) son del bando contrario. Es un esquema muy manido, y pueril. No sé qué quieres decir con 'sociedades privadas', a no ser que padezcas esa empanada mental que identifica 'privado' con malo, y 'público' con bueno. Pero eso no son argumentos, sino juicios morales, y muy poco originales. Padeces ese reflejo condicionado que interpreta todos los argumentos en clave maniquea. Tu originalidad es cero, y yo en tu lugar me preocuparía. Araceli y yo hemos argumentado sin entrar para nada en política, y sus argumentos eran, básicamente, genuinos. Por eso me he decidido a comentar su texto. Discutir de política con loritos empoderados moralmente por su pertenencia a algún bando prefabricado habría sido, a estas alturas, demasiado aburrrido. Me interesa la originalidad, y Araceli, a diferencia de ti, es, además de inteligente, original. Contesta si quieres, pero yo doy por zanjado este coloquio contigo. Lo siento, pero es que odio el aburrimiento.
Me gustaría parar un momento aquí. Ricky, no leo la intervención de Edu como un ataque hacia ti, sino como exactamente lo que yo busco aquí: pensar más allá del bando. No importa la ideología. Le conozco y aporta sus ideas siempre de forma generosa y respetuosa.
Este es un espacio para discutir ideas sin herir a las personas. Lo primero se ha hecho de maravilla, por favor, mantengamos también lo segundo. Agradezco mucho las intervenciones que elevan el texto y lo complementan donde yo no llego.
Parte del cerebro opera creando y calibrando modelos predictivos. Y de manera bastante mediocre, con y sin heurísticas.
Voté sí, pero después de leer las condiciones por segunda vez, cambio a depende. Depende de qué tan avanzado es el sistema artificial (qué porcentaje de mejora tiene sobre el sistema clásico de contrataciones), de la satisfacción de los empleados y (lo más importante) de quién hace las leyes. Comité ético?! Qué miedo.
Si las empresas mejoran porque contratan a la gente correcta para el trabajo, es probable que los empleados también estarán más satisfechos, etc.
Me quedo con un detalle que para mí es el mayor elogio que puede recibir el texto: votaste sí, releíste y te moviste a "depende". Ese segundo paso por las condiciones es exactamente lo que el relato persigue: no que cambies de bando, sino que la certeza del primer clic se agriete.
Tus tres variables son las correctas, pero me detengo en la que tú mismo marcas como la más importante: quién hace las leyes. Ahí está el fondo. El relato pone a un comité ético a decidir precisamente porque la pregunta no es técnica (cuánto mejora el sistema) sino política: quién tiene autoridad para decidir qué se optimiza y qué se sacrifica. Tu "qué miedo" ante el comité es legítimo, pero piensa en el reverso: si no decide un comité, decide la empresa que se beneficia del sistema, y esa sí que es juez y parte.
Y donde más me gustaría tirar del hilo es en tu última frase, porque encierra el supuesto que la pieza quiere poner a temblar: "contratar a la gente correcta para el trabajo". El sistema del relato no busca a quien hace mejor el trabajo (el candidato puntúa excelente en lo técnico) sino a quien se queda, no genera conflictos y no cuestiona la cadena de mando. "Correcto para el trabajo" y "cómodo para la empresa" se parecen tanto que casi nunca los distinguimos. El relato vive justo en esa rendija.
Sé que no es la pregunta, pero en el caso concreto del relato, donde el problema es el cuestionamiento de la autoridad, creo que el modelo fallaría para las empresas a medio plazo, porque necesitan fricción para prosperar y existen en un entorno competitivo. Lo cual me acerca de rebote a la pregunta real: ¿podría un modelo predecir no sólo el comportamiento del candidato, sino también el modo en que su propia parametrización va a afectar al desarrollo de la empresa? Y si fuese tan "inteligente", ¿podría autocorregir esos criterios, y responder en tiempo real a la evolución de sus predicciones? Pero entonces el modelo se estaría aproximando a cómo piensa realmente un ser humano, y encontraría que la conclusión es que, ante una realidad demasiado compleja como para ser modelada, sería más interesante diversificar el tipo de personas que contrata.
Toda esta vuelta para llegar a la misma conclusión que Raúl G.: todos los modelos, artificiales o humanos, trabajan con información parcial y necesitan ser adaptativos. No es sólo que la ley propuesta sea injusta (¿qué es la justicia en un universo determinista y predecible?), sino que sería errónea (porque el universo, aunque sea determinista, es sólo parcialmente predecible).
Gracias por estos puzles que planteas, es divertido pensar en ellos.
Edu, has hecho algo que me interesa más que responder a la pregunta: la has disuelto y reconstruido por otro lado. El giro que propones (que el modelo, llevado al límite de su propia inteligencia, acabaría descubriendo que le conviene diversificar y por tanto contradiría su propio criterio) es muy valioso, porque convierte la objeción ética en una objeción de eficacia. No es solo que la ley sea injusta; es que un sistema verdaderamente óptimo se autorrefutaría.
Pero ahí te lanzo el reverso. Tu argumento confía en que el modelo sería lo bastante inteligente para ver que necesita fricción. ¿Y si no? ¿Y si el sistema es óptimo en el horizonte que mide (dos años, rotación, bajas) y la empresa no llega a vivir el medio plazo en el que la falta de disidentes la vuelve frágil? El relato apuesta justo por eso: por un sistema que acierta en lo que mide y es ciego a lo que no mide, y que produce resultados reales precisamente porque optimiza lo cuantificable y descarta lo demás. Tu modelo autocorrectivo sería mejor, pero ya no sería este. La trampa del dilema es que el sistema funciona sin necesidad de ser sabio.
Y me quedo con tu paréntesis, que es el corazón de todo: qué es la justicia en un universo determinista. El relato se queda un paso más acá (da por hecho que el futuro está parcialmente abierto) pero tú señalas que, aunque estuviera escrito, seguiría sin ser del todo legible. Injusta y errónea no son lo mismo, y que hayas separado las dos cosas dice mucho. Gracias por pensarlo así; se nota cuándo alguien juega de verdad.
Alabo, Araceli, tu intención de debatir libremente cualquier tipo de argumento, pero cuando las insinuaciones entran en el terreno personal tengo que responder de la misma manera. Hay argumentos que están viciados de entrada, porque son calcos de ideologías que conozco de sobra y que no están basados en ningún razonamiento lógico, sino en artículos de fe revestidos de superioridad moral. Y por ahí no paso. He bloqueado a tu comentarista, así que no me entero de nada de lo que él pueda añadir a sus (previsibles) cacofonías. Él se lo pierde, pero yo tengo cosas más importantes que hacer que discutir con espantapájaros disfrazados de filósofos. Muchos ánimos.
He votado "depende" por razones que otros ya han comentado aquí (quiénes son los jueces, qué es un sistema justo, los modelos predictivos que se agotan con el tiempo). Por otro lado, ¿no es una forma de discriminación equivalente a la que sufren muchas mujeres que no son contratadas por querer ser madres?
He imaginado un escenario algo peor. Imagina que el sistema está socialmente aprobado (da igual si es o no por ley, aunque quizá esa sea la parte que más me asusta), te presentas al puesto de tus sueños, sabes que encajas a la perfección. Pasas la evaluación y no te descartan, pero te ofrecen una posición menor, o haciendo una cosa totalmente distinta a la que querías y que no te gusta nada. ¿Cuál sería tu reacción? ¿Y si esto te pasara de forma consistente en todas las entrevistas?
Se agradecen estos escritos que nos hacen pensar.
Cristian, has traído dos cosas y las dos muy interesantes. La analogía con la maternidad es la más certera que ha aparecido en todo el hilo, porque demuestra que esto no es ciencia ficción: ya descartamos a personas por un comportamiento futuro que no ha ocurrido (y que quizá no ocurra) solo que lo hacemos sin algoritmo, con el prejuicio a pelo. El relato no inventa la injusticia, le pone una interfaz limpia y la vuelve defendible con números. Lo que hoy es discriminación ilegal, mañana podría ser un parámetro auditado.
Pero es tu escenario el que me ha dejado pensando, porque es peor que el mío y tienes razón en que lo es. En mi relato te descartan, y el descarte al menos deja intacta la imagen que tienes de ti: el sistema se equivoca, tú lo sabes, hay un agravio claro contra el que indignarse. En el tuyo no te rechazan: te reubican. Te dejan entrar, pero por la puerta que el sistema ha decidido que es la tuya, no la que tú querías. Y eso es más corrosivo, porque no hay agravio contra el que rebelarse: te han dado algo. Lo que te quitan es la posibilidad de aspirar. Si encima ocurre de forma consistente, en entrevista tras entrevista, el sistema deja de predecir tu vida y empieza a escribirla: acabas siendo la versión de ti que el modelo eligió, y no porque fuera cierta, sino porque nadie te dejó otra opción. Eso ya no es descarte, es destino asignado. Y es, probablemente, el verdadero relato que habría que escribir (quizá para una segunda parte).
Gracias por pensarlo tan lejos. Y sobre todo, por compartirlo.
Un abrazote!
Mi respuesta es no. La predicción afectiva ya aborda esta cuestión: la precisión de las predicciones se degrada con el paso del tiempo, especialmente cuando hablamos de emociones y comportamientos. Además, existen otros riesgos, como la profecía autocumplida. Si aceptamos los apartados del informe que tratan sobre nuestros posibles comportamientos y los revestimos de una falsa apariencia de cientificidad, estos podrían influir tanto en nuestro comportamiento como en la percepción que tenemos de nosotros mismos.
¡Gracias por hacernos reflexionar!
Traes algo que el relato deja implícito y tú dices muy bien: la degradación temporal de la predicción. El sistema dictamina sobre dos años vista como si el tiempo no erosionara su propio cálculo, cuando es justo al revés (cuanto más lejos mira, menos sabe). Esa es la grieta técnica que el texto confía a la intuición del lector sin enunciarla.
Y la profecía autocumplida le da la vuelta perfecta al título. El relato pregunta si una predicción puede ser correcta e injusta a la vez; lo que tú apuntas es peor todavía: que la predicción puede volverse correcta porque se ha emitido. Si interiorizo el informe que me describe como alguien destinado al conflicto, acabo cumpliéndolo, y entonces el sistema no acertó, se cumplió a sí mismo. Esa apariencia de cientificidad que mencionas es lo que blinda el mecanismo: no se vive como una opinión sobre ti, sino como un diagnóstico, y contra un diagnóstico cuesta mucho más rebelarse. Un abrazo
Me abstuve de la votación. Que salga lo que fuere.
El problema es de actitud. Aptitud, tal vez también.
Refleja una realidad de clases que en ocasiones parece irresoluble, pero tiene solución.
A finales del sXX, ocurrió algo similar, históricamente previo, pero similar.
No se solucionó por la vía expeditiva, pero el tiempo lo solucionó.
https://youtu.be/0Q0PlTz1blA?is=DqktxTWdhmOu5MNp
Pongamos, un adolescente aspira a incorporarse a una banda callejera, tipo latinkings. No asustarse, las empresas son más destructivas que las bandas. Antes de iniciar el proceso de prueba, con el corazón en la mano, os parecería mejor que superase el proceso o tal vez pensasteis que casi fuera mejor, para él, a futuro, no superarlo.
Pues lo mismo para ingresar en una empresa.
Si eres asalariado, deberías, reflexionar en clave bolchevique. El resto es entreguismo.
No es que yo lo diga. Es que es así.
La propiedad de los medios de producción establece la diferencia.
Que yo me sienta el más guapo del baile, no garantiza ser elegido para bailar.
Hola! Pues de tú comentario me quedo con la cuestión de la banda, porque le da la vuelta a algo del relato. Preguntas si preferiríamos que el chaval supere la prueba de ingreso o que fracase y se quede fuera, y das por hecho que a veces no entrar es la salvación. Ahí tocas algo que mi dilema no contempla: yo lo planteo como agravio (te descartan, qué injusticia), pero tú apuntas que el descarte puede ser un favor disfrazado. Si lo que el sistema premia es sumisión, pasar el filtro sería la verdadera derrota, y quedarte fuera, una forma de conservarte a tí mismo. Esa lectura invierte al protagonista .
Gracias por aportar tu punto de vista.
Un abrazo!
Hay solo una cosa que me gustaria mencionar, es que, la capacidad de adaptación de los trabajadores a los requisitos que se les imponen para aspirar a un cargo, que, con frecuencia, suelen ser paradojicos, por decir un ejemplo, el de la experiencia (¿Como quieren que consiga experiencia si todos los trabajos piden experiencia de minimo un año?) que te impide aspirar a cualquier cargo, primero, si eres honesto, y segundo, si no tienes experiencia; ahora, con el sistema predictivo, respondí que depende, depende de cómo funciona el sistema, si la prediccion la hace con base a tus respuestas, entonces basta con que se modifiquen un poco (digamos, para parecer mas sumiso) pero si la prediccion tambien tiene en cuenta datos como la gesticulación y demás, que pueda detectar que alguna respuesta esta incompleta, y en consecuencia, meterse por ahi, hasta dar con la aguja y hacer que sueltes la sopa, ahi si responderia de otro modo a la pregunta.
Dresval, aportas dos cosas y ambas aprietan donde el relato no llega.
La paradoja de la experiencia es perfecta como antecedente: ya vivimos filtros que se muerden la cola (piden lo que impiden conseguir) y los hemos normalizado. El sistema predictivo no inaugura este absurdo, lo perfecciona más aún.
Pero lo más importante es tu distinción sobre el sistema. Si solo lee respuestas, puedes fingir sumisión y colarte. El problema es justo el caso que temes: que lea la gesticulación, el titubeo, lo que dejas a medias, y se meta por ese agujero hasta sacarte lo que no querías decir. Ahí ya no hay máscara posible.
Y eso qué significa? Que el sistema deja de evaluar lo que haces y pasa a evaluar lo que eres, lee señales que tú no controlas. Así que tiene mucho sentido el "depende".
Muchas gracias por tu aportación.
Un abrazo!
Un mundo que viene de esta forma no es mi mundo. No quiero participar en una empresa que cree en la existencia de una ciencia del comportamiento futuro y practica la predicción como una verdad revelada. El día que la brujería se convierte en ciencia es el día de la bestia.
Lo tuyo no es un voto, es un portazo... Jejejje... se agradece la contundencia.
Lo único que añadiría a tu portazo es esto: la bestia del relato no llega con cuernos, llega con buenos resultados. Si fallara, sería fácil echarla. Lo que la vuelve peligrosa es que funciona (menos bajas, más permanencia, equipos estables) y por eso entra por la puerta grande, aplaudida, votada en el parlamento. La brujería que da miedo no es la que se equivoca, sino la que acierta lo suficiente para que dejemos de llamarla brujería.
Muchas gracias por comentar y dejar tú voto. Un abrazo!
Opino que sí. Al fin y al cabo el entrevistador humano sigue las mismas instrucciones corporativas y además su evaluación se ve afectada por sus emociones y estado de ánimo.
También hacen predicciones en esa línea pero con menos capacidad objetiva y puntos a analizar por lo que el análisis de la IA es más neutro y se aplica del mismo modo en todos los casos
Tu argumento es el más difícil de rebatir de todos los que han llegado por el momento, porque es cierto: el entrevistador humano también predice, también obedece instrucciones corporativas, y encima lo hace con sesgos, cansancio y simpatías personales. La máquina, al menos, aplica el mismo rasero a todos. Eso es verdad y el relato no lo niega.
Donde lo pondría en cuestión es en la palabra "neutro". El sistema es uniforme (trata a todos igual), pero uniforme no es lo mismo que justo: si el criterio que aplica por igual penaliza a quien cuestiona la cadena de mando, entonces está discriminando de forma sistemática y limpia, sin la inconsistencia humana que a veces deja pasar al inconformista por puro azar o por buena química en la sala. El sesgo humano es injusto pero errático, y en su error cabe el indulto. El de la máquina es coherente, y por eso no perdona a nadie que entre en la categoría. La pregunta sería: ¿preferimos un juez imperfecto que a veces se equivoca (en contra o a tu favor), o uno impecable que nunca lo hará?
Un abrazo.
Mi respuesta va en función de como me gustaría que fuera el futuro de la humanidad.
Odio que la máquina sustituya a la persona, que lo controle todo, que el factor humano con sus limitaciones se acabe.
No me gusta LA TENDENCIA hacia ese futuro que alimentamos día a día con el uso de la IA por ejemplo que nos llevará a esas situaciones y que como buenos humanos nos lamentaremos .... cuando sea tarde.
Un abrazo Ara.
Gracias, Manu. Lo que dices toca el fondo del relato, y me gusta especialmente cómo lo dices, porque has escrito "no me gusta la tendencia" y la pieza gira justo sobre esa palabra. Tú reivindicas el derecho a que una tendencia no se cumpla (la de la humanidad hacia ese futuro) y eso es exactamente lo que el sistema le niega al candidato: la posibilidad de desmentir su propia curva. Aunque la probabilidad de que lo haga sea baja.
De nuevo, gracias por tu aportación siempre interesante. Abrazos!
Muy interesante, lo incluimos en el Diario de Substack en español?
Hola, Salvador. Sí, muchas gracias!
No sé qué tiene que ver la ley en todo esto. La selección de ovejas para un rebaño de ovejas no atenta contra ningún derecho de las ovejas. En una sociedad libre siempre habrá quien contrate leones, cebras o canguros. Lo único que hay que legislar es la libertad de las sociedades
Hola, Ricky. Tu objeción tiene una lógica interna sólida (si una empresa quiere ovejas y otra leones, que el mercado decida y que nadie legisle el gusto ajeno). Es una posición legítima. Pero el relato incide justo donde esa lógica cruje.
Primero: tu argumento funciona si hay leones contratando en otra parte. ¿Y si el sistema es tan bueno que todas las empresas lo adoptan, porque a todas les da mejores resultados? Entonces no quedan rebaños alternativos. El «león» (el que cuestiona, el que disiente) no encuentra dónde, no porque una ley se lo impida, sino porque el mercado entero ha convergido en filtrarlo. La libertad de las empresas para elegir puede producir, agregada, una sociedad donde un tipo de persona ya no es contratable en ningún sitio. Y eso sí es un problema de derechos, aunque ninguna empresa individual haya hecho nada ilegal.
Segundo, lo de las ovejas. La metáfora supone que hay especies distintas y cada empresa elige la suya. Pero el sistema del relato no selecciona especies: penaliza un rasgo concreto (cuestionar la autoridad) que resulta ser el mismo que, en el primer párrafo, explicaba los éxitos del candidato. No filtra leones para buscar ovejas. Filtra a quien piensa por su cuenta, y lo hace en nombre de la productividad. La pregunta del relato no es si una empresa puede preferir ovejas; es si queremos una sociedad donde ser oveja sea el único requisito para trabajar.
Mil gracias por tu comentario. Le da amplitud al debate.
Tú has preguntado si la ley debería legislar cierta conducta empresarial y yo he contestado que "en una sociedad libre" la ley no tiene nada que legislar a ese respecto. Sé perfectamente a dónde quieres ir, pero en una sociedad libre los leones o los canguros también pueden crear empresas con sus criterios particulares. No hay un método único para mejorar la productividad, y la creatividad o el inconformismo, siendo conflictivos, son presumiblemente más eficaces en eso que el aborregamiento. Los grandes avances científicos de la historia no los ha hecho ninguna oveja ni ningún sistema totalitario. No te atasques en los estereotipos. Los seres humanos somos complejos y la 'productividad' no es un concepto unívoco ni absoluto. La película Metrópolis nunca se hizo realidad.
Tienes razón en lo esencial, Ricky, y me has adelantado el contraargumento que iba a darte: si el inconformismo es más productivo a largo plazo, el mercado libre acabará premiando a quien lo contrate, y los "leones" tendrán sus empresas. No habrá convergencia total porque la diversidad de criterio es, en sí misma, una ventaja competitiva. Estoy de acuerdo.
Donde no te sigo del todo es en el "acabará". Estoy de acuerdo en el equilibrio final; no tanto en el trayecto hasta ahí. El mercado corrige, pero suele hacerlo tarde y sobre cadáveres: durante el tiempo en que la moda del sistema predictivo se extiende (porque da resultados a corto, que es lo que se mide) hay una generación de "leones" a la que ningún algoritmo deja entrar. El mercado los reivindicará dentro de X años, cuando alguien demuestre que filtrarlos era un error. A ellos, mientras tanto, no les sirve tener razón a destiempo. Mi relato no vive en tu equilibrio, vive en ese trayecto de desajuste.
Y aquí coincidimos en el fondo, aunque lleguemos por caminos distintos: tú dices que la productividad no es unívoca y que ninguna oveja hizo un gran avance. Es exactamente la tesis del relato. La diferencia es que tú confías en que el mercado lo reconozca solo, y yo no estoy tan segura de que lo haga a tiempo, ni sin que algunos paguen el precio del retraso. Por eso a mí la pregunta de la ley no me parece ociosa.
Lo de Metrópolis te lo concedo con una sonrisa: no, no se hizo realidad. Pero yo creo que los relatos distópicos rara vez aciertan en la estética; aciertan, cuando lo hacen, en el mecanismo.
Un abrazo.
Existe la idea preconcebida de que los individuos son peleles zarandeados por las leyes del mercado. Pero en realidad el mercado lo hacemos entre todos, interactuando libremente. En Europa estamos acostumbrados a vivir en estados invasivos con grandes empresas monopolísticas, y a muchos les asusta la idea de ser libres, porque temen perder la protección del estado y verse obligados a aceptar riesgos y tomar iniciativas. En una sociedad libre se crean oportunidades de trabajo con la misma facilidad con que se destruyen, y siempre hay oportunidades, aunque sólo sea porque las puedes crear tú mismo. En Europa vivimos ahogados por siglos de miedo acumulado, por lo menos desde los tiempos de Bismarck. Y, antes de Bismarck, por siglos de sociedades feudales.
Hay una ecuación ineludible en la vida: la libertad y la seguridad son antagónicas. Cuanta más seguridad tengas, menos libertad disfrutarás, y a la inversa. La libertad conlleva riesgos, pero no impide protegerse a quienes prefieran la seguridad. Las ovejas no molestan a nadie.... salvo que quieran imponernos a todos su preferencia por la seguridad. En una sociedad libre hay sitio para todos: leones y ovejas. Para quienes asumen riesgos, los percances serán tan posibles como los éxitos: la posibilidad de fracasar es el precio que hay que pagar por la posibilidad de triunfar. Es un juego de suma cero. Si no quieres fracasar, no te arriesgues. Pero si yo quiero asumir riesgos, no me hará ninguna gracia que me lo impidan por ley. Dicho de otro modo: en una sociedad libre, tú puedes optar por la seguridad. En una sociedad segura no hay huecos para la libertad. Es asimétrico.
Es un buen argumento, y no lo voy a discutir, la asimetría que planteas es real. Una sociedad libre puede dar cobijo a quien quiere seguridad; una sociedad securizada no deja resquicio a quien quiere arriesgarse. Como principio, lo comparto. Pero lo que describes no es un juego de suma cero, es justo lo contrario. Suma cero es lo que pasa cuando mi ganancia es tu pérdida. Lo que tú defiendes (arriesgo y gano o pierdo yo) es un juego donde la apuesta es mía y las consecuencias también. Y ahí está, precisamente, donde el relato te discute.
Porque tu modelo da por hecho que el león puede jugar y perder. Pero el sistema del relato no le deja perder: le impide entrar. No lo descarta por fracasar, lo descarta antes de intentarlo, por lo que un cálculo predice que haría. Esa es mi única reserva. En todo lo demás, llevas razón: la libertad incluye el derecho a arriesgarse y a pagar por ello, y ninguna ley debería confundir protegernos con decidir por nosotros. Me quedo con tu asimetría; es de lo mejor que se ha dicho en este hilo.
No puedo evitar inmiscuirme en la conversación, porque ese "Sé perfectamente a dónde quieres ir" me ha parecido tan apropiado al texto que me ha hecho gracia: el algoritmo predictivo de la política. En el que caemos todos, claro, porque en cuanto he visto lo de que "lo único que hay que legislar es la libertad de las sociedades", he añadido mentalmente, "privadas". Tú anticipas y cuestionas la agenda política que sospechas detrás del texto, y yo anticipo y sospecho de la tuya. Es algo así como una "reducción a la política": todo argumento es político y entonces todo se reduce a averiguar de qué bando es el interlocutor y a apoyarlo (raramente) o a atacarlo. Resulta aburrido porque es predecible -y sin necesidad de recurrir a una IA de ciencia ficción: los argumentos de uno y otro lado están muy pero que muy trillados.
Yo creo que hay pensamiento más allá de la política. Este texto abre la puerta a pensar sobre comportamiento, predictibilidad, etc. De hecho, diría que la mención de la ley es accesoria, que está ahí para forzar la pregunta de un caso parcial a la totalidad, y que no es esencial al texto.
Me temo que tus capacidades como psicólogo dejan mucho que desear. Se limitan a pensar que los que no son de tu bando (¿secta?) son del bando contrario. Es un esquema muy manido, y pueril. No sé qué quieres decir con 'sociedades privadas', a no ser que padezcas esa empanada mental que identifica 'privado' con malo, y 'público' con bueno. Pero eso no son argumentos, sino juicios morales, y muy poco originales. Padeces ese reflejo condicionado que interpreta todos los argumentos en clave maniquea. Tu originalidad es cero, y yo en tu lugar me preocuparía. Araceli y yo hemos argumentado sin entrar para nada en política, y sus argumentos eran, básicamente, genuinos. Por eso me he decidido a comentar su texto. Discutir de política con loritos empoderados moralmente por su pertenencia a algún bando prefabricado habría sido, a estas alturas, demasiado aburrrido. Me interesa la originalidad, y Araceli, a diferencia de ti, es, además de inteligente, original. Contesta si quieres, pero yo doy por zanjado este coloquio contigo. Lo siento, pero es que odio el aburrimiento.
Me gustaría parar un momento aquí. Ricky, no leo la intervención de Edu como un ataque hacia ti, sino como exactamente lo que yo busco aquí: pensar más allá del bando. No importa la ideología. Le conozco y aporta sus ideas siempre de forma generosa y respetuosa.
Este es un espacio para discutir ideas sin herir a las personas. Lo primero se ha hecho de maravilla, por favor, mantengamos también lo segundo. Agradezco mucho las intervenciones que elevan el texto y lo complementan donde yo no llego.
Uuu, muy bueno.
Parte del cerebro opera creando y calibrando modelos predictivos. Y de manera bastante mediocre, con y sin heurísticas.
Voté sí, pero después de leer las condiciones por segunda vez, cambio a depende. Depende de qué tan avanzado es el sistema artificial (qué porcentaje de mejora tiene sobre el sistema clásico de contrataciones), de la satisfacción de los empleados y (lo más importante) de quién hace las leyes. Comité ético?! Qué miedo.
Si las empresas mejoran porque contratan a la gente correcta para el trabajo, es probable que los empleados también estarán más satisfechos, etc.
Me quedo con un detalle que para mí es el mayor elogio que puede recibir el texto: votaste sí, releíste y te moviste a "depende". Ese segundo paso por las condiciones es exactamente lo que el relato persigue: no que cambies de bando, sino que la certeza del primer clic se agriete.
Tus tres variables son las correctas, pero me detengo en la que tú mismo marcas como la más importante: quién hace las leyes. Ahí está el fondo. El relato pone a un comité ético a decidir precisamente porque la pregunta no es técnica (cuánto mejora el sistema) sino política: quién tiene autoridad para decidir qué se optimiza y qué se sacrifica. Tu "qué miedo" ante el comité es legítimo, pero piensa en el reverso: si no decide un comité, decide la empresa que se beneficia del sistema, y esa sí que es juez y parte.
Y donde más me gustaría tirar del hilo es en tu última frase, porque encierra el supuesto que la pieza quiere poner a temblar: "contratar a la gente correcta para el trabajo". El sistema del relato no busca a quien hace mejor el trabajo (el candidato puntúa excelente en lo técnico) sino a quien se queda, no genera conflictos y no cuestiona la cadena de mando. "Correcto para el trabajo" y "cómodo para la empresa" se parecen tanto que casi nunca los distinguimos. El relato vive justo en esa rendija.
Gracias por este pedazo de comentario.
Abrazos.
Gracias a ti por un gran texto!
Sé que no es la pregunta, pero en el caso concreto del relato, donde el problema es el cuestionamiento de la autoridad, creo que el modelo fallaría para las empresas a medio plazo, porque necesitan fricción para prosperar y existen en un entorno competitivo. Lo cual me acerca de rebote a la pregunta real: ¿podría un modelo predecir no sólo el comportamiento del candidato, sino también el modo en que su propia parametrización va a afectar al desarrollo de la empresa? Y si fuese tan "inteligente", ¿podría autocorregir esos criterios, y responder en tiempo real a la evolución de sus predicciones? Pero entonces el modelo se estaría aproximando a cómo piensa realmente un ser humano, y encontraría que la conclusión es que, ante una realidad demasiado compleja como para ser modelada, sería más interesante diversificar el tipo de personas que contrata.
Toda esta vuelta para llegar a la misma conclusión que Raúl G.: todos los modelos, artificiales o humanos, trabajan con información parcial y necesitan ser adaptativos. No es sólo que la ley propuesta sea injusta (¿qué es la justicia en un universo determinista y predecible?), sino que sería errónea (porque el universo, aunque sea determinista, es sólo parcialmente predecible).
Gracias por estos puzles que planteas, es divertido pensar en ellos.
Edu, has hecho algo que me interesa más que responder a la pregunta: la has disuelto y reconstruido por otro lado. El giro que propones (que el modelo, llevado al límite de su propia inteligencia, acabaría descubriendo que le conviene diversificar y por tanto contradiría su propio criterio) es muy valioso, porque convierte la objeción ética en una objeción de eficacia. No es solo que la ley sea injusta; es que un sistema verdaderamente óptimo se autorrefutaría.
Pero ahí te lanzo el reverso. Tu argumento confía en que el modelo sería lo bastante inteligente para ver que necesita fricción. ¿Y si no? ¿Y si el sistema es óptimo en el horizonte que mide (dos años, rotación, bajas) y la empresa no llega a vivir el medio plazo en el que la falta de disidentes la vuelve frágil? El relato apuesta justo por eso: por un sistema que acierta en lo que mide y es ciego a lo que no mide, y que produce resultados reales precisamente porque optimiza lo cuantificable y descarta lo demás. Tu modelo autocorrectivo sería mejor, pero ya no sería este. La trampa del dilema es que el sistema funciona sin necesidad de ser sabio.
Y me quedo con tu paréntesis, que es el corazón de todo: qué es la justicia en un universo determinista. El relato se queda un paso más acá (da por hecho que el futuro está parcialmente abierto) pero tú señalas que, aunque estuviera escrito, seguiría sin ser del todo legible. Injusta y errónea no son lo mismo, y que hayas separado las dos cosas dice mucho. Gracias por pensarlo así; se nota cuándo alguien juega de verdad.
Un abrazote.
Alabo, Araceli, tu intención de debatir libremente cualquier tipo de argumento, pero cuando las insinuaciones entran en el terreno personal tengo que responder de la misma manera. Hay argumentos que están viciados de entrada, porque son calcos de ideologías que conozco de sobra y que no están basados en ningún razonamiento lógico, sino en artículos de fe revestidos de superioridad moral. Y por ahí no paso. He bloqueado a tu comentarista, así que no me entero de nada de lo que él pueda añadir a sus (previsibles) cacofonías. Él se lo pierde, pero yo tengo cosas más importantes que hacer que discutir con espantapájaros disfrazados de filósofos. Muchos ánimos.