Tiempo de lectura: 29 minutos 😅

«La tecnología no es buena ni mala, depende»

Estoy seguro de que habrás notado cómo, cada vez que un nuevo informe o paper explica el impacto que tiene en la capacidad cerebral de los menores la adicción al TikTok, o cuando se informa de los trastornos en la alimentación o la personalidad que crea en las adolescentes la cultura de like de Instagram, alguien dice esa idea naïf de que “la tecnología no es buena ni mala, depende del uso que se hace de ella”.

Quizá tú lo pienses.

He usado a propósito la palabra «naïf» precisamente por su sentido de ingenuidad intencionada. Ingenuidad, porque es un pensamiento simplista, tal vez fruto de haber hecho poca reflexión. Intencionada, porque uno siempre se queda con la sensación de que este tipo de mensajes suelen ser auto-exculpatorios.

El 15 de septiembre de 2023, la Irish Data Protection Comission impuso una sanción [0] de 345 millones de euros a TikTok porque su gestión de la privacidad de los menores incumple el GDPR. En particular: la verificación de edad durante el proceso de alta; las cuentas de menores estaban abiertas al público por defecto; no se informaba de esto de manera transparente a los menores; y no implementaba la seguridad adecuada para los riesgos que corre un menor de 13 años con su cuenta abierta al público en TikTok

Y, sobre todo:

“TikTok implemented ‘dark patterns’ by nudging users towards more privacy-intrusive options during the registration process, and when posting videos.” [0]

Implementar Dark Patterns. Por si no lo sabes, se refiere a un patrón en la experiencia de interacción diseñado intencionalmente para que los usuarios tomen decisiones que pueden ser perjudiciales para sus intereses.

Pero no para los de los creadores del sistema.

Lo primero que tienes que saber sobre este ensayo es que tratará sobre la Intencionalidad, y cómo la Intencionalidad responde a una Voluntad. A la de alguien, nunca a la de algo, porque un algo no tienen Intencionalidad.

Empecemos por el principio. ¿Menores en Tiktok? En España, no está permitido que un menor de 14 años se dé de alta en una red social. La UE establece el límite en los 16, pero permite a cada país que fije sus propias normas. Show Chew, CEO de TikTok, afirma [1 ] que la plataforma por defecto fija en 60 minutos al día el límite de uso para los menores, pero admite que ese límite se puede desactivar por configuración; o que no tienen mecanismos para impedir que menores se den de alta; o que construir una plataforma segura [2] para menores no es sólo un reto de TikTok, también le pasa al resto de la industria…

Mensajes auto-exculpatorios.

¿La responsabilidad de lo que pasa en TikTok no es de lo que permite hacer la plataforma, sino de las personas a las que le das la plataforma?

Pues nos parece normal decir eso cuando hablamos de TikTok, de Facebook, o de Twitter, del Zuckerberg o el Musk de turno. Empresas y personajes que hemos convertido en aspiracionalmente relevantes, y que se siguen poniendo de ejemplo en Escuelas de Negocio. Como ejemplo de innovación, de atrevimiento, de crecimiento de usuarios, de acceso a capital, de beneficios… cuando en realidad deberíamos tenerlos como ejemplos de Voluntad e Intencionalidad, y sacar conclusiones sobre ello.

¿De quién es la responsabilidad de la destrucción de Hiroshima? ¿Será de los científicos que investigaron con éxito la bomba? ¿O de quiénes las ensamblaron bien y entonces “funcionaron bien”? ¿O del piloto que en lugar de perderse, guió el avión a su destino? ¿O del Mayor Ferebee, que apretó el botón sobre el objetivo?

No, en este caso lo tenemos claro.

Dos personas asumieron esa responsabilidad. Oppenheimer, de investigarla, diseñarla y hacerla posible. El presidente Truman, de lanzarla sobre Japón. Ya lo dijo el propio Oppenheimer. Se había convertido en el Destructor de Mundos.

En toda transferencia tecnológica hay un proceso de diseño, que responde a un objetivo, y durante el que se toman decisiones. En ese punto surge la responsabilidad.

¿Desde dónde surge?

Desde la Voluntad.

En este ensayo voy a utilizar Intencional como antónimo de Neutral. Se que el antónimo de “neutral” es “parcial”, pero me gusta “Intencional”. Podríamos decir que la tecnología es “parcial” porque alguien toma partido, elige una opción transformadora de la realidad. Aun así, me parece más apropiada la palabra “Intencional” porque creo que pone de manifiesto que esa parcialidad de la tecnología responde a un motivo, a una Intención que ha sido creada por una Voluntad. Esos términos, Intencionalidad y Voluntad, los escribo con mayúsculas porque en torno a ellos debemos desarrollar una Ética tecnológica.

Así, podemos usar la palabra Intencional para referir el hecho objetivo de implementar dark patterns para que los menores no tengan sus cuentas de TikTok abiertas como hemos visto antes. O para referir que Elon Musk despida a la mayor parte del equipo que se encarga de cortar la publicación de contenidos relacionados con el abuso sexual a menores [3] y lo reemplace por un algoritmo; porque esa decisión tiene una intención y unas consecuencias.

Consecuencia: reducción de costes.

Consecuencia: material de abuso sexual a menores disponible durante meses en la plataforma [4].

Y eso que hay herramientas que identifican los patrones en estas imágenes, y los difunden hacia las redes para que éstas automáticamente los moderen. Pues nada oyes, con tanto despido, no funcionaban.

No me digas que usar  “intencionalidad” no eleva la descripción del fenómeno.

Personalmente, no creo que Elon Musk quiera que se distribuya pornografía infantil por twitter, lo que sí creo es que entre reducir costes para mejorar el EBIDTA, o seguir invirtiendo en vetar la pornografía infantil, lo tiene claro.

Ese es el ejemplo que tendríamos que dar en las Escuelas de Negocio.

Sé Truman. Sé Oppenheimer. Asume la decisión de priorizar costes sobre pornografía infantil.

Espera. O mejor aún.

Asume la decisión contraria, que igual es la correcta.

Es curioso que haya personas que sigan defendiendo como paradigma del éxito al magnate sudafricano (hecho a sí mismo en la ciudad Esmeralda [5]) cuando se auto-exculpa de las consecuencias de sus decisiones intencionales; y en cambio como europeos, nos produzca indignación casi unánime que cada vez que hay un ataque con armas de fuego en un colegio de USA, salga un miembro del GOP, de la NRA o del propio Trump, diciendo que “no es necesario mayor control de las armas, sino volver la mirada a Dios” [6] o que “un profesor armado podría poner fin a un ataque muy rápido” [7], o nos llevamos las manos a la cabeza cuando hay empresas que crean un modelo de negocio de bunkers portátiles para escuelas [8].

Efectivamente, dirás, es que no es la misma relación causal entre Intencionalidad tecnológica y consecuencias. Que no es lo mismo la Bómba Atómica que las redes sociales.

Que todo es relativo.

El relativismo no es algo que exista únicamente en la filosofía, ni aplica sólo a nuestra visión de la ética tecnológica, es uno de los conceptos esenciales y más transformadores de la historia de la ciencia, y clave en la mecánica cuántica.

Y de ciencia, tecnología, mecánica cuántica y relativismo (moral y científico) va «Oppenheimer». Es una película que además de interesante, y candidata a llevarse una buena pila de premios y reconocimiento, es un contexto ideal para hablar de Filosofía de la Ciencia, y de la Neutralidad de Ciencia y Tecnología.

Ciencia es Conocimiento

No se tú, pero yo a veces tengo la sensación de que hay personas que usan la palabra “ciencia” y la palabra “tecnología” como si fueran intercambiables, y no.

Hay muchas definiciones de Ciencia, prácticamente cada diccionario, cada universidad y cada agencia científica tiene la suya. Algunas hacen más énfasis en el objeto de estudio (el mundo físico, el mundo conocido, el mundo real..), el objetivo (encontrar conocimiento, definir leyes…), otras en la utilidad de ese conocimiento (explicar, predecir…), otras en cómo se obtienen las evidencias (por la observación de fenómenos, por la experimentación…), etc.

En general, sacando factor común, podemos decir que “ciencia es la disciplina que busca el conocimiento fiable del mundo, a partir de la experimentación y los hechos objetivos”; y esa definición nos deja a todos más o menos tranquilos, podemos aceptarla, y además reconocer que la ciencia, en principio, tiene que ver con el conocimiento y, por tanto, no con la intervención. Intervención en el mundo que estudia, me refiero.

Como tiene que ver con el conocimiento, con “lo que es”, debe ser objetiva. Por eso se defiende la neutralidad de la ciencia. Es epistemológica, busca el conocimiento como fin en sí mismo, y a partir de él, explicar el mundo, predecir lo que ocurrirá, o descubrir lo que ha ocurrido.

Obviamente, no todas las ciencias tienen ni la misma facilidad objetiva, ni la misma capacidad predictiva, sobre todo las ciencias sociales (y si no, que se lo digan a Feijóo [9]). En las “ciencias duras”, hay unas leyes, expresadas a través de fórmulas que nos permiten saber con exactitud qué pasa si le pego una patada a una pelota, según como se la pegue, según cómo sea la pelota, según el viento que haya, etc. Eso es objetivo y por tanto neutral. Otras ciencias, como las sociales, pueden estar sujetas a subjetividad, ahí están las visiones enfrentadas del positivismo contra la hermenéutica. Cuando se hace una explicación de fenómenos como la especulación masiva en criptodivisas o la ablación femenina, es complicado que el observador se desligue subjetivamente de lo observado. Sin embargo, la idea de que hay corrientes positivistas que intentan explicar los fenómenos sociales desde la objetividad, nos hace pensar que esa sea, efectivamente, una de las características esenciales de la ciencia para serlo.

De hecho, todo el concepto del racionalismo gira en torno a la idea de que debe existir algo, la razón, que nos permita encontrar la verdad de algo, con independencia de quién lo valore.

“Verdad” y “razón” son conceptos complicados desde que Platón empezase a hablar sobre ellos hace dos mil quinientos años. Tradicionalmente, se espera de un científico que sea neutral, porque su misión es describir cómo es el mundo, no cómo le gustaría que fuese. Y debe ser objetivo, porque la filosofía europea, desde la Grecia de Epicuro, nos dice que las emociones se oponen a la razón porque la ofuscan. Por tanto, para hacer ciencia hay que dejar de lado las emociones. Las observaciones, los experimentos, las fórmulas…, todo debe ser comprobable con independencia de quién lo formule o quién lo valide para poder establecer una Ley, a ser posible universal. O sea, que se cumpla siempre y en todos los casos.

Para hacerlo, se sigue el Método Científico, que busca la objetividad por diseño. Es decir, que se ha diseñado para ser objetivo. Por eso hablamos de observaciones, de experimentos pensados para que se puedan repetir, de hipótesis que se quieren validar, de formulaciones matemáticas de leyes para que no se puedan malinterpretar ni se pierda su significado en traducciones, de revisión por pares, de publicaciones donde se han validado, de refutaciones, etc., y ese es el modelo tradicional de hacer la ciencia.

Durante muchos años, sólo Hume y los empiristas pusieron en duda el modelo de la ciencia, cuando expusieron el llamado “problema de la inducción”. Tiene que ver con la forma en que establecemos conclusiones que decimos verídicas en el futuro, a partir de observaciones que hemos visto en el pasado. Para Hume:

“no existen argumentos demostrativos para probar que los casos de los que no tenemos experiencia se asemejen a aquellos de los que tenemos experiencia” (Hume) [10]

Lo que le lleva a concluir que

“cuando la mente pasa de una idea o impresión de un objeto, a la idea o creencia de otro, no está determinado por la razón, sino por ciertos principios que asocian entre sí las ideas de estos objetos, y las unen en nuestra imaginación” (Hume) [10]

Durante un par de siglos el único problema de la ciencia era si podíamos ser racionalistas o empiristas, si nuestras leyes eran suficientes o no para declarar la superioridad epistémica de la ciencia como disciplina para adquirir conocimiento, sobre la fe o la metafísica. La neutralidad del científico no era un problema en sí misma, hasta que llegó lo que se conoce como “Big Science” y entonces todo empieza a cambiar un poco.

En «Oppenheimer» se explicita claramente este cambio, porque vemos a los científicos salir de las Universidades y entrar en las bases militares.

A partir de aquí, sabemos que al problema de la inducción le unimos el problema de la neutralidad. Porque esto de la neutralidad tal vez tampoco sea del todo cierto.

En los años 60 Kuhn desarrolla el concepto de Paradigma [11] para explicar que los científicos, como personas, asumen cierta forma de pensar, ciertas ideas, ciertos supuestos previos, ciertos ámbitos de interés hacia los que dirigir su mirada… A ese contexto en el que se juntan valores, conceptos, métodos, supuestos y demás, es a lo que Kuhn llama Paradigma. Los científicos que trabajan dentro de un mismo Paradigma comparten este contexto.

Concluimos esta parte dejando claro que la ciencia busca el conocimiento objetivo del mundo, y que en ese punto hay un riesgo de la subjetividad del científico como humano. La superioridad epistémica de la ciencia frente a otras formas del saber se sustenta tradicionalmente en torno al método científico, su objetividad, y su capacidad enunciativa de leyes que permiten la explicación y la predicción.

Pero hay un doble riesgo de subjetividad en la ciencia: el de los científicos-personas que imaginan leyes en su cabeza como diría Hume, y el de los científicos-miembros activos que investigan condicionados por lo que se acepta en un Paradigma.

Tecnología es Intervención

Por otro lado, tenemos a la tecnología. Tradicionalmente se traduce el griego technê como producción, arte o artesanía; en el periodo clásico, se asimila al concepto de la práctica por la cual el artesano, con su conocimiento, transforma la physis. Parece que es a partir de Aristóteles cuando se establece esa diferenciación entre la episteme como conocimiento, y la technê como intervención a partir del conocimiento verdadero [12]

La intervención en el mundo desde el conocimiento no viene del lado de la ciencia, la ciencia aporta la explicación o la predicción. La intervención viene más del lado de la tecnología, pues está relacionada con la acción. Tecnología combina la technê y el logos [13], lo que nos hace pensar en el arte de producir cosas con instrumentos a partir del conocimiento; y por otra parte en la palabra o la razón, y de ahí tenemos la tecnología como se define en varios diccionarios:

• “teorías y técnicas que permiten el aprovechamiento práctico del conocimiento científico” para la RAE.
• “the practical application of knowledge” para el Merriam-Webster, o
• “the practical, especially industrial, use of scientific discoveries” para el Cambridge Dictionary o
• “Wissenschaft von der Umwandlung von Roh- und Werkstoffen in fertige Produkte und Gebrauchsartikel, indem naturwissenschaftliche und technische Erkenntnisse angewendet werden“ [13] para el Duden.

Y la verdad es que me vienen muy bien estas definiciones, porque son las que habitualmente tenemos a mano, y porque se quedan muy cortas, no van demasiado lejos que digamos. Son definiciones que evitan el concepto de la intervención (que es Intencional y responde a una Voluntad como hemos dicho) y eso para mí es fundamental: precisamente por lo que dejan fuera (la tríada Intervención-Intención-Voluntad si la vemos desde lo creado, o Voluntad-Intención-Intervención si lo vemos desde el creador) es por lo que alguien puede caer en la trampa de declarar la neutralidad de la tecnología.

Me gusta la “escalera” que hace Miguel Ángel Quintanilla, Catedrático de Lógica y Filosofía de la Ciencia de la Universidad de Salamanca, en el que en cada peldaño explicita el paso de “técnica” a “tecnología”. Quintanilla habla [15] de:

• la técnica, como una realización cultural de carácter abstracto, que tiene diversas realizaciones o aplicaciones.
• la realización técnica, como un sistema de acciones humanas intencionalmente orientado a la transformación de objetos concretos para conseguir resultados valiosos
• y la realización tecnológica como una realización técnica industrializada, vinculada a la ciencia, que persigue conseguir resultados valiosos de manera eficiente.

No existe la neutralidad de la tecnología, por definición de tecnología.

Pero no por la definición de los diccionarios, sino por la definición filosófica del término. Obsérvese cómo la palabra Intencionalidad aparece antes que la palabra “valor”, “industria”, “ciencia” o “eficiencia”. Claro, es que la Intencionalidad, es previa. La Intencionalidad responde a la Voluntad: primero existe la voluntad de un ser humano de transformar, de intervenir, y esa voluntad se transmite hacia aquello fabricado o intervenido a través de la tecnología. Decía Schopenhauer que:

«El mundo es mi representación (…) pues por muy inmenso y sólido que pueda ser, su existencia pende de un único hilo: la conciencia de cada uno, en la que se asienta» Y añade  “los objetos son la voluntad hecha representación” (Schopenhauer) [15]

O sea que el mundo es lo que yo percibo del mundo y lo que quiera hacer de él. ¿Cambia esta idea tu visión de Elon Musk, de Zuckerberg, de…?

La tecnología tiene como misión en sí misma la Intervención, y por tanto, tiene Intencionalidad. Se utiliza el conocimiento científico con Voluntad para producir una transformación, y eso responde a un propósito que no es epistémico, es… otra cosa.

Esta idea idea de la escalera de la técnica nos puede servir también para ilustrar un ejemplo de la Intencionalidad de la tecnología.

• Puedes hacer una tecnología que permita hacer el encoding y comprensión de un vídeo.
• Puedes hacer una tecnología que permita la difusión de ese vídeo a otras personas.
• Puedes hacer una tecnología que permita a las personas registrar su reacción a un vídeo que se les ha compartido.
• Puedes hacer una tecnología que registre esas reacciones, analice los vídeos a los que corresponden, y busque patrones en vídeos similares.
• Puedes hacer una tecnología que permita ver qué tienen en común las personas que responden a determinados vídeos…

Y en cualquiera de esos pasos puedes inventarte un modelo de negocio, hacer estimaciones de ingresos, y por tanto, plantear cómo alguien se va forrar. Es decir, que en cada caso, se puede diseñar la tecnología con una intencionalidad.

Es cierto, también se puede usar tecnología con otra intencionalidad, que puede no ser coincidente con la de su creador, así que habrá que pensar en qué se ha tenido en cuenta durante el proceso de diseño.

Supongo que en esta frase empiezan las incongruencias; se cuela el lenguaje para contaminar la realidad.

«Los límites de nuestro lenguaje limitan nuestra concepción del mundo», dijo Wittgenstein. Hay que tener mucho cuidado con el lenguaje, hay que ser muy responsables en el uso del lenguaje.

¿Cómo que la tecnología “se hace”?

¿Cómo que algo “se ha tenido en cuenta”?

Creo que es importante en este tipo de debates no decir que la tecnología “se hace”.

La tecnología no es reflexiva, no se hace a sí misma [17]

La tecnología la hacen las personas, la diseñan las personas, a partir de su Voluntad, con un propósito Intencional. Es un tema serio, y por eso hay que ser serios con el lenguaje.

Una de las líneas de reflexión que me apunto es escribir sobre la Intencionalidad de las personas que piensan la tecnología, y la de las personas que la construyen para los anteriores. Obviamente, también de quiénes la usan. Me parece interesante que una persona pueda trasladar la Voluntad de su visión, su Intencionalidad, a otros, que sin necesariamente tenerla, aceptan llevarla a cabo. Prestan su conocimiento y su trabajo a construir la Voluntad de otro. No digo que sea algo exclusivo de nuestros días, me parece algo interesante sobre lo que pensar, sobre todo en el caso de personas que tienen opciones. Esto también se recoge en Oppenheimer, cuando vemos cómo algunos científicos dudan, se debaten, sobre si participar o no en el proyecto Manhattan, porque no están seguros de querer sumarse a esa Voluntad.

¿Hay Neutralidad en la Big Science?

«Oppenheimer» gira en torno a varios fenómenos históricos, todos ellos muy relevantes, y al hacerlo, nos deja entrever otro que subyace a toda la película, y es el salto de la “ciencia” a la Big Science que hemos comentado.,

El proyecto Manhattan se suele usar como ejemplo para ilustrar la idea de la Big Science; una ciencia que sale de las Universidades y Centros de Investigación a grandes complejos o laboratorios, de la mano de los Estados y el Ejército. No solo de la mano, también del bolsillo. Grandes presupuestos permiten grandes proyectos de investigación, grandes montajes experimentales, grandes equipos de trabajo.

En este punto es cuando empieza a ser más patente que existe una Intencionalidad investigadora, puesto que hay una inversión sin precedentes que hacen los Estados y/o los Ejércitos (como si fuesen algo distinto), y se hace con un objetivo que no es necesariamente epistémico, sino que ahora tiene que ver con la ventaja competitiva de las naciones, se mida eso como se mida.

El conocimiento ya no es el fin, es el medio para conseguir el fin. Pero aparece antes el fin que el medio. Obsérvese que no es lo mismo investigar la fisión nuclear, descubrir la reacción en cadena, y deducir que se puede hacer una bomba; que decidir que se quiere hacer una bomba, y poner a gente a investigar cómo. Pero bueno, nunca sabremos si el estribo se inventó porque alguien quería una forma de que los jinetes pudieran tener mejor apoyo para golpear al enemigo, porque equilibrarse para disparar una flecha, o porque quería controlar mejor a su caballo [18]

En el caso del Proyecto Manhattan, sigue habiendo un objetivo epistémico: el conocimiento, eso está claro; sin embargo, el diálogo a partir de la publicación del paper de Otto Hahn y Fritz Strassmann [19] es revelador: los alemanes han demostrado que es posible la Fisión Nuclear. Joliot-Curie y Fermi-Slizard habían establecido la hipótesis de la reacción en cadena por diferentes caminos. A partir de ahí, Einstein y Slizard escriben [20] al presidente Roosevelt para comunicarle que objetivamente se ha verificado que el uranio enriquecido puede ser usado como fuente de energía; que objetivamente se está trabajando con la hipótesis de iniciar reacciones en cadena; y que probablemente, esas reacciones en cadena podrán generar un nuevo tipo de bomba, de capacidad destructiva sin precedentes.

La carta Einstein-Slizard está fechada el 2 de agosto de 1939, Hitler invadió Polonia el 1 de septiembre, y termina especulando lo que se conocería como Uranverein, el proyecto nazi de enriquecimiento de Uranio. Los científicos invitan al presidente a dotar de fondos a los equipos de las Universidades, incluso a buscar financiación a través de contribuyentes privados y laboratorios.

Así que no sólo está la hipótesis de que es conceptual y científicamente posible fabricar una bomba atómica, sino que hay un indicio de que el enemigo está trabajando activamente en ello. La conclusión evidente es que la tienen que construir ellos antes. Hay un objetivo epistémico, “¿se puede liberar la energía atómica con una explosión que active una reacción en cadena?”

A ser posible, sin destruir el mundo.

Y ese objetivo epistémico queda eclipsado, en este caso, por el objetivo militar. No basta con validar una hipótesis, hay que hacerlo antes de que lo hagan otros. El Proyecto Manhattan es un proyecto militar llevado a cabo por científicos.

«Oppenheimer» nos muestra cómo el objetivo militar evoluciona durante el proyecto Manhattan, no así el objetivo epistémico. Cuando es derrotada la Alemania Nazi, termina la carrera por ver quién hace primero la Bomba Atómica: estaba claro que Japón y Rusia no tenían capacidad. El objetivo científico de validar la hipótesis se mantiene, pero cambia el objetivo político: no basta fabricar la Bomba, hay que “enseñarla al Mundo”, evidenciar la transferencia ciencia-tecnología (la capacidad científica y la capacidad de industrialización). “Enseñarla” significa lanzarla, sobre un objetivo que difícilmente será sólo militar, estadísticamente impactará (nunca mejor dicho) en población civil. Algo con lo que tal vez no todos los científicos estén de acuerdo, pero que da igual, pues no son los dueños del proyecto.

Una de las escenas de «Oppenheimer» que más impactante me resulta es cuando se celebra el éxito de la prueba Trinity [21]

¿Qué es lo que se celebra? Obviamente un logro epistémico, una hipótesis que se ha demostrado empíricamente. Pero no se puede desligar la celebración del éxito investigador, de las entre 150.000 y 240.000 personas que murieron [22] por los efectos directos de las detonaciones. A partir de ese experimento exitoso, se ensamblan “Fat Man” y “Little Boy”, la materialización de una aplicación tecnológica que responde a la Voluntad militar. Y luego se lanzan sobre dos ciudades, Hiroshima y Nagasaki, que responden a una Voluntad política.

La otra escena impactante es que, una vez que se han ensamblado los dispositivos, los científicos dejan de ser relevantes. Nadie les informa de cuándo se toma la decisión, se enteran por la radio. Dejan de ser útiles. De hecho, aquellos a los que se ha pasado por alto su filiación izquierdista, vuelven a ser puestos en entredicho. La película muestra la persecución a Oppenheimer, defensor de la Teoría de No Proliferación, contraria a las posturas de “los halcones”.

La Intencionalidad del científico

Si la ciencia y el Método Científico son neutrales, lo que tenemos claro es que las personas no lo son. Tenemos nuestras inquietudes, nuestros sesgos, nuestras simpatías, nuestras visiones del mundo, y de lo que está bien o mal. Tenemos una ética. O no. ¿Tiene algo que ver la subjetividad del científico con la ciencia?

Ya hemos visto que Hume afirma que la inducción ocurre en la imaginación del científico, y eso no puede ser más subjetivo. Y Kuhn dijo que los científicos forman parte de una sociedad, y esa sociedad tiene sus propios sesgos.

Los neopositivistas querían superar la inducción creando modelos universales de explicación científica [23], en los que un término observacional tiene un significado en sí mismo, y puede ser formulado independientemente de las teorías que sobre él se establezcan y lo expliquen. Este principio de estabilidad del significado es una de las bases de la objetividad de la ciencia.

Por eso me resulta interesante la tesis de Feyerabend cuando pone en duda la neutralidad del científico, al decir que su subjetividad es clave para el progreso de la ciencia. Para Feyerabend, los hechos no tienen una explicación en sí mismos, sino a través de una teoría que es la que les da sentido. Así, un mismo hecho, como la observación de la salida y la puesta del Sol, puede explicarse desde el geocentrismo durante miles de años, o desde el heliocentrismo. Esta tesis cambia el orden tradicional: no es el hecho observado el que llama la atención del científico, que establece una teoría para explicarlo (el hecho antecede a la teoría que lo explica); es la teoría la que explica el hecho, la que lo convierte en una observación relevante. Su Thesis I dice:

“la interpretación de un lenguaje observacional está determinada por las teorías que usamos para explicar lo que observamos, y esta cambia tan pronto como aquellas teorías cambian” (Feyerabend) [24]

El hecho es el mismo, la observación es la misma, sin embargo, hoy sabemos que es la Tierra la que orbita alrededor del Sol. Esta nueva verdad objetiva, esta realidad, se debe a la Voluntad de Galileo, su interpretación que cuestiona el orden Ptolemaico, lo que hace que hoy tengamos una visión heliocentrista del Sistema Solar.

Que de un mismo hecho “la salida del Sol” se puedan deducir dos visiones del mundo tan dispares es entre otras cosas lo que permite a Feyerabend lanzar su “anarquismo metodológico”:

“Sólo hay un principio que puede defenderse bajo cualquier circunstancia y en cualquier estado del desarrollo humano. Es el principio de: Todo vale”. (Feyerabend)

Y afirmar que el éxito de las teorías científicas y su “imposición” sobre otras a las que refuta, no se debe tanto a lo cerca o lejos que están de “la verdad”, sino a la capacidad argumentativa de sus defensores sobre sus detractores. Como más tarde diría:

“Uno de mis motivos para escribir Contra el Método era liberar a la gente de la tiranía de filósofos ofuscadores y conceptos abstractos como “verdad”, “realidad” u “objetividad”, porque estrechan su visión y forma de estar en el mundo.” [25]

Luego Feyerabend llega a decir que la superioridad epistémica de la ciencia es algo que elegimos creernos, y que por lo que a él respecta, no había nada que permitiese elegir objetivamente entre la ciencia y otras formas de conocimiento como la astrología, la medicina alternativa o el voodoo.

Muy fuerte.

Me gustaría cerrar este capítulo con dos reflexiones. La primera es que hay un célebre artículo de la revista Science en el que se califica a Feyerabend como “el peor enemigo de la Ciencia” y “traidor a la verdad” [26] por reflexiones como esta.

Y la segunda. Maldita sea, volvemos a Aristóteles en su crítica al relativismo moral de los sofistas, y a su capacidad de usar la retórica para defender los argumentos de aquellos que participaban en el gobierno de la polis. Hemos pasado de la objetividad de la ciencia, al relativismo científico.

La Relatividad como visión del mundo

El relativismo científico también forma parte del hilo conductor de «Oppenheimer», con apariciones estelares de algunos de los científicos que investigaron y desarrollaron la física cuántica. Niels Bohr, Werner Heisenberg, Albert Einstein… la mecánica cuántica es una revolución sin parangón en la ciencia. Resulta que las partículas a nivel subatómico no se conocen con exactitud, se conocen con una probabilidad, una función de onda que nos dice la probabilidad que tenemos de encontrar una partícula en un determinado instante.

Pero no se vayan todavía, que aún hay más. Además, hay un Observador que interfiere con lo Observado porque lo determina. Como un voyeur que, por el hecho de estar presente, condiciona el mismo acto que está viendo: su presencia en la realidad condiciona la misma realidad que observa. “¿De verdad crees que la Luna no está ahí si nadie la mira?” llegó a preguntar Einstein a Abraham Pais.

Presencia Intencional, Voluntad de observar.

A principios del siglo XX la física deja de ser determinista, Bohr (Kenneth Branagh en la película, qué curioso que en las dos últimas películas de Nolan, Branagh sea quién juega a destruir la realidad [27]) propone el Principio de Complementariedad que combina ambas: antes de hacer el experimento las partículas subatómicas se comportan como ondas según la ecuación de Schördinger; y cuando se hace el experimento, se las puede asignar propiedades como posición y momento siguiendo la ecuación de Born. De manera que, si no se hace el experimento, ¿esas partículas no tienen esas propiedades?

Es la primera vez en la historia de la ciencia que un mismo sistema tiene dos reglas, dependiendo de si hay o no un Observador necesario. No podemos conocer la realidad, sólo aspectos de la realidad.

Esta llamada “interpretación de Copenhague” [28], y todas sus críticas, se hacen para defender el determinismo de la física, la ciencia más “dura” y más “pura” de las ciencias naturales, aquella con mayor capacidad explicativa y predictiva.

Es en este contexto en el que Einstein escribiría a Paul Epstein que «Dios no juega a los dados con el Universo» [29] en su intento por preservar la noción de un Universo determinista, y objetivo; frente a una visión de los antirrealistas que defendía que, en su nivel más bajo y fundacional, el atómico, no existe una realidad determinista. ¿Por eso Einstein pasea cabizbajo y melancólico en sus encuentros con Oppenheimer? Hasta el fin de sus días Einstein negó que la mecánica cuántica fuese una “teoría terminada”.

Si no hay una realidad determinista, si la realidad depende de la persona que la observa, entonces el Observador tiene un papel fundamental en la ciencia. La realidad ya no es independiente de quién la mira, dos personas, con distintas capacidades y competencias, tendrán dos visiones distintas de la realidad.

Y esa es precisamente otra de las cosas que vemos en el trasfondo de «Oppenheimer». No sólo la relatividad y la mecánica cuántica como motor del experimento atómico. También vemos la búsqueda del científico comprometido con una visión del mundo, una visión política. Vemos que no les queda más remedio que tolerar a Oppenheimer, aunque es simpatizante del Partido Comunista, y esto le hace sospechoso. Pero es valioso para el objetivo del proyecto. Conspiran contra él cuando su visión personal del mundo entra en conflicto con la ciertos los políticos.

Habíamos dicho al principio que ciencia es conocimiento, y no intervención. Pero en la mecánica cuántica, no podemos conseguir el conocimiento sin intervenir en el sistema.

La realidad depende del Observador, y por tanto de su Intención, que responde a su Voluntad.

Resulta que no sólo la Tecnología es Intencional.

Parece que en cierto sentido también lo es la Ciencia

Epílogo

Si has llegado hasta aquí, te pido un favor: si algún día te sorprendes a punto de decir que la “tecnología no es buena ni mala, depende del uso que se haga de ella”, párate un momento a pensar en la Intencionalidad y la Voluntad de quién la crea.

Gracias.

Redux

Una versión resumida de este ensayo se publicó en Retina el 2 de octubre de 2023

Lo que ‘Oppenheimer’ nos puede enseñar sobre Tiktok. Intencionalidad y Voluntad

Referencias

[0] https://www.dataprotection.ie/en/news-media/press-releases/DPC-announces-345-million-euro-fine-of-TikTok

[1] https://techpolicy.press/transcript-tiktok-ceo-testifies-to-congress/

[2] https://www.bloomberg.com/news/features/2023-04-20/tiktok-effects-on-mental-health-in-focus-after-teen-suicide

[3] https://www.wired.co.uk/article/twitter-child-sexual-abuse-material

[4] https://cyber.fsi.stanford.edu/news/addressing-distribution-illicit-sexual-content-minors-online

[5] https://web.archive.org/web/20140802011449/http://www.forbes.com/sites/jimclash/2014/07/28/elon-musk-tells-me-his-secret-of-success-hint-it-aint-about-the-money/

[6] https://thehill.com/opinion/national-security/3506604-conservatives-blame-everything-but-guns-for-mass-shootings/

[7] https://edition.cnn.com/2018/02/21/politics/trump-listening-sessions-parkland-students/index.html

[8] https://ktsecuritysolutions.com/our-products/

[9] https://www.gad3.com/abc-y-vocento-estimacion-elecciones-generales-por-provincias/

[10] “Treatise of Human Nature”, David Hume, 1749

[11] https://plato.stanford.edu/entries/thomas-kuhn/#ConcPara

[12] https://plato.stanford.edu/entries/episteme-techne/

[13] Después de varios años estudiando filosofía, he llegado a la conclusión de que analizar de dónde vienen las palabras y cómo se forman los conceptos es parte fundamental de la disciplina, así que no te lo tomes como una muestra más de lo petulante que puedo llegar a ser. En fin, esto de la etimología no deja de ser una pesadilla sobre todo cuando se lee a Husserl o a Heidegger.

[14] “Ciencia de convertir materias primas y materiales en productos terminados y bienes de consumo mediante la aplicación de conocimientos científicos y técnicos.” Vale, citar cosas en alemán sí puede ser petulante.

[15] “Tecnología: un enfoque filosófico, y otros ensayos de Filosofía de la Tecnología”, Miguel Angel Quintanilla, 2018.

[16] “Die Welt als Wille und Vorstellung”, Arthur Schopenhauer, 1819

[17] Salvo que hablemos de las máquinas que se replican a sí mismas, aunque claro, no se crean, sino que se copian. Esta idea parece que también está a punto de llevarse a cabo https://sciendo.com/article/10.2478/biocosmos-2023-0002

[18] Viendo las representaciones de las primeras versiones del estribo que usaban en la India, no me termina de quedar claro si eran príncipes que iban de paseo, o guerreros. Por cierto, están datadas en los siglos II y I AC https://wildfiregames.com/forum/topic/28619-ancient-indian-horse-support-toe-stirrup/

[19] https://www.nature.com/articles/143471a0

[20] https://es.wikipedia.org/wiki/Archivo:Einstein-Roosevelt-letter.png

[21] https://www.youtube.com/watch?v=wki4hg9Om-k

[22] https://www.rerf.or.jp/en/faq/

[23] “Studies in the logic of Explanation”, Hempel y Oppenheim, 1948

[24] “An Attempt at a Realistic Interpretation of Experience”, Paul Feyerabend, 1958

[25] “Against Method: Outline of an Anarchistic Theory of Knowledge”, Paul Feyerabend, 1975

[26] https://www.nature.com/articles/329595a0

[27] Me pregunto si eso es parte de la Intencionalidad de Nolan. Me gusta creer que sí.

[28] https://en.wikipedia.org/wiki/Copenhagen_interpretation

[29] https://www.christies.com/lot/lot-6210431/?intObjectID=6210431&lid=1