Consideraciones éticas acerca de la digitalización

(30 de Agosto, 2019, Sociedad de Bioética)

Carlos Peña (This email address is being protected from spambots. You need JavaScript enabled to view it. )

Ante todo, agradezco mucho la invitación que me han formulado para exponer ante los miembros de esta sociedad, algunas consideraciones éticas acerca de la digitalización que experimenta la sociedad contemporánea.

¿Qué puede decir la ética acerca de los efectos de la digitalización en la sociedad?

Si hemos de formular brevemente una respuesta a esa pregunta, debiéramos decir que la digitalización, junto con las magníficas oportunidades que provee, amenaza instrumentalmente ciertos principios que estimamos valiosos y al mismo tiempo arriesga sustantivamente la concepción de la vida humana que subyace a la ética. 

A fin de explicar lo anterior, y dotarlo de plausibilidad, es necesario referirse a tres cuestiones que aunque conceptualmente distintas, están relacionadas entre sí.

En primer lugar hay que ocuparse de la imagen de la vida humana que surge de la ética (I); en segundo lugar debemos detenernos en la digitalización y los fenómenos asociados a ellas (II); y en tercer lugar haremos el intento de evaluar éticamente la digitalización (III).

(I) En una muy amplia y vieja tradición, la filosofía ha distinguido desde Platón y Aristóteles hasta hoy día, entre dos tipos de preguntas que aquejan e intrigan a los seres humanos. Una de esas preguntas es relativa a cómo es el mundo y porqué es cómo es (¿cuántos planetas hay? ¿Por qué orbitan? ¿cómo es el cerebro? ¿qué es el yo?); la otra pregunta es relativa a cómo deberíamos comportarnos (¿es correcto abortar, matar, consumir drogas, invadir la privacidad ajena?). La principal diferencia que media entre ambas es que la primera parece prescindir de la voluntad humana, en tanto el segundo tipo de pregunta la supone. En la ética nicomaquea Aristóteles observa que no tiene sentido deliberar acerca del orbitar de los astros, discutir cuál debe ser su transcurso; pero sí acerca de cómo debemos gobernarnos, porque en este último caso suponemos que ello depende de lo que decidamos.

Aristóteles sugiere (en ET 1112ª-b, y en lo mismo siglos después insistirá Kant) que si fuéramos como los astros, si nosotros fuéramos pura naturaleza, simple necesidad, si todo en nuestro quehacer equivaliera a el efecto de una causa pretérita, una causa que estaría a nuestras espaldas, entonces no tendría sentido deliberar éticamente. Nuestro quehacer y transcurso vital sería como el de los astros. Pero, sugiere Aristóteles, al vivir nosotros somos, para usar aquí una imagen platónica, como pilotos de una nave: decidimos, mediante la deliberación, el curso que habremos de seguir. Deliberar éticamente supone distinguir entre la naturaleza que hay en nosotros y la voluntad que nos constituye como agentes, la que nos permitiría decir si o no a esa naturaleza (Sartre, aunque en un sentido distinto, observa que hay hombres que son un gigantesco No sobre la tierra1 . Habría que decir que todos los seres humanos son un No a la naturaleza). Así la ética supone una cierta comprensión de lo humano que va más allá de la mera naturaleza, supone que si usted pudiera descomponer a un ser humano hasta sus últimos intersticios, ubicando la totalidad de las causas y mecanismos que lo constituyen, algo se le escaparía.

Eso es lo que quiso decir, Kant cuando, en el siglo XVIII y en la primera de sus Críticas, (también lo había sugerido Aristóteles en El movimiento de los animales) observó que una de las principales diferencias que mediaban entre el animal humano y el resto de los animales, era el hecho que mientras en este último caso hay una cierta continuidad entre el deseo y la acción, en el primer caso es posible interponer entre la posibilidad y el deseo, por una parte, y la acción, por la otra, una actitud reflexiva ¿debo ejecutar lo que deseo o lo que puedo? 2 Como ha observado Christine Koorsgard3 , los seres humanos son seres introspectivos y reflexivos, capaces de sentir culpa y deber.

Por supuesto la ética supone que ese tipo de preguntas admite respuestas racionales o, en otras palabras, supone que la razón puede guiar la acción4 . Derek Parfit, en las primeras líneas de On What Matters, observa que los seres humanos

Somos animales que podemos, a la vez, entender y responder a razones

Así entonces cuando se habla de ética no se está hablando sólo de un código normativo, de un conjunto de reglas o de principios al que debemos someter nuestro obrar, sino que sobretodo se está aludiendo a un modo de concebirse el ser humano a si mismo como un agente de su propia vida o, como prefiere el mismo Aristóteles citando a Homero, como

una nave ocupada de alejarse del oleaje y de la espuma (ET 1109)

O, si ustedes prefieren, la concepción del ser humano que surge de la ética es la de un sujeto que es ante todo futureidad, cuyas causas están no en el pasado sino en el futuro como el mismo Aristóteles lo describe. Conducir la propia vida, según esta imagen, supone la capacidad de tener intenciones o capacidad reflexiva. Por eso una cosa es saber en sentido causal lo que ocurrió a una vida humana (¿cómo llegó a ocurrir tal o cual cosa?) y otra cosa saberlo en sentido intencional (¿por qué ocurrió tal o cual cosa?). Una cosa es describir lo que hacen los partícipes de un juego; pero ello es distinto a captar el sentido de jugar. Y es que lo que llamamos cultura (que casi se identifica con lo que llamaríamos humano) no puede ser explicado en términos puramente causales. Por eso desde antiguo las ciencias sociales o las humanidades han buscado metodologías comprensivas, esfuerzos por captar o aprehender la intencionalidad que subyace a cualquier esfuerzo humano.

A partir de esa concepción se derivan una serie de principios que la ética normativa comparte más o menos unánimemente. Y lo que deseo sugerir en esta exposición es que tanto la concepción del agente humano que acabo de recordar, como las reglas que de esa concepción surgen, están en riesgo cuando la digitalización no se asume reflexivamente y, en cambio, se asiste a ella con ánimo supersticioso, cuando en vez de examinarla simplemente se la celebra.

Pero, dicho lo anterior, es necesario examinar ahora en qué consiste la digitalización. Sabemos ya en qué consiste la experiencia ética; pero para evaluarla con la digitalización debemos asomarnos a esta última.

¿En qué consiste la digitalización?

(II) Para precisar bien el concepto de digitalización, es útil distinguir junto a él otros dos conceptos: el de digitización y el de cibernética.

La digitización alude simplemente a un proceso, podríamos decir material, consistente en transformar cosas físicas o analógicas, por ejemplo, fotografías, textos, modelos matemáticos, en un formato digital que pueda ser usado por sistemas computacionales; equivale a transformar información en signos, en especial en un código binario. El sistema computacional en el que la información se introduce no transforma cosas, sino significados (aunque sin saber que se trata de significados). La otra palabra, digitalización, alude en cambio a la manera en que diversos dominios de la vida social son reestructurados alrededor de la comunicación digital. La primera palabra alude, pues, a un proceso material mediante el cual se transforman signos, la segunda a los efectos sociales previsibles que ese fenómeno produce. A esos dos conceptos cabría, todavía, agregar un tercero: el de cibernética.

Esta palabra alude al fenómeno que hace posible todo lo anterior, la existencia de sistemas autogobernados, sistemas que, como el ejemplo banal de un termostato, son capaces de regularse a si mismos en pos de un cierto objetivo.

Así entonces una cosa es la digitización, otra la digitalización y otra la cuestión cibernética. La primera alude a la transformación de la información en formato digital o binario; la segunda a los efectos sociales que eso produciría o está produciendo y la tercera a la comprensión de esos fenómenos.

Por supuesto, y como es obvio, lo designado por cada una de esas palabras están relacionados entre sí. Para saber de qué forma la digitización transforma la sociedad, es imprescindible atender a las peculiaridades que ella posee y estas últimas ayudan a mirar de cerca su naturaleza.

Von Foerster, el gran teórico de la cibernética, definió a los sistemas computacionales, sin los cuales la digitización no existiría, como máquinas no triviales 5 . Una máquina trivial es un sistema que dado un cierto input, produce siempre el mismo output o producto. Una máquina no trivial, como una computadora, en cambio, con el mismo input es capaz de producir diversos outputs (en este caso significados o informaciones) dependiendo de la historia de sus interacciones con el entorno. El aspecto más llamativo del fenómeno lo constituye la sorprendente capacidad de transformar significados y producir información que desde el punto de vista de la conciencia humana son totalmente impredecibles (por este motivo en la literatura suele definirse a los sistemas computacionales como sistemas invisibles u opacos). En otras palabras, la digitización transforma la manera en que operamos con los signos, los signos dicen ahora cosas que desde el punto de vista de la conciencia humana no sería posible decir.

(III) Ahora bien ¿cuáles son los efectos sociales que ese fenómeno produce o está produciendo y qué relevancia ética poseen?

Me parece a mí que cuando se lo mira en una perspectiva amplia, el fenómeno ha producido dos tipos básicos de efectos: la posibilidad de transgredir contenidos normativos que estimamos valiosos en una forma que hasta hace poco era inimaginable; y la de alterar la auto comprensión del ser humano.

Para advertir la transgresión de principios normativos que la digitalización hace posible, es útil asomarse a lo que a partir de un artículo de David Brooks se ha llamado dataismo6 .

El dataismo, como lo llamó David Brooks, designa la increíble capacidad hoy disponible para reunir y procesar datos.

Esa gigantesca reunión de información tanto en aspectos conductuales como genéticos, seguramente hará la vida más ligera (como sugiere Brooks); pero también crea oportunidades para lesionar esferas de la vida que creemos debe estar vedadas al poder y la injerencia ajena. En especial en las esferas de la privacidad, autonomía, dignidad y justicia. En cada una de estas esferas la digitalización equivale a un formidable instrumento que crea oportunidades para lesionarlas. Permítanme examinar cada una de esas cuestiones muy brevemente.

La privacidad equivale en una de sus dimensiones a un derecho al secreto. Se trata del derecho que asiste a cada persona de determinar qué ámbitos de su vida y de sus acciones han de escapar del conocimiento ajeno. Se trata de un derecho que alcanza a ciertos ámbitos físicos o a ciertas informaciones. Algunos autores distinguen por eso entre la privacidad territorial o espacial (el derecho a que un cierto espacio no sea invadido) y la privacidad informativa (el derecho a que ciertas informaciones no sean divulgadas). Suele además (aunque con débil rigurosidad dogmática en el caso del derecho continental) adosarse a la privacidad la protección de la imagen7.

La privacidad como autodeterminación informativa -el derecho de cada uno a decidir quién sabe qué respecto de la propia vida- se ve fuertemente amenazada como ustedes comprenden con la digitización. La historia de sus prácticas de consumo o de entretención están hoy registradas y expuestas y se ven protegidas simplemente por acuerdos de confidencialidad. Paradójicamente la pérdida de privacidad se ha visto compensada por un crecimiento de la confianza en los sistemas abstractos.

La autonomía, por su parte, que consiste en la posibilidad de discernir cada uno por si mismo el curso de su vida, sin injerencia ajena, se ve amenazada instrumentalmente por lo que pudiéramos llamar el paternalismo digital que supone que sus decisiones futuras no radican en realidad en su voluntad incausada, sino en las decisiones pasadas. Este fenómeno puede evaluarse de dos formas y por lo pronto nada más consideraré una que insinuaron Ortega y Gasset en sus estudios sobre la técnica y Arnold Gehlen. Ortega y Gasset observó que la técnica liberaba esfuerzos y permitía el ensimismamiento; Gehlen8 , por su parte, dijo que la técnica si bien liberaba de quehaceres que admitían el automatismo, amenazaba con el desarraigo (la mentalidad técnica con su pulsión por cuantificarlo todo, deterioraría las funciones superiores de la cultura que son la base de la autonomía. La técnica exoneraba, dijo; pero también producía una exoneración excesiva hacia zonas que requieren reflexión al generar un fenómeno performativo, autorreferencial).

La dignidad, según el viejo principio estoico, deriva del hecho que cada vida humana es inconmensurable respecto de cualquier otra motivo por el cual no es intercambiable. Es lo que los estoicos querían decir cuando proclamaban que las cosas o tienen precio o tienen dignidad. Pues bien, mientras más sabemos acerca de alguien -sus formas de consumo, sus entretenciones secretas, su perfil genético, etcétera—ese fondo inconmensurable comienza a disminuir hasta casi desaparecer y hacer intercambiable a un sujeto con otro.

Y se encuentra, desde luego, la cuestión de la justicia o la distribución. La digitalización podría conducir a un mundo estrictamente meritocrático en sentido estrecho como el que temió Michael Young9 .

Pero sobre todo el dataismo -que la digitalización conlleva y hace posible- arriesga un daño en nuestras concepciones morales subyacentes.

La computación, es decir, la operación sobre símbolos o sea signos que representan algo distinto de si mismos, es indiscernible de la digitización de la vida. Ahora bien, la computación a nivel de las disciplinas científicas o filosóficas, por llamarlas así, ha producido una comprensión cibernética de la condición humana y ha contribuido al desarrollo de las ciencias cognitivas (¿es el cerebro como un ordenador digital?). Este es un tipo de reflexión de gran alcance que, desgraciadamente, no tenemos tiempo de profundizar aquí pero que se traduce en investigar los sistemas autogobernados, los sistemas que poseen una orientación teleológica y, al mismo tiempo, los sistemas autopoiéticos.

Von Foerster, a quien cité denantes a propósito de las máquinas no triviales, se ocupó de lo que llamó cibernética de segundo orden para aludir a los sistemas, como las sociedades humanas, en que el observador es parte de lo observado. Y como lo observado, dice Von Foerster, es indecidible (es decir, no podemos saber cómo es efectivamente el mundo) de ahí se sigue que tanto la metafísica (la idea acerca de los componentes últimos de la realidad) como la ética son observaciones que comprometen al observador10 .

Ahora bien, esa imagen no se condice del todo con la que subyace en nuestras instituciones.

Ocurre que la cultura democrática descansa sobre una imagen del ser humano como un agente de su propio quehacer, alguien que está constituido por un magnífico factor de incertidumbre al que llamamos libertad.

Cada uno de nosotros es una mezcla indiscernible de destino y desempeño. Esa autocomprensión de la especie puede verse afectada por la digitalización.

En efecto, el aumento de datos disponibles y su manejo mediante algoritmos capaces de hacer inferencias a partir del pasado y sus probabilidades de ocurrencia pueden amagar la concepción acerca de la autonomía personal en la que se fundan importantes instituciones sociales.

La idea de responsabilidad, la creencia que hay cosas que acontecen porque son causadas por nuestra decisión; la de dignidad, que reposa en la convicción que cada uno es único e irrepetible; la de inviolabilidad conforme a la cual ningún ser humano puede ser usado como medio, son todas ideas que reposan sobre la imagen de lo humano como una mezcla de destino y desempeño en proporciones que ignoramos. Si comenzamos a ver al ser humano como el fruto de una causalidad que los datos permiten describir, todos esos bienes morales se vendrán poco a poco al suelo. Después de todo, si supiéramos (o creyéramos saber) que hay algunos entre nosotros condenados ex ante a ser un fracaso, si de pronto creyéramos que nuestro comportamiento es totalmente predecible, si nos dejáramos seducir por la idea que los algoritmos describen lo humano, entonces todos nuestros ideales morales, la igualdad y la libertad, serían simples fantasías, cuentos contados por un idiota.

¿Es buena o mala desde el punto de vista ético -el punto de vista ético que hemos definido en estas páginas— la digitalización?

Desde luego y como lo han observado Ortega y Gasset o Arnold Gehlen, la técnica nos exonera de cierto esfuerzo, favorece que nos ensimismemos y al rutinizar la vida nos libera para otros quehaceres, según la famosa fórmula orteguiana 11 . Pero junto con permitir eso la técnica, la digitalización en nuestro caso, arriesga algunos bienes importantes. Desde luego, es fácilmente posible, y acerca de esto llama la atención Gehlen, deslizarse desde la tecnología como instrumento a la tecnología como mentalidad, desde la tecnología como un útil a la tecnología como una forma de estar en el mundo. A ello ha de agregarse la forma en que una mentalidad tecnológica podría socavar los supuestos sobre los que se erigen nuestras mejores prácticas políticas y morales.

En otras palabras, la técnica o la digitalización no es un instrumento que nos amenace por un mal empleo, sino que se trata de un dispositivo 12 cuya fuerza e irradiación cultural podría, y este es el problema, modificar irreflexivamente nuestra forma de estar en el mundo. 

VER EN PDF