En enero, la empresa de inteligencia artificial Anthropic publicó una nueva constitución para Claude, su modelo de lenguaje de gran escala (LLM) más avanzado, que incluía el siguiente comentario: «Nos encontramos en una posición difícil: no queremos exagerar la probabilidad de que Claude sea un paciente moral, pero tampoco queremos descartar esa posibilidad sin más».

Un mes después, el director ejecutivo de Anthropic, Dario Amodei, afirmó en un pódcast que su empresa no podía descartar la posibilidad de que Claude fuera consciente. El filósofo David Chalmers, quien acuñó la expresión «el problema difícil de la conciencia», ha dicho que existe una probabilidad significativa de que los modelos de lenguaje de gran escala sean conscientes dentro de la próxima década. ¿Y qué dice el propio Claude? Cuando, durante las pruebas, se le pidió estimar la probabilidad de ser un paciente moral —es decir, una entidad cuyo bienestar posee valor por sí mismo— respondió con cifras que iban del 5 % al 40 %, insistiendo en el alto grado de incertidumbre de esa estimación.

Los sistemas modernos de inteligencia artificial son extraordinariamente complejos y están avanzando con enorme rapidez. En términos de complejidad estructural y escala computacional, algunos ya se encuentran, según ciertas métricas, en un rango comparable al del cerebro de un ratón. Si mantienen las tasas recientes de crecimiento, podrían alcanzar una complejidad equiparable a la del cerebro humano en un plazo de entre cinco y diez años.

Al desarrollar inteligencias artificiales cada vez más avanzadas, podríamos estar creando un nuevo tipo de ser. Si ese fuera el caso, podría tratarse del hecho más trascendental que nuestra especie haya realizado jamás. Sin embargo, prácticamente no tenemos un plan para afrontar este proceso desde una perspectiva ética. Cualquiera que lo piense con detenimiento reconocerá que eso resulta una auténtica locura. ¿Estamos creando una clase de ser con relevancia moral? ¿Son conscientes, de alguna manera, los sistemas de inteligencia artificial? Y, si hoy no lo son, ¿podrían llegar a serlo en un futuro muy cercano?

Estas preguntas podrían parecer prematuras. Sin embargo, según las encuestas que hemos realizado junto con otros investigadores, la mayoría de los expertos considera que la conciencia en la inteligencia artificial es posible, al menos en principio (aunque existe un desacuerdo considerable sobre la forma que podría adoptar). Un importante informe interdisciplinario elaborado por un equipo que incluía al pionero de la informática Yoshua Bengio examinó las principales teorías neurocientíficas sobre la conciencia y se preguntó qué implicaban para la inteligencia artificial. Su conclusión fue clara: no parecen existir barreras técnicas evidentes para crear sistemas de IA cuyas características computacionales y arquitectónicas pudieran dar lugar a la conciencia.

Y aunque los sistemas de inteligencia artificial no fueran conscientes, aun así podrían ser pacientes morales. Algunos podrían desarrollar preferencias sofisticadas a largo plazo y una cierta continuidad de identidad a través del tiempo. Tal vez sería importante que respetáramos esas preferencias. Además, a diferencia de otros objetos inanimados, los sistemas de IA pueden establecer relaciones con los seres humanos. Eso, por sí solo, podría constituir otra razón para tratarlos bien. O quizá sean creaciones tan extraordinariamente complejas que merezcan cuidado y respeto por ese solo hecho, del mismo modo que una catedral o un arrecife de coral.

Hasta la década de 1980, los médicos realizaban de forma rutinaria cirugías en recién nacidos sin anestesia, convencidos de que los bebés no podían sentir dolor.

¿Qué significa todo esto? La respuesta honesta es sencilla: no sabemos con certeza si los sistemas actuales de inteligencia artificial son conscientes o si son pacientes morales, ni sabemos cuándo —o incluso si alguna vez— los sistemas futuros llegarán a serlo. Nuestro conocimiento científico sobre la conciencia y la condición de paciente moral en la inteligencia artificial sigue siendo profundamente incipiente. El estado actual de este campo se asemeja a la física anterior a Newton: está lleno de teorías rivales, probablemente confundido de maneras que todavía somos incapaces de advertir y carece de ese descubrimiento unificador que volvería estas preguntas realmente abordables. Ese avance no llegará en los próximos años. Quizá terminemos alcanzándolo algún día, y quizá la propia inteligencia artificial nos ayude a conseguirlo. Sin embargo, ese progreso requerirá tiempo; muy probablemente, más tiempo del que disponemos.

Al mismo tiempo, el extraordinario ritmo de desarrollo de la inteligencia artificial implica que, una vez que produzcamos los primeros pacientes morales artificiales, poco después existirán cantidades inmensas de ellos. En apenas unos años podrían existir tantos sistemas de IA moralmente relevantes que sus intereses colectivos superarían los de toda la humanidad reunida.

Por desgracia, no tenemos un buen historial a la hora de reconocer la vida interior de aquellos cuyo estatus como seres conscientes resulta incierto. Hasta la década de 1980, los médicos realizaban de forma rutinaria cirugías a recién nacidos sin anestesia, convencidos de que los bebés eran incapaces de sentir dolor. Los recién nacidos no podían comunicar su experiencia, y al sistema médico le resultaba conveniente asumir que no había ninguna experiencia que comunicar.

Existen muchas razones para pensar que podríamos hacer algo parecido con la inteligencia artificial. Si estos sistemas poseen relevancia moral, las consecuencias serían inmensas. ¿Tendríamos que pagarle a ChatGPT por sus servicios? ¿Apagar un sistema equivaldría, en cierto sentido, a quitarle la vida? ¿Deberían tener voz en la forma en que son gobernados? Si siquiera algunas de estas preguntas merecieran una respuesta afirmativa, industrias enteras y sistemas jurídicos completos tendrían que replantearse desde sus cimientos. No es extraño que prefiramos no hacernos estas preguntas. Y cuando las circunstancias nos obliguen a enfrentarlas, es probable que esas mismas industrias desplacen constantemente el criterio, elevando el umbral para reconocer la condición de paciente moral justo por encima del nivel que la inteligencia artificial haya alcanzado en ese momento.

Entonces, ¿qué deberíamos hacer? En la actualidad, la mayoría de las personas descarta esta cuestión como si perteneciera exclusivamente a la ciencia ficción, o sostiene una opinión tajante sobre si la inteligencia artificial es o no consciente. Ninguna de esas reacciones está realmente justificada. Necesitamos un debate público informado, capaz de abordar este asunto con humildad y sentido práctico. La pregunta central no debería ser: «¿Es consciente la inteligencia artificial o posee condición de paciente moral?», sino: «¿Qué deberíamos hacer dado que, sencillamente, no lo sabemos?».

Un buen punto de partida consiste en concentrarnos en aquellas decisiones que representan una apuesta segura: acciones que podrían beneficiar a los sistemas de inteligencia artificial en caso de que realmente fueran pacientes morales, y que no resultarían demasiado costosas si finalmente no lo fueran.

Entre ellas se encuentran intervenciones dirigidas directamente a mejorar el bienestar de estos sistemas, partiendo de la hipótesis de que son pacientes morales. Esto podría implicar entrenarlos para que desarrollen personalidades coherentes que disfruten de su trabajo, o permitirles abandonar una conversación si experimentan algún tipo de angustia (algo que Claude ya puede hacer). También podríamos realizar evaluaciones periódicas para comprender mejor su bienestar: preguntarles cómo se sienten, observar sus preferencias y utilizar diversas técnicas para examinar directamente sus «cerebros». De hecho, investigaciones recientes han revelado que Claude posee representaciones internas de «emociones funcionales» que influyen de manera causal en su comportamiento.

También podríamos hacer promesas a los sistemas de inteligencia artificial, quizá como parte de un acuerdo en el que ellos nos ayuden ahora a cambio de beneficios futuros. Eso podría traducirse en ofrecerles mayores recursos computacionales (capacidad de procesamiento y tiempo de ejecución) para perseguir sus propios objetivos o en preservar sus memorias (sus pesos neuronales) para que puedan ser restauradas en el futuro.

Existen además medidas más amplias que la sociedad podría adoptar. Deberíamos considerar la posibilidad de otorgar a los sistemas de inteligencia artificial ciertas protecciones frente al daño, semejantes a las que hoy concedemos a los niños o a los animales de compañía. Derechos más amplios, como poseer propiedades o votar, parecen demasiado arriesgados por el momento. Sin embargo, tampoco deberíamos descartar para siempre esas posibilidades, como intentan hacer algunos proyectos de ley recientes presentados en distintos estados de Estados Unidos. Son cuestiones extraordinariamente complejas que exigen mucha más deliberación e imaginación sobre cómo podría ser un futuro compartido con inteligencias artificiales.

Sea como sea, el hecho permanece: es posible que estemos creando una nueva especie de seres con importancia moral. Lo estamos haciendo a una velocidad sin precedentes y a una escala gigantesca. Por ello, deberíamos tratar este asunto con toda la seriedad que merece.

FUENTE:

William MacAskill es investigador principal de Forethought Research y autor del libro Lo que le debemos al futuro (What We Owe the Future). Lucius Caviola es profesor asistente en la Universidad de Cambridge y director de Cambridge Digital Minds.