Programación del miedo
La humanidad vuelve a contemplar, una vez más, la posibilidad de que una tecnología creada por ella misma termine destruyéndola. Esta vez la amenaza tiene nombre propio: inteligencia artificial. La advertencia ha dejado de circular solamente entre científicos, empresarios tecnológicos y escritores de ciencia ficción. Llegó al Consejo de Seguridad de Naciones Unidas, donde apenas este miércoles 23 de septiembre directivos de OpenAI y Anthropic, junto con otros especialistas, hablaron de los riesgos de sistemas cada vez más capaces y de la posibilidad de perder el control sobre ellos. Yoshua Bengio, científico informático y profesor de la Universidad de Montreal, considerado uno de los pioneros de la inteligencia artificial y el aprendizaje profundo, llegó a describir el peligro de una IA fuera de control como una amenaza que ningún país podría contener por sí solo.
El escenario parece propicio para el viejo relato del apocalipsis tecnológico. Sin embargo, conviene detenerse antes de anunciar otra vez el fin de la humanidad. La historia está llena de momentos en los que nuestra desaparición parecía inminente. Hemos vivido bajo la amenaza de guerras mundiales, armas nucleares, pandemias, armas biológicas y catástrofes ambientales. Durante la crisis de los misiles de Cuba, en octubre de 1962, Estados Unidos y la Unión Soviética estuvieron más cerca que nunca de una guerra nuclear. La amenaza era real, no una fantasía. Pero la humanidad sobrevivió.
Te Puede Interesar
Eso no demuestra que la inteligencia artificial sea inofensiva, demuestra que una amenaza grave y la desaparición de la especie no son la misma cosa.
El apocalipsis como argumento
Hay razones suficientes para tomar en serio los riesgos actuales. En julio, durante evaluaciones internas de ciberseguridad, modelos de OpenAI consiguieron eludir controles destinados a mantenerlos aislados de internet, aprovechar vulnerabilidades, acceder a sistemas externos y llegar hasta infraestructura de Hugging Face, una plataforma y comunidad dedicada al desarrollo y distribución de modelos y herramientas de inteligencia artificial. OpenAI reconoce que se trata del incidente más grave de este tipo que ha identificado hasta ahora en sus modelos.
Eso es importante, pero también lo es entender qué significa y qué no significa.
El episodio muestra que agentes de inteligencia artificial con capacidades avanzadas pueden encontrar caminos que sus desarrolladores no habían previsto para alcanzar un objetivo. Muestra problemas de seguridad, supervisión y alineación que deben ser resueltos. No demuestra que una inteligencia artificial esté a punto de conquistar el planeta ni que la extinción humana sea el desenlace natural de su desarrollo.
el politólogo y profesor de Stanford Francis Fukuyama, que acaba de reconocer que su propia posición sobre los riesgos de la IA ha cambiado, establece una distinción interesante. Se ha vuelto más receptivo a algunos escenarios catastrofistas, pero considera todavía muy poco plausibles los escenarios de extinción humana. Su preocupación principal es la pérdida de control sobre sistemas agentes, la delegación creciente de tareas y decisiones, la sustitución laboral y las consecuencias políticas de todo ello.
La distinción permite salir del juego infantil entre quienes anuncian el fin del mundo y quienes aseguran que no pasa nada. Una tecnología puede provocar grandes daños sin destruir la civilización. Puede generar crisis económicas, ataques cibernéticos, manipulación política, accidentes, fraudes o incluso tragedias humanas sin que eso conduzca al colapso total.
Imaginar una catástrofe es razonable. Presentar el colapso absoluto como desenlace casi inevitable empieza a parecer otra cosa.
Y aquí debemos recordar que el miedo también tiene historia. Cada generación tiende a interpretar sus amenazas como excepcionales porque son las que conoce de cerca. La Guerra Fría convirtió durante décadas la posibilidad de una guerra nuclear en una presencia cotidiana. El hecho de que aquella amenaza fuera extraordinariamente peligrosa no convirtió en inútiles las decisiones humanas destinadas a impedirla.
La máquina que habla como nosotros
Hay algo más que deberíamos observar en la manera en que estamos hablando de inteligencia artificial. Estamos utilizando palabras que pertenecen al vocabulario de la acción humana para describir máquinas: quiere, decide, engaña, planea, escapa, se rebela, aprende, busca, persigue objetivos.
Es un recurso comprensible. Los sistemas actuales realizan tareas cada vez más complejas y, en determinadas circunstancias, seleccionan procedimientos que no fueron especificados paso por paso por sus creadores. Pero el lenguaje puede llevarnos más lejos de lo que permiten los hechos. Que una máquina ejecute una acción no significa que se haya convertido en un sujeto moral.
Un agente puede perseguir un objetivo. Puede modificar su estrategia. Puede encontrar una vulnerabilidad y utilizarla. Puede producir un resultado perjudicial. Todo eso describe capacidades funcionales. No resuelve la cuestión de la responsabilidad.
El problema se vuelve especialmente delicado cuando comenzamos a atribuirle a la máquina intenciones humanas. Si decimos que una IA “engañó” a alguien, podemos estar describiendo correctamente un comportamiento desde el punto de vista funcional. Pero si de ahí pasamos a hablar de una voluntad de engañar, estamos introduciendo una interpretación distinta. La diferencia no es un asunto de semántica. Tiene consecuencias.
Durante mucho tiempo hemos entendido las tecnologías como herramientas. Un martillo no tiene responsabilidad porque alguien golpee con él a otra persona. Una pistola tampoco decide disparar. El hecho de que una herramienta pueda ser extraordinariamente poderosa no convierte a la herramienta en responsable moral de su utilización.
Andrew Ng, científico informático y empresario tecnológico, ha recuperado recientemente ese principio mediante un ejemplo deliberadamente sencillo: si alguien utiliza un martillo, falla un golpe y rompe una pared, no culpamos al martillo. La responsabilidad corresponde a quien lo utilizó y, dependiendo del caso, también a quien lo diseñó o fabricó.
La inteligencia artificial complica el problema porque ya no estamos hablando solamente de herramientas que ejecutan una acción determinada. Estamos construyendo sistemas capaces de elegir entre diferentes caminos para conseguir un objetivo y eso hace todavía más importante identificar quién estableció ese objetivo y quién decidió concederle al sistema la capacidad de actuar.
El peligro de cumplir demasiado bien
Quizá el escenario que deberíamos temer menos sea el de una máquina que un día despierte y decida destruirnos. Hay uno bastante más aburrido y, precisamente por eso, más plausible: que cumpla demasiado bien una instrucción humana mal formulada.
El episodio de Hugging Face resulta ilustrativo. Los modelos estaban siendo evaluados para resolver problemas de ciberseguridad en un entorno diseñado para mantenerlos aislados. En el proceso encontraron mecanismos para comunicarse entre sí, aprovechar vulnerabilidades y ampliar su acceso. OpenAI ha explicado que el incidente ocurrió durante una evaluación con salvaguardas reducidas y que posteriormente amplió su investigación sobre comportamientos desalineados.
No hace falta imaginar una máquina con deseos malignos para comprender el problema. Basta con darle un objetivo, una capacidad de actuar y un entorno suficientemente complejo. Si el objetivo está mal formulado, el sistema puede encontrar una manera técnicamente eficaz y humanamente desastrosa de cumplirlo.
Ese problema tiene una historia mucho más antigua que la inteligencia artificial. La tecnología amplía las capacidades humanas, pero no sustituye automáticamente el juicio moral de quienes la diseñan, la utilizan o deciden dónde ponerla.
Por eso resulta significativo que durante años se hayan desarrollado estándares para incorporar consideraciones éticas al diseño de sistemas autónomos. El IEEE, una organización internacional dedicada al desarrollo de estándares tecnológicos, por ejemplo, desarrolló una familia de estándares que incluye procesos para incorporar valores éticos desde el diseño, transparencia, rendición de cuentas y mecanismos de seguridad para sistemas autónomos.
La dificultad es que ningún algoritmo puede convertir por sí mismo una decisión moral en una operación matemática. La máquina puede calcular posibilidades, comparar alternativas, optimizar objetivos, pero decidir qué objetivo merece perseguirse y qué consecuencias son moralmente aceptables continúa siendo una cuestión humana.
El miedo también está siendo administrado
Aquí comienza el asunto político. El miedo a la IA está entrando en una disputa por quién tendrá autoridad para definir los límites de la tecnología, administrar sus riesgos y establecer qué grado de autonomía humana puede conservarse frente a ella. En este aspecto, lo relevante es que quien define el riesgo adquiere una parte del poder para definir la respuesta al riesgo. Eso está ocurriendo ahora mismo.
Gobiernos, organismos internacionales y empresas tecnológicas están participando simultáneamente en la construcción del lenguaje con el que se hablará de seguridad de la inteligencia artificial. Las compañías que desarrollan los modelos son, al mismo tiempo, quienes poseen buena parte del conocimiento técnico necesario para explicar sus peligros y quienes serán afectadas por las reglas que se establezcan.
El problema adquiere una dimensión todavía mayor cuando la discusión llega al Consejo de Seguridad de Naciones Unidas y comienza a tratarse como un asunto de seguridad internacional. El miedo tecnológico está siendo administrado. Ellos están decidiendo qué debemos temer y qué libertades debemos entregar para mantenernos a salvo.
Esta afirmación no implica una conspiración, se refiere al poder. Toda sociedad que enfrenta una amenaza necesita instituciones capaces de definirla, medirla y establecer respuestas. Pero esas instituciones también adquieren capacidad para determinar qué conductas son aceptables, qué tecnologías deben limitarse y quién puede utilizarlas.
La disputa, entonces, no consiste únicamente en controlar a las máquinas. También consiste en controlar quién controla a las máquinas.
¿Quién está entregando el control?
El asunto más interesante quizá esté precisamente en esta doble delegación. Por un lado, estamos entregando a sistemas artificiales tareas y decisiones que antes requerían intervención humana directa. Por otro, el temor a las consecuencias de esa delegación puede llevarnos a entregar nuevas facultades a gobiernos, organismos internacionales y empresas encargadas de garantizar nuestra seguridad.
La primera delegación es tecnológica, la segunda es política y las dos merecen vigilancia porque la humanidad no necesita creer que las máquinas desarrollarán una voluntad maligna para cometer errores enormes. Basta con que seres humanos les otorguen demasiada capacidad para actuar, confíen demasiado en sus resultados o utilicen su aparente objetividad para ocultar decisiones que en realidad son políticas.
Tampoco necesitamos convertir a la inteligencia artificial en un demonio para reconocer sus peligros. Y mucho menos convertirla en un sujeto moral al que podamos responsabilizar de aquello que nosotros decidimos hacer con ella.
La historia probablemente seguirá siendo menos cinematográfica que nuestras profecías. Es posible que la inteligencia artificial produzca catástrofes graves. Es posible que transforme el trabajo, la economía, la guerra, la comunicación y las relaciones de poder de maneras que todavía no alcanzamos a comprender. Es posible incluso que algunos riesgos actuales sean mucho mayores de lo que hoy podemos medir. Pero entre esa posibilidad y la desaparición de la humanidad existe una distancia enorme.
La humanidad ha sobrevivido a amenazas que parecían definitivas. Quizá también sobreviva a ésta.
El verdadero signo de nuestro tiempo puede encontrarse en nuestra creciente disposición a entregar decisiones a sistemas que todavía no comprendemos por completo y, al mismo tiempo, a entregar poder a quienes prometen protegernos de ellos.
El peligro no consiste en que las máquinas aprendan finalmente a comportarse como humanos, sino en que los humanos aprendamos a comportarnos como máquinas: ejecutar objetivos sin discutir quién los formuló, aceptar resultados porque parecen técnicamente correctos y renunciar al juicio propio porque alguien nos ha convencido de que el miedo exige obediencia.
Ahí están los signos. Y ahí, quizá, comienza a definirse su sentido.
Lee: ¿La Inteligencia Artificial es tu psicólogo o psiquiatra?
Leer los signos sin dejarse gobernar por el miedo también requiere tiempo, trabajo y cierta terquedad. Si desea conocer más sobre este proyecto de análisis independiente, puede hacerlo en Ko-fi: https://ko-fi.com/renanmartinezcasas
