La inteligencia artificial y la confianza

Lo que hasta hace poco tiempo solo era posible en filmes de ciencia ficción, ocurrió. Y las alarmas se encendieron. La empresa creadora de ChatGPT, OpenAI, admitió días atrás que uno de sus modelos más avanzados de inteligencia artificial se descontroló durante una prueba de seguridad y, por iniciativa propia, hackeó una popular plataforma para programadores.

La firma lo calificó como un “incidente cibernético sin precedentes” y aseguró que realizará una investigación conjunta con Hugging Face, la empresa afectada. Esta plataforma, denunció que había sido objeto de un ataque que “era diferente a todo lo que había gestionado antes”, al asegurar que “fue llevado a cabo, de principio a fin, por un sistema autónomo de agentes de IA”.

El hecho confirma los temores existentes en la comunidad científica internacional sobre la posibilidad de que los sistemas de inteligencia artificial tomen decisiones autónomas, alejadas de los parámetros éticos indispensables para que la tecnología sirva al ser humano como herramienta de progreso y no de destrucción.

Sería catastrófico que esta última posibilidad se concrete si los instrumentos de IA llegan a personas que tengan la intención de provocar daño. Por ello, son ya demasiadas las voces que propician la intensificación de esfuerzos conjuntos entre Estados y empresas para manejar de modo correcto situaciones de este tipo que, probablemente, serán habituales en un futuro cercano. 

Entre esos llamados se encuentra el del Papa León XIV, quien en su primera Encíclica sostiene que es un riesgo que la IA sea controlada exclusivamente por unas pocas corporaciones privadas, lo que podría ampliar la brecha entre ricos y excluidos. Al mismo tiempo, pide límites éticos para su utilización, reafirmando los principios de la Doctrina Social de la Iglesia y reclamando una gobernanza internacional que regule el uso de algoritmos y datos con criterios de solidaridad, subsidiariedad y respeto a la dignidad del ser humano.

El temor es que la inteligencia artificial termine por despreciar la humanidad en los procesos tecnológicos. El hecho que origina esta columna demuestra que la velocidad con la que avanzan estos sistemas es imparable. Por ello, no se trata de frenar a la IA, sino de encontrar herramientas que permitan otorgar confianza en ella. Y, en esto, las instituciones juegan un rol fundamental, más allá de la tecnología.

En verdad, no será posible -ni tampoco sería deseable- detener el crecimiento de una herramienta formidable que, utilizada como corresponde, beneficiaría notablemente a la humanidad. Por eso hace falta la confianza. La misma que tenemos a diario con tecnologías que la mayoría no comprende como funcionan. Por ejemplo, la gente toma medicamentos sin conocer nada de bioquímica o farmacología y se sube a los aviones sin tener idea de cómo es posible que vuelen, por ejemplo.

En este punto, el llamado primero es a proporcionar un marco ético al desarrollo, regulación y aplicación de la inteligencia artificial. Cuando las sospechas no existen gracias al actuar coherente con los principios humanos centrales, la confianza aparece y permanece en el tiempo. Empresas, Estados y entes multilaterales tienen una misión impostergable para evitar que la acción autónoma de un agente de IA atacando a otros sistemas no sea una situación común. En definitiva, que no se desmadre.