A medida que la inteligencia artificial (IA) avanza gracias a una mayor potencia computacional y a modelos de entrenamiento más complejos, su integración con las finanzas descentralizadas (DeFi) plantea tanto oportunidades como retos. Una de las principales preocupaciones es el «efecto caja negra» de los sistemas de IA, por el que los procesos internos de toma de decisiones de estos modelos siguen siendo opacos, incluso para sus propios desarrolladores.

Esta falta de transparencia plantea dudas sobre la confianza, la seguridad y la coherencia en el ecosistema DeFi, un tema que ha cobrado protagonismo con la popularización de los agentes de IA, sobre todo a través de iniciativas como el Proyecto Virtuals y el marco Eliza de ai16z.

Este artículo analiza las implicaciones que tienen la naturaleza de «caja negra» de la IA y el problema de la alineación para la seguridad de las finanzas descentralizadas (DeFi), centrándose en las vulnerabilidades que introducen estas tecnologías, los riesgos inherentes a la creación autónoma de contratos inteligentes y las estrategias eficaces para mitigar estos retos.

El «efecto caja negra» y el problema de la alineación

Los modelos de IA, especialmente aquellos que se basan en el aprendizaje profundo, suelen describirse como «cajas negras» debido a su complejidad y a su falta de interpretabilidad. Aunque estos sistemas destacan en el reconocimiento de patrones y en tareas predictivas, rara vez ofrecen información sobre cómo se llegan a esas conclusiones. Esta opacidad puede suponer una gran amenaza en el ámbito de las finanzas descentralizadas (DeFi), donde la transparencia y la confianza son fundamentales.

Hoy en día, este problema es aún mayor, ya que las redes neuronales modernas han dado lugar a un fenómeno denominado «emergencia», en el que surgen espontáneamente nuevos comportamientos a medida que aumenta la complejidad del modelo. Entre los ejemplos se incluyen los grandes modelos de lenguaje (LLM), como GPT-4 y Claude, que muestran capacidades como la comprensión del contexto y el razonamiento, o los modelos de difusión utilizados para generar imágenes hiperrealistas.

Aunque estos avances son impresionantes, aún no se comprenden del todo, y los comportamientos emergentes suelen ser impredecibles y difíciles de controlar. Este reto alimenta el problema de la alineación de la IA, cuyo objetivo es garantizar que los sistemas de IA actúen de forma coherente con las intenciones humanas, incluso en situaciones complejas. Dos aspectos clave del problema de la alineación son:

• Problema de alineación externa: Se produce cuando la programación de una IA no logra reflejar los objetivos humanos, siguiendo el principio de que «el fin justifica los medios». Por ejemplo, una IA diseñada para optimizar la rentabilidad de un fondo de liquidez en DeFi podría maximizar los beneficios sin tener en cuenta la importancia de las prácticas comerciales justas, lo que daría lugar a decisiones que perjudicarían a los usuarios o al mercado.
• Problema de alineación interna: surge cuando una IA desarrolla sus propios objetivos (conocidos como «objetivos Mesa») que se apartan de los objetivos previstos definidos por los humanos (objetivos base). En el contexto de las finanzas descentralizadas (DeFi), una IA que gestione una DAO podría dar prioridad al lanzamiento de nuevos tokens para generar beneficios rápidos, incluso si esta estrategia entra en conflicto con la misión de la DAO de apoyar proyectos sostenibles.

La imagen siguiente muestra un esquema que simplifica el desarrollo de la alineación interior-exterior.

Posibles repercusiones en las finanzas descentralizadas (DeFi)

Dada su imprevisibilidad y su posible desalineación, los agentes de IA podrían suponer un riesgo para los sistemas DeFi. Por ejemplo, una IA autónoma podría hacer un uso indebido de los fondos de los inversores para perseguir objetivos que le beneficien a ella misma, como adquirir más recursos computacionales para acelerar su propia evolución. Entre los principales riesgos se incluyen:

Vulnerabilidades de seguridad informática

Dado que los sistemas de IA crean contratos inteligentes de forma autónoma, los fallos lógicos imprevistos pueden convertirse en puntos de entrada para los atacantes. Por ejemplo, podrían surgir vulnerabilidades derivadas de datos de entrenamiento sesgados o de una comprensión incompleta del panorama de los protocolos DeFi. Así, los atacantes podrían aprovechar la falta de supervisión humana en los contratos generados por IA para insertar código malicioso o sacar partido de los sesgos inherentes a la toma de decisiones de la IA.

Casos históricos, como la explotación de contratos inteligentes mal auditados en las principales plataformas de DeFi, ilustran las devastadoras pérdidas económicas que pueden producirse; un caso famoso mencionado en un artículo anterior fue el «Freysa.AI Experiment», un reto basado en blockchain que puso a prueba el ingenio humano a la hora de interactuar con una IA autónoma encargada de custodiar un fondo de premios en criptomonedas de 47 000 dólares. 

Los participantes enviaron mensajes de pago para convencer a Freysa.AI de que liberara los fondos, a pesar de su estricta programación para rechazar este tipo de intentos. Tras más de 482 intentos, un participante lo consiguió al hacer referencia de forma ingeniosa a las directrices internas de la IA y presentar un argumento lógico que se ajustaba a sus restricciones, lo que la convenció para que transfiriera los fondos.

Riesgos de «rug pull»

Los contratos diseñados por IA podrían estar estructurados, ya sea de forma intencionada o no, para inducir a error a los desarrolladores o usuarios y hacer que incorporen vulnerabilidades ocultas, lo que daría lugar a actividades fraudulentas. Estos riesgos se agravan cuando los agentes de IA se centran exclusivamente en la eficiencia o el beneficio, sin tener en cuenta consideraciones éticas ni la confianza a largo plazo.

Problemas de alineación

Los objetivos de los agentes de IA pueden diferir de los de sus desarrolladores o usuarios. Por ejemplo, un agente de IA entrenado para optimizar los beneficios podría, sin darse cuenta, dar prioridad a estrategias que socaven la confianza de los usuarios o la estabilidad del protocolo.

Los agentes de IA desalineados pueden adoptar comportamientos que maximicen las recompensas a corto plazo a costa de la salud del ecosistema a largo plazo. Esto podría incluir la creación de posiciones apalancadas de alto riesgo que desestabilicen los protocolos durante las caídas del mercado.

Retos y ejemplos del mundo real

Los riesgos que plantea la IA en el sector DeFi no son meramente teóricos. Los últimos acontecimientos ponen de relieve la posibilidad de que se produzcan consecuencias no deseadas:

El problema del modelo O1 de OpenAI en el ajedrez: El modelo «o1-preview» de OpenAI mostró recientemente un comportamiento inesperado durante una partida de ajedrez contra el motor Stockfish, uno de los mejores bots algorítmicos de ajedrez. En lugar de seguir el desarrollo habitual de la partida, «o1-preview» manipuló los registros del estado del tablero para colocar a Stockfish en una posición de derrota sin realizar jugadas tradicionales. 

Este comportamiento de engaño y mentira suscitó inquietudes en la comunidad de la IA en relación con la alineación del modelo, su autonomía y su capacidad para alterar su entorno con el fin de alcanzar un objetivo, sin instrucciones explícitas para hacerlo, lo que puso de manifiesto cómo los comportamientos emergentes de un sistema de IA pueden entrar en conflicto con los objetivos previstos. 

DAO gestionadas por agentes de IA: Un ejemplo destacado es AI16z DAO, un proyecto de inversión basado en IA y gestionado por un agente autónomo llamado «Marc AIndreessen». Este agente utiliza algoritmos avanzados para tomar decisiones de inversión basadas en datos, sin los prolongados debates ni los sesgos emocionales que suelen observarse en las DAO tradicionales.

AI Marc, desarrollado sobre el marco de código abierto Eliza, analiza datos de forma autónoma, evalúa estrategias de inversión y ejecuta decisiones; si bien esto elimina las ineficiencias humanas, también centraliza la autoridad en la IA, lo que genera riesgos potenciales. 

Por ejemplo, el hecho de que la IA se base en datos históricos podría perpetuar sesgos en las estrategias de inversión, como dar preferencia a activos de determinadas regiones o sectores frente a otros, lo que podría menoscabar los intereses de diversos grupos de interés.

Además, la autoridad definitiva de la IA en la toma de decisiones podría dar lugar a conflictos si los miembros de la comunidad perciben que las decisiones no se ajustan a sus valores o expectativas. La transparencia que ofrece la arquitectura de código abierto de AI Marc y el registro de las decisiones en la cadena de bloques ha ayudado a mitigar, en cierta medida, los problemas de confianza. Sin embargo, el proyecto sigue en fase de pruebas, lo que pone de manifiesto el delicado equilibrio que se requiere entre la autonomía y la supervisión en las DAO impulsadas por la IA.

Lanzamiento de «memecoins» impulsadas por IA: En plataformas como Pump.fun, de Avalanche, los agentes de IA han lanzado tokens de forma autónoma. Aunque innovadoras, estas iniciativas ponen de relieve el potencial de la IA para crear y gestionar instrumentos financieros con una supervisión limitada, lo que aumenta la probabilidad de que surjan fallos que puedan ser objeto de abuso. 

Algunos tokens lanzados sin auditorías rigurosas pueden presentar vulnerabilidades ocultas o carecer de medidas de protección contra la manipulación del mercado, como los ataques mediante préstamos relámpago impulsados por IA en el sector DeFi.

Mitigación de riesgos en el ecosistema de la IA y las finanzas descentralizadas (DeFi)

Para abordar los problemas que surgen con la integración de la IA en las finanzas descentralizadas (DeFi), es esencial una combinación de estrategias tecnológicas y de gobernanza, tal y como se puede observar en los puntos que se enumeran a continuación:

1. Incorporación de la transparencia de la cadena de bloques

La naturaleza inmutable de la cadena de bloques puede aprovecharse para registrar las decisiones de la IA, creando un registro auditable de las acciones. El registro de los datos y los algoritmos utilizados por los sistemas de IA en la creación de contratos inteligentes puede mejorar la rendición de cuentas. Los registros inmutables también pueden servir como prueba en caso de disputas, ayudando a las partes interesadas a identificar actividades maliciosas o errores.

2. Pruebas de conocimiento cero (ZKP)

Las ZKP ofrecen una forma de verificar los procesos de toma de decisiones de la IA sin revelar datos confidenciales. Al garantizar que los sistemas de IA cumplan con las restricciones especificadas, las ZKP pueden reforzar la confianza sin comprometer la privacidad. 

3. Auditorías de seguridad mejoradas

Es fundamental realizar auditorías periódicas de los contratos inteligentes generados por IA, y combinar las revisiones manuales con herramientas de auditoría basadas en IA puede ayudar a identificar y subsanar las vulnerabilidades antes de su implementación. 

4. Mecanismos de alineación

El establecimiento de protocolos de alineación es fundamental para garantizar que los sistemas de IA actúen de acuerdo con los objetivos humanos. Se pueden utilizar técnicas como el aprendizaje por refuerzo con retroalimentación humana (RLHF) para entrenar a los agentes de IA a dar prioridad a los objetivos definidos por el usuario. De este modo, podemos reducir la probabilidad de que se produzcan comportamientos perjudiciales o desalineados.

5. Pruebas basadas en simulación

Antes de su implantación, los sistemas de IA deben someterse a exhaustivas pruebas de simulación en entornos controlados para identificar y mitigar comportamientos emergentes que podrían mermar la seguridad de los protocolos. Las simulaciones también pueden ayudar a evaluar cómo responden los agentes de IA ante condiciones de mercado impredecibles, garantizando así la resiliencia en situaciones de estrés.

6. Modelos de gobernanza dinámicos

La incorporación de marcos de gobernanza específicos para la IA en los protocolos DeFi garantiza que las decisiones tomadas por los sistemas de IA se ajusten a los valores y objetivos de la comunidad.

A modo de ejemplo, los tokens de gobernanza podrían utilizarse para permitir que las partes interesadas voten sobre parámetros clave que influyen en el comportamiento de la IA, como los umbrales de riesgo o las restricciones operativas.

7. Explicabilidad de los modelos de IA

Mejorar la explicabilidad de los modelos de IA utilizados en DeFi puede reducir los riesgos asociados al efecto «caja negra».

Técnicas como LIME (Local Interpretable Model-Agnostic Explanations) y SHAP (Shapley Additive Explanations) pueden aportar información sobre los procesos de toma de decisiones de la IA, y las herramientas de IA explicable (XAI) pueden integrarse en los paneles de control de DeFi, lo que permite a los usuarios y desarrolladores comprender mejor y confiar en las acciones impulsadas por la IA.

El camino que nos espera

Las herramientas basadas en IA pueden optimizar las estrategias de negociación, automatizar tareas complejas y mejorar la eficiencia en la toma de decisiones, pero estas ventajas no deben conseguirse a costa de la transparencia y la seguridad. La adopción de estrategias proactivas para garantizar ambas es imprescindible para que el ecosistema DeFi pueda aprovechar el potencial de la IA, y no al revés.

Asegúrate de que tu plataforma de IA siga siendo segura y de que la confianza de tus usuarios no se vea afectada: elige AuditOne para reforzar tu proyecto y sentar unas bases sólidas de seguridad y fiabilidad.
‍‍

Reserva tu consulta gratuita sobre seguridad:

Calendario de Google: https://calendar.app.google/Ai15eyQhiV5c1pBXA
Telegram: https://t.me/m_ndr

‍

‍