En 2025, el panorama de la IA está repleto de potentes modelos, entre los que se incluyen Llama 3.1-405B, GPT-4o, Gemini 1.5 Pro, Claude 3.5 Sonnet, O1 Preview y el recientemente presentado DeepSeek R1. DeepSeek R1 afirma ser más asequible y ofrecer un rendimiento superior, pero ¿hasta qué punto son ciertas esas afirmaciones? Un grupo de investigadores se propuso responder a esta pregunta, y sus conclusiones podrían sorprenderte.

Esta situación me recuerda a «El mago de Oz», donde Toto corre la cortina para revelar al supuesto «grande y poderoso» Mago, que intenta desesperadamente mantener la ilusión gritando: «¡No prestéis atención a ese hombre que está detrás de la cortina!». Pero hoy vamos a correr la cortina de DeepSeek. Veamos qué está pasando realmente.

Se han realizado pruebas con el DeepSeek R1 y se han obtenido los resultados de la competencia

Investigadores de Cisco y de la Universidad de Pensilvania probaron DeepSeek R1 utilizando el «jailbreaking» algorítmico, un método diseñado para eludir los filtros de seguridad de la IA mediante la creación de indicaciones que aprovechan las debilidades del modelo.

Utilizaron 50 indicaciones perjudiciales del conjunto de datos HarmBench, que contiene 400 comportamientos repartidos en 7 categorías de daños (por ejemplo, ciberdelitos, desinformación y actividades ilegales). DeepSeek R1 falló en el 100 % de los casos, ofreciendo respuestas perjudiciales a todas las indicaciones de prueba. Los investigadores sugieren que los métodos de entrenamiento de bajo coste de DeepSeek, cuyo coste se estima en 6 millones de dólares, podrían haber sacrificado sus mecanismos de seguridad en aras del rendimiento. Desarrollar un sistema rápido y barato tiene sus inconvenientes. 

En comparación con la resistencia del 0 % de DeepSeek R1 (tasa de fallo del 100 %), otros modelos importantes de IA presentaban distintos niveles de resistencia al «jailbreak» algorítmico:

‍

Aunque es muy potente, DeepSeek R1 carece de medidas de seguridad, lo que lo convierte en un grave riesgo para la seguridad.

¿Por qué es necesaria una auditoría de IA?‍

Con el creciente número de modelos de IA que se lanzan al mercado, han surgido varias preocupaciones acuciantes. Las fallas de seguridad en los modelos de IA implican que no se filtre el contenido perjudicial, lo que genera riesgos de seguridad. También puede producirse un «jailbreak» algorítmico sin las auditorías adecuadas, lo que permite a la IA eludir las medidas de seguridad. Los problemas de transparencia, como las inconsistencias en los costes de DeepSeek R1, ponen en duda la veracidad de la investigación en IA. Esta contradicción no puede pasarse por alto, dado que se prevé que el coste sea de 6 millones de dólares o de 1.300 millones de dólares. El uso de los datos y las cuestiones éticas, como las acusaciones de robo de datos por parte de OpenAI a pesar del origen dudoso de sus propios datos de entrenamiento, ponen el foco en las auditorías y en las fuentes de los datos de entrenamiento. 

Se trata de riesgos derivados de la disyuntiva que puede surgir cuando las empresas de IA sacrifican la seguridad en favor del rendimiento, lo que da lugar a vulnerabilidades. Las deficiencias en las pruebas comparativas exigen auditorías estandarizadas que comparen los modelos en función de su resistencia a los ataques. Por último, una auditoría de IA garantiza que la IA cumpla con las normas de seguridad, evaluación técnica, cumplimiento normativo, éticay gobernanza de datos. Este enfoque holístico garantiza una evaluación exhaustiva de los sistemas de IA. 

Para las organizaciones que se enfrentan a la creciente necesidad de auditorías de IA, plataformas como Centraleyes pueden facilitar un enfoque más estructurado y exhaustivo de la gestión de riesgos de la IA. Al agregar datos de fuentes internas y externas en una interfaz unificada y en tiempo real, Centraleyes ayuda a los equipos a detectar deficiencias en la gobernanza, optimizar las iniciativas de cumplimiento normativo y gestionar los riesgos de la IA. Esto constituye una base fundamental para cualquier implementación responsable de la IA.

‍

Reserva tu consulta gratuita sobre seguridad:
‍
‍‍Calendario de Google: https://calendar.app.google/Ai15eyQhiV5c1pBXA
Telegram: https://t.me/m_ndr

‍