OpenAI, reconocida por su desarrollo de modelos avanzados de inteligencia artificial, ha expresado recientemente su preocupación respecto a DeepSeek, una IA emergente de origen chino que ha ganado rápidamente popularidad en el mercado global. En una comunicación dirigida a la Oficina de Política Científica y Tecnológica (OSTP) de Estados Unidos, OpenAI ha instado al gobierno a implementar restricciones que frenen el despliegue de DeepSeek, argumentando que representa una amenaza potencial para la seguridad nacional y la privacidad de los usuarios.
Preocupaciones de seguridad y privacidad
Las inquietudes de OpenAI se centran en varios aspectos críticos relacionados con DeepSeek:
-Fugas de datos: Investigaciones recientes han revelado que DeepSeek permitió el acceso sin restricciones a datos confidenciales, lo que podría haber llevado al control total de su base de datos sin necesidad de autenticación.
-Rendimiento en pruebas de seguridad: Evaluaciones independientes han mostrado que DeepSeek R1 carece de bloqueos efectivos contra la generación de información peligrosa, como datos sobre armas biológicas, lo que plantea riesgos significativos si es utilizado de manera indebida.
-Posible plagio de modelos de entrenamiento: OpenAI, en colaboración con Microsoft, ha acusado a DeepSeek de plagiar sus modelos de entrenamiento, sugiriendo que la IA china podría haber utilizado datos robados para desarrollar sus capacidades, lo que plantea serias dudas sobre la ética y la seguridad de sus operaciones.
Reacciones en la industria tecnológica
La rápida adopción de DeepSeek ha generado respuestas diversas en el sector tecnológico:
-Amazon: Empleados de Amazon han advertido a los clientes sobre las preocupaciones de privacidad asociadas con DeepSeek, promoviendo en su lugar los modelos de IA propios de la compañía como alternativas más seguras.
-Departamento de Comercio de EE. UU.: Se ha instruido al personal para evitar el uso de DeepSeek en dispositivos gubernamentales, destacando la necesidad de mantener la seguridad de los sistemas del departamento.
-Investigaciones académicas: Estudios recientes han identificado vulnerabilidades en modelos de razonamiento como DeepSeek-R1, que pueden ser explotadas para eludir mecanismos de seguridad y generar contenido perjudicial.
Llamado a la acción y medidas propuestas
OpenAI ha solicitado al gobierno de Estados Unidos que tome medidas proactivas para mantener el liderazgo en el ámbito de la inteligencia artificial y mitigar los riesgos asociados con el avance de DeepSeek. Entre las recomendaciones se incluyen la implementación de políticas más estrictas para las IA desarrolladas en China y la restricción de su despliegue en territorio estadounidense.
Además, OpenAI ha enfatizado la importancia de establecer regulaciones que aseguren el desarrollo ético y seguro de las tecnologías de inteligencia artificial, protegiendo tanto la privacidad de los usuarios como la seguridad nacional. La compañía insta a una colaboración estrecha entre el sector privado y las autoridades gubernamentales para abordar de manera efectiva las amenazas emergentes en el panorama de la IA.
En conclusión, la aparición de DeepSeek ha encendido las alarmas en la comunidad de inteligencia artificial, destacando la necesidad de una vigilancia constante y la implementación de medidas que garanticen un desarrollo tecnológico seguro y ético.