Los investigadores cibernéticos que se propusieron investigar la seguridad de DeepSeek
CHINA

Las empresas y agencias del mundo buscan restringir el acceso a la IA de DeepSeek

jueves, 30 de enero de 2025

Los investigadores cibernéticos que se propusieron investigar la seguridad de DeepSeek

Foto: Bloomberg

Las empresas asociadas a los gobiernos intentan bloquear el acceso a DeepSeek debido a las preocupaciones sobre posibles filtraciones de datos al gobierno chino

Bloomberg

Las empresas y agencias gubernamentales de todo el mundo están tomando medidas para restringir el acceso de sus empleados a las herramientas lanzadas recientemente por la startup china de inteligencia artificial DeepSeek, según las empresas de ciberseguridad contratadas para ayudar a proteger sus sistemas.

“Cientos” de empresas, en particular las asociadas con los gobiernos, han trabajado para bloquear el acceso a DeepSeek debido a las preocupaciones sobre posibles filtraciones de datos al gobierno chino y lo que consideran como débiles salvaguardas de la privacidad, dijo Nadir Izrael, director de tecnología de la empresa cibernética Armis Inc., refiriéndose a la propia clientela de la startup. La mayoría de los clientes de Netskope Inc., un servicio que las empresas utilizan para restringir el acceso de los empleados a los sitios web, también están tomando medidas para limitar el servicio.

Aproximadamente 70% de los clientes de Armis han solicitado bloqueos, dijo la compañía, y 52% de los clientes de Netskope están bloqueando el acceso al sitio por completo, según Ray Canzanese, director de los laboratorios de amenazas de Netskope.

“La mayor preocupación es la posible filtración de datos del modelo de IA al gobierno chino”, dijo Izrael de Armis. “No sabes a dónde va tu información”.

La ansiedad en torno a DeepSeek ha aumentado desde el fin de semana, cuando los elogios de ejecutivos tecnológicos de alto perfil, incluido Marc Andreessen, impulsaron al chatbot de inteligencia artificial de DeepSeek a la cima de las descargas de aplicaciones de Apple Store. La principal de esas preocupaciones es el hecho de que DeepSeek afirma en sus propios términos de privacidad que recopila y almacena datos en servidores en China, y agregó que cualquier disputa sobre el asunto se regirá por la ley del gobierno chino.

Según la propia política de privacidad de DeepSeek, la empresa recopila las pulsaciones de teclas, las entradas de texto y audio, los archivos cargados, los comentarios, el historial de chat y otros contenidos de los usuarios con el fin de entrenar sus modelos de IA y puede compartir esa información con las fuerzas del orden y las autoridades públicas a su discreción.

Los investigadores cibernéticos que se propusieron investigar la seguridad de DeepSeek dijeron que encontraron una base de datos de acceso público perteneciente a la empresa que contenía datos internos. La base de datos incluía parte del historial de chat de DeepSeek, detalles del backend y datos de registro técnico, según Wiz Inc., la startup de ciberseguridad que Alphabet Inc. intentó comprar por US$23.000 millones de dólares el año pasado. Wiz dijo que DeepSeek aseguró la información cuando informó del descubrimiento.

Según un estudio de Bloomberg Intelligence, DeepSeek y la creciente adopción de otros servicios de inteligencia artificial generativa acelerarán el desarrollo y las ventas de servicios de ciberseguridad. CrowdStrike Holdings Inc., Palo Alto Networks Inc. y SentinelOne se encuentran entre las empresas que podrían beneficiarse de esta tendencia, dijeron los analistas de Bloomberg Mandeep Singh y Damian Reimertz.

Los gobiernos ya están examinando los controles de privacidad de DeepSeek. La Comisión de Protección de Datos de Irlanda, que aplica las normas de privacidad de la Unión Europea a muchas de las empresas de tecnología más grandes del mundo, dijo el miércoles que había solicitado información a DeepSeek para determinar si la empresa está protegiendo adecuadamente los datos de los usuarios.

El organismo de control de protección de datos italiano también dijo que se había puesto en contacto con Hangzhou DeepSeek Artificial Intelligence y Beijing DeepSeek Artificial Intelligence en busca de información sobre cómo la aplicación de DeepSeek maneja la información sobre los usuarios italianos. Los funcionarios italianos preguntaron si los datos personales de sus ciudadanos se transferían a China y dieron a la empresa 20 días para responder.

La Oficina del Comisionado de Información del Reino Unido dijo en una declaración que los desarrolladores de IA generativa deben ser transparentes sobre cómo usan los datos personales y agregó que tomaría medidas siempre que se ignoren sus expectativas regulatorias.

Los funcionarios y centros de estudios estadounidenses han advertido de que las leyes de seguridad nacional chinas permiten al gobierno acceder a las claves de cifrado controladas por empresas que operan en el país y obligarlas a colaborar en actividades de recopilación de inteligencia. Estas leyes fueron la base del argumento del gobierno estadounidense para prohibir la plataforma TikTok de ByteDance Ltd., con sede en China, y los funcionarios de seguridad nacional advirtieron de que su propiedad china ofrecía a Pekín una forma de acceder a la información personal de los estadounidenses.

TikTok ha negado que represente una amenaza de ese tipo. El presidente estadounidense, Donald Trump, prometió llegar a un acuerdo que permitiría a la plataforma seguir operando en Estados Unidos poco después de asumir el cargo en enero.

Mehdi Osman, director ejecutivo de la startup estadounidense de software OpenReplay, se encuentra entre los líderes empresariales que optaron por no utilizar el servicio API de DeepSeek por cuestiones de seguridad. Pero advirtió que los precios extraordinariamente bajos de la empresa aún amenazan con alejar a los desarrolladores de OpenAI "en los próximos meses".

Mientras tanto, los investigadores de delitos cibernéticos advierten que los servicios de inteligencia artificial de DeepSeek parecen tener menos protecciones a su alrededor para evitar que los piratas informáticos utilicen las herramientas para, por ejemplo, crear correos electrónicos de phishing, analizar grandes conjuntos de datos robados o investigar vulnerabilidades cibernéticas.

“Con muy poco esfuerzo, los atacantes podrán realizar modificaciones de código que darán lugar a una mayor escala y velocidad de los ataques cibernéticos y fraudulentos”, dijo Levi Gundert, director de seguridad e inteligencia de la empresa de ciberseguridad Recorded Future Inc.