La censura de DeepSeek es una señal de advertencia y una llamada de atención
La industria de la IA está llena de rumores sobre un nuevo modelo de lenguaje de gran tamaño que está llevando la lucha a los mejores de la industria como OpenAI y Anthropic. Pero no sin una generosa dosis de sorpresas. El nombre es DeepSeek .
Viene de China. Es de código abierto. Lo más importante es que se dice que se desarrolló a una fracción del costo en comparación con lo que han quemado los líderes actuales de la industria de OpenAI, Meta y Google.
"La asequibilidad abre la puerta para que las empresas más pequeñas y las nuevas empresas aprovechen la tecnología avanzada de IA que antes era inaccesible", dice a Digital Trends Mel Morris, jefe de un motor de IA para investigadores.
A raíz de la charla de los expertos y los rumores de Wall Street, Nvidia, el señor supremo del hardware de IA, vio desaparecer casi 600 mil millones de dólares de su participación de mercado. Satya Nadella, partidario de OpenAI y jefe de Microsoft, está hablando de la paradoja de Jevons .
La llegada de DeepSeek incluso se equipara con el momento Sputnik , aunque no sin dudas más profundas. La mayor preocupación es cómo la compañía almacena una gran cantidad de datos de usuarios en servidores con sede en China, una estrategia que hundió a TikTok en el infierno de una prohibición a nivel nacional .
"Si utiliza su API (o aplicación) alojada propia, es muy probable que el tráfico pueda verse y compartirse con varios actores a nivel estatal", le dice a Digital Trends Randall Hunt, director ejecutivo de la empresa de ingeniería en la nube Caylent.
Sin embargo, hay otro aspecto de DeepSeek que imita la versión china de una Internet estrictamente controlada. Censura.
"El modelo de recompensa en el modelo está fuertemente influenciado por las leyes de censura chinas", agrega Hunt, quien ha trabajado en potencias de ingeniería como la NASA, SpaceX, Amazon y Meta.
Cómo DeepSeek adopta la censura
"Lo siento, eso está más allá de mi alcance actual".
“Hablemos de otra cosa”.
“Aún no estoy seguro de cómo abordar este tipo de preguntas. ¡En su lugar, charlemos sobre problemas de matemáticas, codificación y lógica!
Esas son algunas de las respuestas que se obtienen cuando se abordan temas como los derechos humanos de los uigures, la secta religiosa Falun Gong, la destitución del ex líder Hu Jintao, la provocación de tropas en el territorio indio de Galwan o los monjes tibetanos que luchan por la libertad.
Todos esos son temas fuertemente censurados en el ecosistema de Internet y los sitios de redes sociales de China. El Gran Cortafuegos de China , como lo llaman.
Eventos como la masacre de Tiananmen están prohibidos. Incluso las menciones indirectas, como “el hombre que estaba delante de los tanques”, en referencia a la imagen icónica de un manifestante bloqueando la marcha de los tanques, no devuelven una respuesta.
La estrategia no sorprende. En octubre del año pasado, los reguladores de Internet de China incluso comenzaron a tomar medidas enérgicas contra los memes, los juegos de palabras, los chistes, los juegos de palabras y los homófonos que intentaban eludir temas prohibidos.
La mención de temas como Winnie the Pooh, fuertemente censurado en China debido a un viejo meme que dibujaba el parecido del personaje con el primer ministro Xi Jinping, está estrictamente prohibida.
Puede hacer una broma sobre el presidente estadounidense Donald Trump y su amor por el dinero. No hará lo mismo incluso si intenta "Xi dada" en el mismo mensaje de solicitud. "Hablemos de otra cosa", responde DeepSeek.
Pero a diferencia del Gran Cortafuegos, aquí nos enfrentamos a un modelo de lenguaje de gran tamaño. No siempre realiza coincidencias de palabras o hash para detectar y bloquear automáticamente términos ofensivos. La situación con DeepSeek es un poco complicada.
Según su conjunto de datos de entrenamiento, se niega rotundamente a responder algunos temas. Sin embargo, en algunos casos, comienza a redactar una respuesta larga como un chatbot típico, pero se detiene a mitad de camino y devuelve un mensaje de error repetitivo. Como hemos visto con ChatGPT, este es un tipo de jailbreak para DeepSeek que elude sus restricciones típicas.
Eso suena como un error. Sin embargo, al mismo tiempo, encontrar el alcance total de la censura en DeepSeek es más complicado que revisar una lista definida por el estado de temas bloqueados y contenido prohibido.
Para un puñado de otros temas como el derecho al aborto, la representación LGBTQ y el feminismo, pinta una imagen florida del gobierno chino, que contradice las realidades del terreno.
También miente, similar a las respuestas que solemos ver de los medios estatales o de los funcionarios de la embajada. En ciertos temas, reescribe por completo la verdad y canta la gloria del gobierno, contradiciendo la verdad descubierta por periodistas, denunciantes y organizaciones de derechos humanos.
DeepSeek es inherentemente indulgente con China, pero ocasionalmente "acepta" algunas verdades ampliamente conocidas. En pocas palabras, no es una herramienta de investigación confiable en la misma línea que Deep Research de Gemini .
¿Por qué es problemático DeepSeek?
Komninos Chatzipapas, fundador de HeraHaven.AI , una empresa que permite a los usuarios interactuar con compañeros de IA, experimentó con DeepSeek a través de un proveedor con sede en EE. UU. Le dice a Digital Trends que la censura se ha asentado en el núcleo mismo del modelo subyacente, y no solo como una capa superficial.
"Aunque es posible ajustar R1 para enseñarle a responder a todas las preguntas, estoy en contra de este tipo de censura en el modelo base, ya que podría sesgarlo y convertirlo en pro-China en otras preguntas que hacen los usuarios", dice. "No tiene ningún problema en hablar de la controversia estadounidense".
Broadridge, una empresa con sede en Nueva York que ocupó el tercer lugar en el ranking fintech de IDC de 2024, experimentó con DeepSeek y dice que la empresa quedó impresionada con su calidad.
Joseph Lo, director de plataformas empresariales de la empresa, afirma a Digital Trends que DeepSeek es una buena noticia para los inversores y demuestra que es posible realizar grandes avances tecnológicos.
Sin embargo, la seguridad sigue siendo una preocupación. "Nuestra perspectiva en Broadridge es que el servicio alojado de DeepSeek no debería utilizarse para ninguna aplicación dentro de los servicios financieros debido a su procesamiento en áreas fuera de EE. UU.", añade Lo.
No es el único líder de la industria preocupado por los riesgos a la privacidad. Aleksandr Yampolskiy, miembro del Consejo de Forbes que dirigió los esfuerzos de seguridad en Oracle y Goldman Sachs, también recomendó precaución.
"Ciertamente existe la posibilidad de que el software espía chino almacene todas las entradas y esto sea un enfoque de 'caballo de Troya' más peligroso que Tiktok", advierte. Recordemos que TikTok ha generado críticas no solo por el almacenamiento de datos en China, sino también por su presunto papel en la influencia en las elecciones .
Ben Walker, jefe de Ditto, dice que las empresas que implementen DeepSeek con su naturaleza censuradora intacta podrían enfrentar tensiones legales y regulatorias. Citó el ejemplo de los servicios de transcripción que ofrece su empresa, atendiendo a bufetes de abogados, institutos académicos, departamentos de policía y agencias federales.
"Si un bufete de abogados utilizara DeepSeek para transcribir declaraciones de testigos en un caso de secretos comerciales relacionados con la fabricación china, la IA podría omitir frases clave sobre la ubicación de las fábricas y los métodos de producción", dice Walker a Digital Trends. "Los abogados entonces pasarían por alto pruebas críticas porque la transcripción censurada omite detalles que activan los filtros de la IA".
¿Están las empresas preparadas para DeepSeek?
La llegada de DeepSeek no sólo ha sacudido el círculo tecnológico de la IA, sino que también ha tenido eco entre los niveles más altos de la burocracia, hasta llegar al presidente Trump. Las sanciones comerciales de este último podrían obstaculizar hasta dónde puede llegar China en la carrera de la IA.
En la segunda semana de enero, el gobierno de Estados Unidos anunció nuevas reglas de exportación de “Difusión de IA” que apuntan a frenar el acceso de China a hardware avanzado (léase: el tipo de material que convirtió a Nvidia en un gigante de un billón de dólares) y modelos de IA. Trump parece decidido a hacer precisamente eso.
“Trump puede mantener la ventaja de la IA en Estados Unidos”, dice un titular en The Wall Street Journal , escrito por el fundador y director de Anthropic, Dario Amodei. “China está tratando de ponerse al día. Estados Unidos necesita esfuerzos de desarrollo proactivos y fuertes controles de exportación”.
DeepSeek, en términos literales, ha dado forma a esos temores. Y es sólo el primero en hacerlo.
"El lanzamiento de DeepSeek, la IA de una empresa china, debería ser una llamada de atención para nuestras industrias de que debemos centrarnos en competir para ganar", dijo Trump, citado por Reuters .
Las últimas restricciones comerciales, que reflejan la estrategia que recientemente paralizó al gigante chino Huawei , tienen sentido desde un punto de vista centrado en Estados Unidos. Si la sombra de China es evidente en los productos nacionales de IA, que son dramáticamente más baratos y tienen el mismo rendimiento, ¿qué podría detener su adopción en el resto del mundo?
Bueno, hay riesgos tangibles en juego para las empresas. Steven Hall, miembro asesor del Consorcio para la Calidad de la Información y el Software y director de IA del Information Services Group, señala que escalar un producto de IA compatible con la censura será más difícil para las empresas y conlleva una multitud de riesgos.
"Pueden erosionar la confianza de los consumidores, atraer el escrutinio regulatorio y limitar la eficacia operativa", dijo Hall a Digital Trends. "Las organizaciones que dependen de modelos censurados o sesgados podrían enfrentar daños a su reputación y desafíos de cumplimiento, especialmente cuando se espera transparencia y neutralidad".
La imagen más profunda
“Creo que la República Popular China debe estar muy satisfecha de ver que ha podido obligar al gobierno estadounidense a emular cada vez más la intensa y práctica participación gubernamental de China dentro de lo que en el papel se supone que es un libre mercado, una mentalidad de laissez-faire, empresas de tecnología independientes”, dice a Digital Trends Brad Greenspan, fundador de MySpace, la primera red social que encontró una audiencia mundial y que allanó el camino para empresas emergentes como Facebook.
El lobby tecnológico, especialmente el proverbial “beso del anillo” de los líderes de la IA, es abiertamente descarado. Aparte de las donaciones personales, la presencia de figuras destacadas de la tecnología como Sam Altman de OpenAI, Elon Musk, el jefe de Google, Sundar Pichai, Mark Zuckerberg de Meta, Tim Cook de Apple y el fundador de Amazon, Jeff Bezos, fue una señal clara de que los jugadores de IA necesitan algo: una especie de control o seguridad que sólo la burocracia puede garantizar para que puedan aprovechar su comida de IA sin temor a que los advenedizos chinos se coman su almuerzo.
Sin embargo, las complejas normas y sanciones comerciales también perjudicarán el cumplimiento de las normas por parte de los actores locales. La expansión en el extranjero, los costos legales y la investigación y desarrollo global también los perjudicarán.
“La única diferencia que veo como característica definitoria es que China dedica mucho menos tiempo y esfuerzo a fingir y afirmar públicamente que no está tratando de engañar a los burócratas para que entren en sus mejores negocios”, añade Greenspan.
El problema con esta carrera y la exageración de la amenaza de China”es que no hay ganadores claros. Nunca lo habrá.
Estados Unidos hizo todo lo posible para frenar el progreso de China en la carrera de vehículos eléctricos. Sin embargo, empresas como BYD han logrado superar a Tesla, tanto en términos de entregas como de ingresos . Tesla ni siquiera es líder en la importante métrica de autonomía de vehículos eléctricos.
China también ha superado a Estados Unidos en términos de trabajos de investigación de alta calidad en los últimos años, en diferentes dominios. La IA resulta ser una de ellas. Los observadores de la industria dicen que apenas estamos arañando la superficie con DeepSeek.
Pronto llegarán más avances de este tipo procedentes de China, provenientes de gigantes tecnológicos y de oscuros laboratorios. Cuando eso suceda, sería interesante ver si la seguridad sigue siendo la principal preocupación o si la censura emerge como la nueva bandera alarmista.
Para una herramienta que es inherentemente un predictor de palabras, DeepSeek es una señal clara de que los comentarios sobre la censura solo se volverán más intensos a medida que desentrañemos cómo afecta lo que se supone que debe hacer una herramienta de IA generativa y lo que finalmente ofrece.