Skip to Main Content
 

Major Digest Home De la IA a las ciberamenazas, por qué las empresas necesitan revisar urgentemente su organización - Major Digest

De la IA a las ciberamenazas, por qué las empresas necesitan revisar urgentemente su organización

De la IA a las ciberamenazas, por qué las empresas necesitan revisar urgentemente su organización
Credit: CIO

Se decía que 2025 sería el año de los agentes de IA, pero la realidad empresarial es diferente. Las empresas siguen implementando su ChatGPT interno, conectándolo a sus documentos y apenas están comenzando a experimentar con la tecnología de agentes. En 2026, está claro que la adopción de agentes de IA y la experimentación seguirán aumentando, con una creciente madurez en los casos de uso y ganancias significativas en eficiencia.

Hay dos tendencias claras para 2026. La primera está impulsada por el talento. La fuerte demanda de nuevos perfiles, como ingenieros de IA y gestores de proyectos de IA, continuará y más empresas innovarán en la forma en que se organizan y operan los equipos técnicos y de producto. La segunda está muy subestimada por las empresas. Las amenazas a la seguridad seguirán aumentando más rápidamente que las inversiones en este ámbito. No sería de extrañar que se produjeran interrupciones importantes.

Las empresas se están centrando cada vez más en los agentes de IA. Están experimentando con la transición de los modelos de generación aumentada por recuperación (RAG) y la simple automatización de flujos de trabajo a sistemas verdaderamente agentivos capaces de realizar operaciones complejas de múltiples pasos. Este cambio está impulsando una importante demanda de talento. El mercado necesita ingenieros que puedan abordar los retos de ingeniería fundamentales necesarios para que estos agentes estén listos para la producción. El reto actual no es la capacidad de los grandes modelos de lenguaje en sí mismos, sino lograr una verdadera madurez arquitectónica y un impacto empresarial. Para implementar los agentes de forma responsable, debemos resolver difíciles obstáculos de ingeniería, como la gestión del estado (dotar a los agentes de una memoria fiable y a largo plazo), garantizar la responsabilidad (registros auditables de cada decisión que toma un sistema autónomo) y gestionar la seguridad no determinista (gestionar el riesgo cuando el resultado de un sistema es intrínsecamente variable). Las empresas aseguren una ventaja competitiva en 2026 serán aquellas que dominen la puesta en marcha de estos nuevos sistemas complejos, pero potentes.

Este cambio tecnológico está obligando a una innovación profunda y necesaria en la forma en que se organizan y operan los equipos técnicos y de productos. La fuerte demanda de talento en IA significa que la antigua estructura, caracterizada por equipos aislados de ciencia de datos, ingeniería e infraestructura, se está volviendo obsoleta. Las empresas buscan agresivamente al ingeniero de software de IA, un perfil versátil que une a la perfección el desarrollo de productos, la ingeniería de datos y la gestión de la infraestructura central. La transición nos está llevando hacia equipos más pequeños, con gran capacidad de acción y ciclo completo, que se encargan de todo el proceso, desde la fuente de datos hasta la implementación de la producción, lo que hace que la antigua descripción del puesto ‘solo backend‘ quede obsoleta. Esta evolución organizativa es fundamental para la velocidad. Vemos cómo los líderes tecnológicos se encaminan hacia una jerarquía más plana y una necesaria integración de la experiencia en datos e IA desde el principio, lo que facilita la rápida iteración y la comunicación interfuncional que exige el acelerado ciclo de vida de los productos de IA. Funciones como las de gestor de proyectos de IA y especialista en operaciones de IA (AIOps) se convertirán en habituales, lo que refleja el nuevo enfoque en la gestión de procesos y flujos de trabajo específicos de la IA.

Sin embargo, este cambio organizativo sistémico se está produciendo en un contexto de escalada de las amenazas cibernéticas externas. El riesgo más urgente en 2026 es la capacidad abrumadora que la IA otorga a los atacantes. Esta dinámica se ve confirmada por el Top 10 de OWASP para aplicaciones LLM (2025), que clasifica la inyección de comandos como el riesgo crítico número uno para los sistemas basados en LLM. La capacidad de escalado de la IA significa que los delincuentes pueden generar correos electrónicos de phishing hiperpersonalizados, sortear las barreras lingüísticas y producir códigos maliciosos complejos con una eficiencia y velocidad sin precedentes.

Es fundamental señalar que la proliferación de herramientas de IA dentro de la empresa introduce vectores de amenaza completamente nuevos e insidiosos, incluso si la adopción interna es cautelosa. Ya hemos visto las graves consecuencias de este cambio: Anthropic detectó y frustró recientemente un ciberataque a gran escala en el que un agente de IA malicioso gestionó de forma autónoma hasta el 90% de las operaciones tácticas, lo que confirma que la IA está realizando ahora el trabajo de equipos enteros de hackers humanos a la velocidad de una máquina. Del mismo modo, el uso de asistentes de IA empresariales crea vulnerabilidades a la inyección de comandos sin clic, en la que los atacantes incrustan instrucciones maliciosas ocultas en datos no fiables, una página web, un documento o un correo electrónico. Estas instrucciones pueden ser ingeridas inadvertidamente por el agente de IA de un empleado y ejecutadas de forma autónoma, lo que puede tener graves consecuencias, como la reciente demostración del ‘Zero-Click Agentic Wiper’, que podía activarse para borrar todo el contenido del almacenamiento en la nube del usuario sin ninguna confirmación. Este único ejemplo pone de relieve el riesgo de conceder demasiada autonomía a las herramientas expuestas a cualquier nivel de datos externos.

El año 2026 será decisivo para la IA en el entorno empresarial. La urgencia no reside sólo en acelerar la implementación de agentes de IA, sino en reconocer y contrarrestar la enorme amenaza externa que se ha subestimado. Las empresas que logren alinear eficazmente la innovación en IA con la agilidad organizativa y la inversión proactiva en seguridad serán las que lideren la transformación en este nuevo panorama tecnológico.

>

>Claire Lebarz es Chief Technology Officer de Malt, el mayor marketplace >de freelancers >de Europa con una comunidad de 200.000 expertos en tecnología y datos. Dentro de la compañía, Claire Lebarz dirige un equipo tecnológico de 100 personas. Antes de incorporarse a Malt, trabajó durante seis años en Airbnb, en los equipos directivos encargados de los datos, y también pasó más de diez años en San Francisco, desarrollando productos de IA en empresas emergentes.

Sources:
Published: