Cómo cambiará el uso de la IA en el desarrollo de alimentos: la Ley de IA de la UE y el enfoque de la regulación basada en el riesgo
La expansión del uso de la IA y el contexto de la introducción de la regulación
Con el avance de la IA generativa, el uso de la IA se está extendiendo también en el sector agroalimentario (*1). Hasta ahora, las empresas del sector agroalimentario han utilizado la IA, por ejemplo, para los siguientes fines (*2)(*3)(*4).
- Desarrollo de nuevos productos
- Control de calidad de los alimentos
- Gestión de riesgos de los alimentos importados
- Reducción de la carga del trabajo agrícola
Por otra parte, en la industria alimentaria la adopción de la IA se está retrasando, debido a obstáculos como el uso persistente de infraestructuras y equipos obsoletos, incompatibles con las tecnologías de IA (*2).
En la agricultura ocurre algo similar: la adopción de la IA es limitada y aún no ha llegado a una aplicación práctica a gran escala, debido a la falta de claridad sobre el retorno de la inversión (ROI), la incertidumbre económica y el acaparamiento de datos por parte de algunos grandes fabricantes de maquinaria agrícola y empresas de agroquímicos (*5). Sin embargo, incluso en este contexto, a medida que avanza el uso de la IA se hacen visibles los siguientes desafíos (*6).
- Precisión y fiabilidad de los resultados
- Falta de explicabilidad debida al efecto de «caja negra»
- Tratamiento de los datos y atribución de responsabilidades
Estos riesgos son un problema que no puede ignorarse, en particular en sectores como la industria alimentaria y la agricultura, que afectan directamente a la seguridad y la tranquilidad de las personas. Por ello, en Europa se avanza en el desarrollo de una regulación que no se centra en el uso de la IA en sí, sino en los riesgos asociados a su utilización. La UE (Unión Europea: European Union) aprobó y puso en vigor en 2024 la Ley de IA de la UE (EU AI Act), una regulación integral de la IA que incluye la IA generativa. Está previsto que esta ley se aplique de forma gradual hasta el 31 de diciembre de 2030, según el calendario de aplicación gradual previsto en el texto original (*7).
La expansión del uso de la IA genera expectativas como la mejora de la productividad y el aumento de los beneficios, pero al mismo tiempo ha hecho que los riesgos se manifiesten, y la regulación se está introduciendo como respuesta a ello.
El enfoque de la «regulación basada en el riesgo» que plantea la Ley de IA de la UE
Como se ha mencionado, avanza la aplicación de la Ley de IA de la UE (EU AI Act), una regulación integral de la IA que incluye la IA generativa, y en adelante quedarán sujetas a ella no solo las empresas establecidas en la UE, sino también las que ofrezcan productos o servicios basados en IA dentro de la UE (*7).
La Ley de IA de la UE no regula de manera uniforme el uso de la IA en sí, sino que adopta una «regulación basada en el riesgo», que gestiona la IA según el riesgo derivado de su finalidad y de su impacto.
En la Ley de IA de la UE, la IA se clasifica en los siguientes cuatro niveles de riesgo:
- Riesgo inaceptable (Unacceptable risk)
- Alto riesgo (High risk)
- Riesgo que requiere transparencia específica (Transparency risk)
- Riesgo mínimo (Minimal or no risk)
Según estas categorías de riesgo, el contenido y el nivel de las medidas exigidas a las empresas varían considerablemente. A continuación se resume cada categoría de riesgo (*8).
Riesgo inaceptable (Unacceptable risk)
Se prohíben todos los sistemas de IA considerados una amenaza clara para la seguridad, los medios de vida y los derechos de las personas. La Ley de IA prohíbe el uso de la IA en los siguientes siete tipos de aplicaciones.
- Manipulación y engaño dañinos basados en IA, y explotación (abuso) dañina de vulnerabilidades basada en IA
- Puntuación social (social scoring)
- Evaluación o predicción del riesgo de que una persona cometa delitos
- Extracción indiscriminada (scraping) de material de internet o de CCTV (cámaras de vigilancia) para crear o ampliar bases de datos de reconocimiento facial
- Reconocimiento de emociones en el lugar de trabajo y en instituciones educativas
- Categorización biométrica para inferir determinadas características protegidas
- Identificación biométrica remota en tiempo real con fines policiales en espacios de acceso público
Desde febrero de 2025 ha comenzado la regulación de la IA clasificada como de «riesgo inaceptable». Sobre esta regulación se han publicado dos directrices: «The guidelines on prohibited AI practices under the AI Act(*9)» y «The guidelines on the AI system definition of the AI Act(*10)».
Alto riesgo (High risk)
Los casos de uso de la IA que pueden suponer un riesgo grave para la salud, la seguridad o los derechos fundamentales se clasifican como de alto riesgo. Estos casos de uso de alto riesgo incluyen lo siguiente.
- Componentes de seguridad de IA en infraestructuras críticas (por ejemplo, el transporte), cuyo fallo podría poner en peligro la vida y la salud de los ciudadanos
- Soluciones de IA utilizadas en instituciones educativas que pueden determinar el acceso a la educación y el curso de la vida profesional de una persona (por ejemplo, la calificación de exámenes)
- Componentes de seguridad de productos basados en IA (por ejemplo, aplicaciones de IA en la cirugía asistida por robots)
- Herramientas de IA para el empleo, la gestión de trabajadores y el acceso al trabajo por cuenta propia (por ejemplo, software de selección de currículos para la contratación)
- Determinados casos de uso de la IA empleados para decidir el acceso a servicios esenciales, privados y públicos (por ejemplo, la puntuación crediticia que niega a los ciudadanos la oportunidad de obtener un préstamo)
- Sistemas de IA utilizados para la identificación biométrica remota, el reconocimiento de emociones y la categorización biométrica (por ejemplo, sistemas de IA para identificar retrospectivamente a ladrones de tiendas)
- Casos de uso de la IA en el ámbito policial que pueden vulnerar los derechos fundamentales de las personas (por ejemplo, la evaluación de la fiabilidad de las pruebas)
- Casos de uso de la IA en la gestión de la migración, las solicitudes de asilo y el control fronterizo (por ejemplo, el examen automatizado de solicitudes de visado)
- Soluciones de IA utilizadas en la administración de justicia y en los procesos democráticos (por ejemplo, soluciones de IA para preparar sentencias)
La IA clasificada como de «alto riesgo» debe cumplir los siguientes requisitos estrictos antes de comercializarse.
- Sistemas adecuados de evaluación y mitigación de riesgos
- Alta calidad de los conjuntos de datos que alimentan el sistema, para minimizar el riesgo de resultados discriminatorios
- Registro de la actividad para garantizar la trazabilidad de los resultados
- Documentación detallada que proporcione toda la información necesaria sobre el sistema y su finalidad para que las autoridades evalúen el cumplimiento (compliance)
- Información clara y adecuada para los responsables del despliegue
- Medidas adecuadas de supervisión humana
- Alto nivel de robustez, ciberseguridad y precisión
Estaba previsto que la regulación de la IA de alto riesgo que se aplicara a partir del 2 de agosto de 2026 o del 2 de agosto de 2027, pero es posible que se aplace más de un año, hasta diciembre de 2027 (*11)(*12).
Riesgo que requiere transparencia específica (Transparency risk)
La Ley de IA de la UE introduce obligaciones específicas de divulgación para garantizar que las personas reciban la información cuando sea necesario para mantener la confianza. Por ejemplo, cuando se utilizan sistemas de IA como los chatbots, es necesario que las personas sepan que están interactuando con una máquina, para que puedan tomar decisiones informadas. Además, los operadores que utilizan IA generativa deben permitir identificar el contenido como generado por IA. Asimismo, determinados contenidos generados por IA, es decir, los deepfakes y los textos publicados con el fin de informar al público sobre asuntos de interés público, deben etiquetarse de forma clara y visible. Estas normas de transparencia entrarán en vigor en agosto de 2026.
Riesgo mínimo (Minimal or no risk)
La Ley de IA de la UE no regula la IA que se considera de riesgo mínimo o nulo. La mayor parte de la IA que se utiliza actualmente en la UE pertenece a esta categoría.
El significado de la «regulación basada en el riesgo» y su impacto en el sector agroalimentario
Lo importante de la Ley de IA de la UE es que la clasificación de la regulación de la IA no se basa en el «tipo de IA» (si es o no IA generativa) ni en «lo que puede hacer», sino en «para qué finalidad se utiliza y qué efecto tiene sobre las personas» (*13).
Por ejemplo, incluso con la misma tecnología de IA:
- Usos que afectan directamente a la seguridad de las personas → alto riesgo
- Usos de generación de información o de marketing → riesgo que requiere transparencia específica
es decir, el ámbito y el contenido de la regulación cambian según la forma de uso. Este punto es especialmente importante en los sectores de la alimentación y la agricultura. Si se utiliza la IA en el desarrollo de alimentos, el etiquetado o el control de calidad, sus resultados pueden afectar a la seguridad y al cumplimiento normativo, por lo que podría tratarse no como una simple herramienta de generación, sino como un proceso de decisión que entraña riesgos.
Impacto de la regulación en el uso de la IA en el sector agroalimentario
Con la introducción de la Ley de IA de la UE, el uso de la IA en el sector agroalimentario está pasando de ser una simple adopción tecnológica a un diseño basado en la gestión del riesgo según la finalidad. Se considera que ya hay una parte de la IA utilizada en el sector agroalimentario que se clasifica como de «riesgo inaceptable», «alto riesgo» y «riesgo que requiere transparencia específica» (*14).
Por ejemplo, la IA que manipula el comportamiento de las personas sin que sean conscientes de ello mediante técnicas subliminales que menoscaban la toma de decisiones de las personas, o la que infiere emociones en ámbitos concretos como el lugar de trabajo, presenta un «riesgo inaceptable», por lo que su comercialización está prohibida en principio (*14). Además, cuando la IA se utiliza como «función de seguridad» de máquinas y equipos empleados en el sector agroalimentario, se clasifica como de «alto riesgo» y se le imponen requisitos estrictos, como la implantación de un sistema de gestión de riesgos, la garantía de una calidad de datos adecuada y la supervisión humana. Por ejemplo, entran en esta categoría los sistemas de IA instalados en tractores autónomos y robots desherbadores autónomos para evitar daños o colisiones con el entorno (*14). La IA generativa utilizada en el marketing de alimentos corresponde a los sistemas para los que se exige transparencia sobre su uso (*14).
Así, incluso con la misma tecnología de IA, los requisitos exigidos varían considerablemente según la forma de uso. En consecuencia, para las empresas, el uso de la IA está pasando de la etapa de plantearse «qué puede hacer» a la etapa de diseñarla partiendo de «a qué categoría de riesgo corresponde».
Cabe añadir que el sistema sigue en desarrollo, como muestra la creciente probabilidad de que se aplace la fecha de inicio de aplicación de la regulación de la IA de alto riesgo (*11)(*12). Por ello, para seguir vendiendo productos y servicios basados en IA dentro de la UE, es necesario mantenerse al tanto de forma continua de las actualizaciones sobre la aplicación de la Ley de IA de la UE.
Hacia un diseño de la IA basado en la regulación
A medida que se amplían la adopción y el uso de la IA en el sector agroalimentario, el cumplimiento de regulaciones como la Ley de IA de la UE se está convirtiendo en un requisito que debe incorporarse desde la fase de diseño de la IA.
Para responder a estos requisitos, es necesario diseñar la IA no como una simple herramienta de generación de ideas, sino como una base que respalde todo el proceso de decisión. En este contexto, Food AI Ideator(*15), desarrollado por nuestra empresa cuoncrop, sitúa el uso de la IA en el desarrollo de alimentos como una «plataforma de apoyo a la toma de decisiones».
En concreto,
- genera resultados aprovechables en la práctica mediante datos especializados en el sector, que incluyen ingredientes, recetas y datos de mercado propios de Japón
- evalúa de forma aproximada el impacto ambiental al mismo tiempo que se generan las ideas de recetas, incorporando los criterios ESG como «variables de decisión» y no como «tratamiento posterior»
- apoya un diseño transversal a desarrollo, marketing y sostenibilidad, incluidos los segmentos objetivo, las oportunidades de mercado y la formulación verbal del concepto
Estos son los servicios que ofrecemos, y avanzamos en el desarrollo teniendo también en cuenta la nueva regulación de la IA que se está introduciendo. Invitamos a las empresas que ofrecen productos y servicios de IA dentro de la UE a consultar con cuoncrop.
Referencias
1. FMI «Data Analytics and AI Trends in the Food Industry»
2. OECD «Progress in Implementing the EU Coordinated Plan on Artificial Intelligence, Volume 2»
3. FoodIngredientsFirst «AI in Food Safety and Product Development»
4. FAO Open Knowledge Repository
5. European Commission «Unlocking the potential of Artificial Intelligence for sustainable agriculture»
6. NIST «AI Risk Management Framework (NIST AI 100-1)»
7. PwC Japan «Tendencias regulatorias en torno a la IA generativa»
8. European Commission «Regulatory framework on AI»
9. European Commission «Guidelines on prohibited AI practices under the AI Act»
10. European Commission «Guidelines on the AI system definition under the AI Act»
11. JETRO Noticias breves de negocios
12. Nihon Keizai Shimbun (Nikkei)
13. Future of Life Institute «AI Act overview»
14. European Journal of Risk Regulation «The EU AI Act and the food system» (Cambridge)