Geoffrey Hinton, uno de los referentes de la inteligencia artificial, sitúa en un 1% la posibilidad de que esta tecnología llegue a destruir a la humanidad, según el titular publicado por El País. Se trata de una valoración personal: la información facilitada no detalla el horizonte temporal, los escenarios ni el método que sustentan esa estimación.

Para las empresas industriales, la cuestión práctica es cómo aprovechar la IA sin perder el control de los procesos. Su uso puede abarcar desde el análisis de documentación técnica hasta el mantenimiento predictivo, la inspección de calidad o el apoyo a la planificación de la producción. Pero los riesgos cambian sustancialmente cuando una herramienta deja de recomendar y obtiene capacidad para actuar sobre equipos o modificar parámetros operativos.

Por ello, conviene distinguir entre los escenarios extremos que plantea el debate sobre el futuro de la IA y los fallos que una fábrica debe gestionar en su actividad diaria. Una respuesta incorrecta, una predicción poco fiable o una decisión automatizada sin validación pueden afectar a la calidad, la continuidad del servicio o la seguridad, dependiendo de la aplicación y de las barreras de protección existentes.

El despliegue responsable exige definir qué decisiones puede tomar cada sistema, comprobar su comportamiento antes de conectarlo a operaciones reales y establecer mecanismos de supervisión e intervención. También implica evaluar a los proveedores, proteger los datos industriales y conservar registros que permitan investigar errores. Estas medidas no resuelven por sí solas los riesgos a largo plazo, pero aportan una base concreta para gobernar la tecnología.

La advertencia de Hinton traslada así una pregunta relevante a las direcciones industriales: no solo qué tareas pueden automatizarse, sino bajo qué condiciones resulta aceptable hacerlo. El criterio empresarial pasa por vincular cada aplicación a un beneficio verificable y a un nivel de control proporcional a sus posibles consecuencias.