La seguridad de la IA aparece ya en los lugares menos espectaculares: una reclamación de seguros, una tarea de programación o una conversación sobre cómo proteger a los jóvenes. La expansión de estas herramientas no se limita a los laboratorios ni a las demostraciones de producto. También está modificando procesos empresariales concretos y, al mismo tiempo, elevando la presión sobre las compañías que desarrollan modelos capaces de intervenir en decisiones, contenidos y flujos de trabajo.
El material reunido para esta pieza dibuja una escena con dos velocidades. Por un lado, empresas como Travelers exploran asistentes basados en inteligencia artificial para atender reclamaciones con mayor rapidez y disponibilidad. Por otro, OpenAI presenta Codex como una herramienta capaz de ampliar el trabajo de profesionales dedicados a investigar, analizar datos, automatizar tareas o escribir código. En paralelo, las dudas sobre los riesgos de estos sistemas llegan a los tribunales y alimentan propuestas de coordinación internacional.
Seguridad de la IA se juega también en los trámites cotidianos
La colaboración entre Travelers y OpenAI plantea una aplicación deliberadamente práctica: un “Asistente de Reclamaciones” diseñado para acompañar a los clientes durante la presentación de un parte. Según la información publicada por OpenAI, el sistema busca ofrecer orientación y soporte durante todo el día, además de ayudar a la aseguradora a absorber picos de demanda.
La promesa es fácil de entender. Para quien necesita comunicar un siniestro, el proceso puede resultar confuso, especialmente cuando exige reunir información, describir lo ocurrido y avanzar por varios pasos administrativos. Un asistente conversacional puede reducir fricciones y responder a dudas habituales sin depender de los horarios de una oficina o de la disponibilidad inmediata de un empleado.
Pero la utilidad de este tipo de despliegue no debería medirse únicamente por el número de interacciones atendidas. En los seguros, una respuesta incorrecta, ambigua o excesivamente segura puede generar expectativas equivocadas sobre la cobertura o sobre los siguientes pasos de una reclamación. La automatización, por tanto, no elimina la necesidad de supervisión: desplaza el foco hacia la calidad de las respuestas, la claridad de los límites del sistema y la intervención humana cuando el caso deja de ser rutinario.
La experiencia de Travelers sirve como recordatorio de que la inteligencia artificial entra en la economía por tareas muy concretas. No hace falta imaginar una transformación abstracta del sector para observar sus efectos. Basta con seguir el recorrido de una persona que intenta resolver un trámite y preguntarse quién responde, con qué información y bajo qué controles cuando la herramienta no entiende bien la situación.
Codex y la nueva frontera del trabajo intelectual
El informe de OpenAI titulado The Next Era of Knowledge Work sitúa a Codex en otro frente de expansión. La herramienta, orientada a comprender y generar código, se presenta como un apoyo para actividades que no pertenecen exclusivamente al desarrollo de software. La investigación, el análisis de datos, la automatización de flujos y la creación de contenidos forman parte del abanico de usos descrito por la compañía.
La diferencia relevante está en el tipo de tarea que se intenta acelerar. Codex no se plantea solo como un mecanismo para producir fragmentos de código, sino como una capa capaz de intervenir en procesos de trabajo más amplios. Un profesional puede emplearlo para explorar una base de datos, preparar una automatización o convertir una instrucción general en una secuencia técnica que antes habría requerido más tiempo y conocimientos especializados.
Eso no significa que la herramienta sustituya de forma automática el criterio de quien la utiliza. En trabajos donde los resultados deben ser verificables, una salida convincente puede seguir siendo incorrecta, incompleta o inadecuada para el contexto. La productividad prometida depende de que el usuario sepa formular objetivos, revisar resultados y detectar fallos. La ventaja, cuando existe, no reside solo en hacer más en menos tiempo, sino en reservar la atención humana para las decisiones que exigen contexto y responsabilidad.
Este cambio también puede alterar las habilidades que las empresas buscan. La familiaridad con el código continúa siendo útil, pero gana peso la capacidad de auditar procesos, definir problemas y evaluar respuestas generadas por sistemas automáticos. El trabajo intelectual no desaparece; se reorganiza alrededor de herramientas que pueden producir primeros borradores, sugerir caminos o ejecutar partes de un flujo. La cuestión editorial y laboral consiste en distinguir entre asistencia eficaz y delegación irreflexiva.
Florida y la propuesta de OpenAI ponen la gobernanza bajo presión
La expansión comercial convive con una disputa más áspera. El estado de Florida ha presentado una demanda contra OpenAI y su director ejecutivo, Sam Altman, según la información recogida en las fuentes proporcionadas. El escrito plantea, entre otras alegaciones, que la compañía habría situado el beneficio económico por encima de la seguridad pública. Esas afirmaciones pertenecen al terreno de una acción legal y deberán valorarse dentro del procedimiento correspondiente; no equivalen por sí solas a una conclusión definitiva sobre la conducta de la empresa.
Aun así, el caso refleja una tensión que ya no puede separarse de la conversación sobre inteligencia artificial. Cuanto más capaces son los sistemas y cuanto más rápido se integran en servicios cotidianos, mayor es la expectativa de que sus desarrolladores expliquen los riesgos, establezcan barreras y respondan ante los daños. La discusión no se limita a si un producto funciona. Incluye quién decide sus límites, cómo se detectan los fallos y qué mecanismos existen cuando la protección resulta insuficiente.
En ese contexto encaja el llamamiento de OpenAI para impulsar una iniciativa internacional centrada en la seguridad y las oportunidades de los jóvenes. La propuesta contempla un instituto global que contribuya a reforzar salvaguardas, desarrollar estándares y abrir oportunidades de participación para las nuevas generaciones en el ámbito de la inteligencia artificial.
La idea combina dos objetivos que a menudo se presentan por separado: proteger a los menores y permitir que se formen y participen en el desarrollo tecnológico. El primero exige atender riesgos específicos, desde usos dañinos hasta sistemas incapaces de responder adecuadamente a usuarios vulnerables. El segundo plantea que la juventud no sea tratada únicamente como un grupo expuesto, sino también como parte de la conversación sobre diseño, educación y políticas públicas.
La propuesta tendrá que enfrentarse a preguntas difíciles. Un organismo internacional necesitaría definir competencias, coordinar jurisdicciones y convertir principios generales en medidas aplicables. También debería evitar que la gobernanza quede reducida a declaraciones voluntarias sin mecanismos para comprobar resultados. La demanda de Florida, por su parte, muestra que la responsabilidad empresarial puede acabar dirimiéndose en espacios políticos y judiciales cuando la supervisión tecnológica no convence.
Las tres líneas —el asistente de Travelers, Codex y las iniciativas sobre seguridad— apuntan al mismo problema desde ángulos distintos. La inteligencia artificial ya produce valor porque se incorpora a procesos reales, pero esa incorporación amplía la superficie de riesgo. Cada nueva aplicación exige comprobar no solo cuánto tiempo ahorra o cuántas solicitudes resuelve, sino también qué ocurre cuando se equivoca, quién corrige el error y qué información necesita una persona para conservar el control.
El debate seguirá moviéndose entre la promesa de eficiencia y la exigencia de responsabilidad. Para las empresas, el reto será demostrar que la automatización mejora servicios sin ocultar sus límites. Para los reguladores, consistirá en construir reglas capaces de seguir el ritmo de tecnologías que cambian con rapidez. Y para el público, la cuestión más concreta será reconocer cuándo una respuesta automática es una ayuda razonable y cuándo debería intervenir una persona.
Sigue toda nuestra cobertura en IA General.
