Riesgos de la IA es una expresión que ya no pertenece exclusivamente a los informes de especialistas ni a los debates sobre un futuro lejano. La inteligencia artificial se ha instalado en los mercados, las aulas, las administraciones y las conversaciones sobre salud mental, y con ella han aparecido preguntas que no se resuelven aumentando la potencia de los modelos. El entusiasmo por sus capacidades convive con advertencias sobre valoraciones financieras difíciles de justificar, dudas sobre la empatía automatizada y nuevas formas de vigilancia en los exámenes.
El panorama que dibujan estas discusiones es menos cómodo que el relato de una tecnología capaz de mejorar cualquier actividad. La IA puede servir como herramienta de aprendizaje, apoyo administrativo o asistencia conversacional, pero cada uso incorpora condiciones, límites y posibles efectos secundarios. La cuestión ya no es solo qué puede hacer un sistema, sino quién responde cuando falla, qué datos utiliza y qué tipo de relación humana sustituye o modifica.
Riesgos de la IA ante una posible burbuja financiera
La advertencia de la Comisión Nacional del Mercado de Valores sobre una posible burbuja especulativa alrededor de las empresas de inteligencia artificial introduce una dosis necesaria de cautela en un sector marcado por la inversión y las expectativas. Según el material difundido por medios como Business People, el entusiasmo podría estar empujando las valoraciones por encima de lo que justificarían los resultados o la capacidad real de generar ingresos.
Una alerta de este tipo no equivale a afirmar que todo el sector esté sobrevalorado ni permite anticipar cuándo se produciría una corrección. Sí plantea, en cambio, una pregunta relevante para inversores, empresas y administraciones: cuánto del precio atribuido a una compañía refleja su negocio actual y cuánto depende de promesas todavía pendientes de demostrar. La expansión de los modelos, el coste de la infraestructura y la competencia entre proveedores pueden alimentar una carrera tecnológica en la que la escala se confunda con rentabilidad.
Si las expectativas se ajustaran de forma brusca, el efecto podría alcanzar a proyectos que dependen de rondas de financiación continuas, además de obligar a revisar planes de contratación, adquisiciones y desarrollo de productos. También podría afectar a empresas que incorporan la etiqueta de IA como argumento comercial sin explicar con precisión qué tecnología utilizan ni qué beneficio aporta. El debate financiero, por tanto, no se limita a una posible caída de valoraciones: también examina la calidad de la información con la que se toman decisiones económicas.
Conviene distinguir entre el potencial de una herramienta y la solidez del negocio que la ofrece. Una aplicación puede ser útil y, al mismo tiempo, estar integrada en un modelo empresarial frágil. Esa diferencia resulta esencial para evitar que la fascinación por la innovación termine trasladando riesgos a accionistas, empleados, clientes o proveedores que no disponen de la misma capacidad para absorber una decepción.
Chatbots emocionales y los límites de la terapia automatizada
El debate sobre el uso de chatbots y asistentes virtuales en el ámbito de la salud mental plantea un problema más delicado que la mera precisión de las respuestas. La conversación terapéutica no consiste únicamente en producir frases empáticas. Incluye evaluación clínica, contexto, seguimiento, responsabilidad profesional y capacidad para reconocer situaciones de riesgo. Un sistema puede imitar un tono comprensivo sin entender la experiencia de la persona que tiene delante ni asumir las consecuencias de un consejo inadecuado.
La posibilidad de recurrir a una herramienta conversacional puede resultar atractiva por su disponibilidad y bajo coste, especialmente para quienes encuentran barreras para acceder a atención profesional. Pero esa accesibilidad no debería confundirse con una sustitución de la relación terapéutica. La tecnología puede desempeñar funciones de apoyo, información o acompañamiento limitado, siempre que existan límites claros y que el usuario sepa qué puede esperar del servicio.
También aparecen preguntas sobre privacidad. Las conversaciones relacionadas con ansiedad, depresión, duelo o conflictos personales contienen información especialmente sensible. La forma en que se almacenan, procesan y protegen esos datos debería ocupar un lugar central en cualquier evaluación del uso de IA en este campo. No basta con que una interfaz parezca segura: las personas necesitan conocer las condiciones del servicio y las vías disponibles si la respuesta del sistema resulta insuficiente o perjudicial.
El riesgo más difícil de medir es la dependencia. Una interacción frecuente con un asistente puede ofrecer sensación de compañía, pero también desplazar conversaciones con familiares, amistades o profesionales. La cuestión editorial y tecnológica no consiste en demonizar toda herramienta de apoyo, sino en impedir que la conveniencia termine presentándose como cuidado integral. En salud mental, la apariencia de empatía no puede ser el criterio principal para decidir si un sistema es adecuado.
Exámenes, detección y una nueva carrera tecnológica
La adopción de medidas para detectar el uso de inteligencia artificial y dispositivos móviles durante las pruebas de acceso a la universidad en Andalucía, según Europa Press y COPE, refleja otra tensión: la misma tecnología que puede ayudar a estudiar también puede utilizarse para alterar las condiciones de una evaluación. Las instituciones buscan proteger la igualdad entre candidatos, pero la respuesta plantea sus propios desafíos.
Los controles pueden reforzar la integridad de los exámenes, aunque también generar un entorno de sospecha permanente. Cada mecanismo de detección puede impulsar nuevas formas de elusión, creando una carrera entre sistemas de vigilancia y herramientas diseñadas para ocultar el uso de IA. Si esa dinámica se extiende, la evaluación podría dedicar más recursos a demostrar que no hubo asistencia externa que a medir realmente los conocimientos y las capacidades del estudiante.
La respuesta no pasa solo por endurecer la supervisión. También exige revisar qué tareas se evalúan, cómo se diseñan las pruebas y qué competencias se espera que desarrollen los alumnos. Prohibir una herramienta en un examen concreto puede ser razonable, pero no resuelve por sí mismo la necesidad de formar a los estudiantes para utilizarla de manera transparente y responsable fuera de ese contexto.
La integridad académica depende de reglas comprensibles, procedimientos proporcionales y posibilidades de revisión cuando una detección sea discutible. Un sistema que castiga automáticamente una sospecha puede producir injusticias tan serias como el fraude que intenta evitar. La tecnología debe ayudar a garantizar condiciones equitativas, no reemplazar el criterio de quienes diseñan y supervisan la evaluación.
Segovia apuesta por una inteligencia artificial responsable
Frente a los enfoques centrados exclusivamente en prohibir o detectar, la Diputación de Segovia aparece en el material consultado como un ejemplo de adopción institucional de una inteligencia artificial responsable. Su estrategia incluye formación para la plantilla y busca que el despliegue de estas herramientas se apoye en principios de ética y transparencia.
La formación interna resulta especialmente relevante en la administración pública. No basta con adquirir una plataforma si quienes deben utilizarla desconocen sus limitaciones, no pueden explicar sus decisiones o ignoran qué información no debería introducirse en un sistema externo. La responsabilidad comienza antes de poner una herramienta en funcionamiento: exige identificar el propósito, evaluar los riesgos y definir quién supervisará los resultados.
Este enfoque puede servir para ordenar un debate que a menudo oscila entre la fascinación y el rechazo. Una política responsable no implica frenar toda innovación, sino establecer condiciones para que la eficiencia no se obtenga a costa de la privacidad, la igualdad o la rendición de cuentas. También obliga a aceptar que algunas aplicaciones no son adecuadas para determinados servicios, aunque resulten técnicamente posibles.
Las señales que llegan desde los mercados, la salud mental, la educación y las administraciones apuntan en una misma dirección: la IA necesita criterios de uso tan desarrollados como sus capacidades técnicas. La financiación deberá distinguir expectativas de resultados; los servicios emocionales tendrán que definir sus límites; los centros educativos necesitarán combinar evaluación y alfabetización digital, y las instituciones públicas deberán documentar sus decisiones. El debate tecnológico gana rigor cuando deja de preguntar solo qué promete la IA y empieza a examinar a quién beneficia, quién asume sus errores y qué controles acompañan cada despliegue.
Sigue toda nuestra cobertura en IA General.
