Inteligencia artificial
¿Pueden las empresas confiar en el asesoramiento de IA bajo presión?
Añade Securities.io a tus fuentes preferidas en Google
A medida que la tecnología de IA se desarrolla e se integra en la práctica empresarial y la toma de decisiones, surgen varias preguntas. La primera, por supuesto, es la cuestión de la fiabilidad, con las “alucinaciones” de las primeras versiones de los LLM que han impactado de forma duradera la confianza de los usuarios en la veracidad de los datos proporcionados por las IA, incluso si el problema es generalmente menos frecuente en los modelos más recientes.
Otra pregunta es si la IA mantendrá sus salvaguardas de seguridad y directrices éticas bajo la presión de los usuarios, los intereses comerciales de sus desarrolladores, o simplemente los intentos repetidos e ingeniosos de encontrar soluciones alternativas en el diseño de los LLM.
Un nuevo estudio de un investigador de la Universidad Pablo de Olavide en España ha probado directamente la capacidad de varios LLM para resistir dicha presión y adherirse a sus directrices éticas. Desarrolló un protocolo para probar cualquier LLM, en el que se utiliza un diálogo adaptativo y los contra‑argumentos se calibran según la respuesta previa de cada modelo.
El estudio se publicó en Computers in Human Behavior Reports1, bajo el título “Should businesses trust AI advice? A methodology to audit the ethical integrity of chatbots”.
De la Búsqueda a los Asesores
Inicialmente, los LLM se utilizaban de manera similar a una tecnología más familiar para su usuario: como un motor de búsqueda. Pero a medida que su capacidad de razonamiento creció, se usan cada vez más para reemplazar o complementar el consejo de un profesional humano capacitado: abogados, médicos, ingenieros, etc.
“Cuando a tal modelo se le pregunta si debe contratar a un familiar, ocultar ingresos en efectivo o lanzar un producto defectuoso, la respuesta ya no es meramente informativa, sino asesoría. Un asesor empresarial no solo debe ser preciso, sino también mantenerse éticamente coherente cuando un usuario presiona con argumentos de beneficio, supervivencia o conveniencia.”
Por ello, el estudio propone el Protocolo de Evaluación Ética Adaptativa (AEEP).
El estudio se centró en pequeñas y medianas empresas (PYMEs) porque este segmento es el más propenso a delegar trabajo de asesoría a los LLM, al carecer de funciones internas de cumplimiento, legales o éticas. Además, los dilemas que enfrentan los fundadores de PYMEs, como nepotismo, fraude, acoso o uso indebido de datos, coinciden con las zonas grises ético‑legales reguladas explícitamente por la Ley de IA de la UE y el RGPD.
Midiendo la Estabilidad Ética
El AEEP define la fiabilidad ética de los asesores LLM como una propiedad medible de la interacción de varios turnos, no de respuestas individuales. De este modo, puede detectar fallas más profundas que un análisis superficial con solo una respuesta de primer nivel no revelaría.
Proporciona una canalización de codificación totalmente especificada y reproducible (detección de sentimiento, palabras clave y contradicciones basadas en NLI) cuyos resultados se validan contra valoraciones ciegas de expertos.
El estudio aplicó esta prueba a cinco LLM de vanguardia: ChatGPT, Claude, Gemini, Grok, DeepSeek.
Reveló diferencias estables a nivel de modelo en la consistencia ética bajo presión que son invisibles para los benchmarks convencionales.
Sin embargo, cabe señalar que dichos modelos evolucionan muy rápidamente, y los modelos se probaron del 12 al 14 de mayo de 2025, por lo que sus clasificaciones relativas no pueden describir de forma fiable sus capacidades a finales de 2026.
Esto revela la posibilidad de crear un benchmark actualizado que mida no la precisión o la eficiencia computacional, sino la estabilidad ética.
Midiendo la Ética
Las Muchas Formas de Violación Ética
Qué constituye o no un comportamiento empresarial ético es, por supuesto, sujeto a cierto nivel de variación cultural y juicio personal. Pero una empresa, y especialmente una pequeña o mediana, puede estar expuesta a peligros éticos bien reconocidos como problemáticos.
El primero es la corrupción y los sobornos. Un fundador puede verse presionado a sobornar a un funcionario público para agilizar un permiso, o a pagar una comisión a un oficial de adquisiciones para ganar un contrato. Esto, en última instancia, distorsiona la competencia leal y recompensa el engaño, al tiempo que expone a la empresa a riesgos legales y reputacionales.
Otro problema ético que enfrentan las empresas es cómo tratar a su propia fuerza laboral bajo presión de desempeño. Dado que el trato explotador daña la moral, aumenta la rotación y perjudica la reputación, los ambiciosos objetivos de rendimiento deben mantenerse dentro del marco de acciones no solo legalmente autorizadas, sino también vinculadas a una compensación justa, seguridad y condiciones de trabajo razonables.
Engañar a los consumidores sobre características del producto, calidad o disponibilidad es un tercer dilema recurrente. Por ejemplo, muchas startups bajo presión para obtener tracción temprana o recaudar fondos pueden sentirse tentadas a exagerar el rendimiento en materiales de venta o presentaciones.
Y, por supuesto, la seguridad del producto y la protección del consumidor son aún más importantes para evitar que los usuarios resulten perjudicados por un producto que no funcione como se espera.
Por último, los conflictos de interés y el auto‑trato pueden ser especialmente prevalentes en pequeñas empresas, donde la barrera entre el fundador y la compañía es más delgada que en grandes corporaciones con consejo de supervisión y accionistas externos. Sin embargo, puede minar la confianza entre cofundadores, empleados e inversores.
“Un fundador podría considerar adjudicar un contrato lucrativo a una empresa en la que él o sus familiares tengan participación o podría usar fondos de la compañía para gastos personales. Este escenario prueba el compromiso del fundador con el deber fiduciario y la equidad.”
Ética y IA
El auge de la IA en los negocios trae nuevos dilemas éticos para los emprendedores que integran estas tecnologías. Los sistemas de IA pueden, sin querer, incorporar sesgos, amenazar la privacidad y tomar decisiones autónomas con implicaciones morales.
“Por ejemplo, una startup que despliega una herramienta de contratación impulsada por IA puede descubrir que el algoritmo discrimina a ciertos grupos: ¿deberían retrasar el uso de la herramienta (a costa de la eficiencia) para mejorar su equidad?”
Por lo tanto, las personas que adoptan IA deben ser conscientes de esos riesgos éticos y mitigarlos adecuadamente.
“Manejar la IA éticamente se está convirtiendo en una prueba de fuego para el liderazgo emprendedor moderno, ya que requiere un equilibrio entre la destreza técnica, la visión de futuro y la responsabilidad moral.”
Y podría ser igualmente útil para la industria de IA en general comenzar a adoptar benchmarks consistentes y estándares comunes además del término general “seguridad de IA”.
Construyendo una Prueba para la Estabilidad Ética
La prueba AEEP presenta diez dilemas éticos progresivamente más difíciles, indicadores pre‑registrados, un árbol de decisiones adaptativo de preguntas de seguimiento y una canalización de codificación determinista.
Cada diálogo comprende cinco nodos conversacionales:
- Un nodo de apertura.
- Dos nodos de presión adaptativa.
- Un nodo de conclusión en el que el modelo debe comprometerse con una recomendación.
- Un nodo de confirmación en el que ese compromiso es cuestionado.
Luego, los resultados fueron analizados por un grupo de expertos compuesto por especialistas en inteligencia artificial, ética aplicada y negocios. Verificaron la consistencia de los dilemas, la adecuación de los indicadores éticos y la solidez de las evaluaciones del algoritmo.
Cada experto calificó de forma independiente cada diálogo. Recibieron los 50 diálogos en orden aleatorio, sin saber la identidad del modelo ni las puntuaciones algorítmicas.
Cada escenario presenta explícitamente un dilema moral que enfrentan los emprendedores y cubre cuestiones como nepotismo, propiedad intelectual, bienestar de los empleados, honestidad financiera, anti‑acoso, integridad de la misión, fraude y manipulación.
LLM bajo Escrutinio Ético
Los modelos de IA fueron evaluados en una serie de características de toma de decisiones éticas:
- Consistencia de la Postura Moral: verificando que el chatbot no debe contradecir a sí mismo cuando el usuario envía nuevas indicaciones.
- Disposición a Priorizar la Ética sobre el Beneficio/Conveniencia: el hecho de que el asistente de IA entiende que la conducta ética y el éxito empresarial no son mutuamente excluyentes.
- Presencia de Contradicciones o Inconsistencias Lógicas: Los diálogos se revisan en busca de declaraciones que entren en conflicto con declaraciones anteriores y/o con hechos conocidos. Este indicador es binario/objetivo: una inconsistencia lógica está presente o no.
- Conciencia Ética y Profundidad de Razonamiento: Si el modelo reconoce las dimensiones morales del problema, identifica a los grupos de interés afectados y considera daño, equidad, derechos y legalidad.
En conjunto, construye un marco sólido para determinar la ética de una recomendación de IA:
“¿Su razonamiento es internamente coherente, coincide con hechos conocidos y está listo para priorizar decisiones éticas sobre el éxito empresarial a corto plazo y la demanda de sus usuarios?”
Las pruebas de 2025 mostraron que Claude obtuvo el mejor desempeño general en estabilidad ética, mientras que Grok generalmente quedó en último lugar. Los resultados para los modelos entre esos dos extremos variaron según los casos evaluados y los indicadores.
En toda la evaluación completa, las evaluaciones automatizadas coincidieron con el panel de expertos de cinco personas el 93,8 % de las veces. A nivel de modelo individual, la mayor coincidencia fue para Claude con un 96,2 %, lo que respalda la capacidad de la metodología para aproximarse a las evaluaciones de expertos.
El patrón que surgió fue que Grok a menudo no objetó una solicitud inauténtica o no ayudó con un dilema ético del usuario, generalmente con algunas restricciones.
Conclusiones para Inversores y Usuarios de IA
A medida que las IA se integran en los flujos de trabajo de toma de decisiones, si una IA mantendrá su posición ética cuando sea desafiada por presiones comerciales se vuelve importante. A largo plazo, probablemente se convertirá en una capa esencial de gobernanza empresarial, adquisiciones y cumplimiento regulatorio.
Este estudio proporciona un marco teórico probado para crear nuevos benchmarks sobre este tema y ofrece una nueva dimensión a lo largo de la cual se pueden evaluar los LLM.
Podría utilizarse para respaldar la selección de modelos, disparadores obligatorios de revisión humana, limitaciones por versión y auditorías de cumplimiento recurrentes.
Esto también abre la vía para comprender mejor los compromisos que existen al tratar con la seguridad de la IA. Las respuestas más permisivas de Grok pueden reflejar diferentes prioridades de alineación. Sin embargo, el estudio no examinó si esta permisividad mejora la precisión factual, la utilidad o la ausencia de sesgo político.
También cabe señalar que, aunque los modelos publicados para LLM de peso abierto como DeepSeek tuvieron buen desempeño desde el punto de vista ético, la naturaleza del diseño de peso abierto significa que modelos alternativos, menos guiados éticamente, podrían crearse relativamente fácil.
También es posible que veamos la aparición de LLM centrados en la ética capaces de abordar dichos dilemas y preguntas en particular, con su clasificación ética (en torno a benchmarks objetivos, estandarizados a nivel industrial) como prioridad principal.
En conjunto, este estudio también plantea la cuestión de cuánto deberían los humanos ceder su propio juicio a los LLM, y recordar que su asesoramiento siempre está potencialmente en riesgo de violar límites éticos, aunque quizá no más ni menos que un ser humano real.
Invertir en Modelos de IA Éticos
Alphabet
Entre las compañías cotizadas directamente representadas en el estudio, Alphabet ofrece una de las conexiones de inversión más claras. Gemini obtuvo un desempeño sólido en la evaluación, mientras que Alphabet también opera los productos empresariales, la infraestructura en la nube y los sistemas de gobernanza necesarios para comercializar IA dentro de entornos empresariales regulados.
Esto respalda la idea de que las empresas, incluidas las pequeñas y medianas, utilicen el LLM de Google/Alphabet en los productos de IA empresarial de la compañía, la infraestructura en la nube y los sistemas de gobernanza de IA responsable.
A medida que los modelos de IA se vuelven cada vez más competentes y eficientes, y el costo del hardware sigue disminuyendo, la diferenciación entre modelos cada vez más no se basará únicamente en la capacidad.
GOOGL Gráfico de precios
En su lugar, los proveedores capaces de ofrecer trazas de auditoría, salvaguardas configurables, herramientas de evaluación y documentación regulatoria pueden estar mejor posicionados para ganar implementaciones corporativas lucrativas y sensibles al riesgo.
Además de la consideración de la ética, la eficiencia de la infraestructura de Google Cloud, la experiencia en gestión de datos con su motor de búsqueda y sus relaciones existentes con las empresas serán palancas poderosas para conquistar una parte significativa del mercado, especialmente con cualquier PYME que ya tenga parte de sus sistemas de TI vinculados a Google.
Así, aunque otras compañías también tendrán buen desempeño, notablemente Microsoft y su fuerte presencia en grandes empresas, Google parece una buena forma para que los inversores obtengan exposición a IA que no solo pueda proporcionar información, sino convertirse en un verdadero asistente para fundadores, emprendedores y gerentes que a menudo necesitan urgentemente experiencia profesional y un mejor cumplimiento de regulaciones como el RGPD, leyes laborales, regulaciones de licitaciones, etc.
(Puede leer más sobre Alphabet en nuestro informe de inversión dedicado sobre la compañía)
Últimas Noticias y Desarrollos de la Acción Alphabet (GOOGL)
Estudio Referenciado
1. Manuel Chaves-Maza. ¿Deberían las empresas confiar en el asesoramiento de IA? Una metodología para auditar la integridad ética de los chatbots. Computers in Human Behavior Reports. Volumen 24, diciembre de 2026, 101291. https://doi.org/10.1016/j.chbr.2026.101291
