Un tropiezo en Australia que dinamitó la confianza en la IA
Hace dos meses un episodio en Australia encendió las alarmas sobre los riesgos de aplicar inteligencia artificial (IA) generativa sin la debida supervisión humana. Deloitte Australia había sido contratada en diciembre de 2024 por el Departamento de Empleo y Relaciones Laborales (DEWR) para evaluar un sistema automatizado de control de ayudas sociales. Era un encargo sensible, realizado tras el escándalo “robodebt” (cobros indebidos a beneficiarios sociales) que había alertado al país, lo que aumentaba la importancia del informe resultante. El producto final fue un informe de 237 páginas entregado en julio de 2025, que inicialmente no revelaba en absoluto el uso de IA en su elaboración.
El informe parecía completo y técnico, hasta que a finales de agosto de 2025 un investigador jurídico de la Universidad de Sídney, el Dr. Chris Rudge, descubrió algo inquietante al leerlo. Una de las notas al pie citaba a su colega, la profesora Lisa Burton Crawford, atribuyéndole un libro inexistente sobre derecho constitucional –una obra que simplemente no podía existir en su campo de especialización. Según Rudge, instantáneamente supe que había sido alucinado por IA o era el secreto mejor guardado del mundo, porque nunca había oído hablar del libro y sonaba absurdo. Esta anomalía inicial llevó a un análisis más profundo del documento, destapando aproximadamente 20 errores fabricados en total. Entre ellos se encontraban referencias académicas falsas (libros y artículos inventados atribuidos a expertos reales) y citas legales erróneas, como un caso judicial citado con referencias que no correspondían y una cita falsa atribuida a una jueza federal (mal escrito el nombre y con palabras que jamás pronunció). Aún más preocupante, el informe trataba ese caso (Amato vs Commonwealth) como si hubiese habido un juicio firme, cuando en realidad terminó en un acuerdo por consentimiento –un error que denotaba incomprensión jurídica básica por parte de los autores del documento.
Consciente de la gravedad, Rudge decidió alertar a la prensa. Es una cosa citar incorrectamente a académicos o imputar obras inexistentes, pero es otra muy distinta citar incorrectamente –y por lo tanto tergiversar– la ley en un informe al gobierno, explicó, subrayando que malinformar al Ejecutivo sobre jurisprudencia era un asunto muy serio. Sus hallazgos fueron publicados por el Australian Financial Review a finales de agosto, desatando preguntas incómodas sobre cómo uno de los “Big Four” de la consultoría pudo entregar un informe con errores que un estudiante de primer año sabría evitar.
Correcciones apresuradas, reembolso parcial y lecciones dolorosas
La respuesta de Deloitte no se hizo esperar, aunque intentó pasar bajo el radar. El 26 de septiembre de 2025, la firma reemplazó discretamente el informe original en el sitio web oficial con una versión revisada. En esta actualización eliminaron más de una docena de referencias ficticias y corrigieron las citas judiciales falsas atribuidas al juez federal. También suprimieron menciones a libros inexistentes y, por primera vez, incluyeron una nota aclaratoria indicando que en la elaboración del documento se había utilizado una cadena de herramientas basada en Azure OpenAI (GPT-4o). Esta confesión de que la IA formó parte del proceso dejó en evidencia la falta de transparencia inicial. En la nueva introducción, Deloitte aseguró que las actualizaciones realizadas no impactan ni afectan de ninguna manera el contenido sustantivo, los hallazgos y las recomendaciones del informe, reconociendo que usaron GPT-4 durante el borrador inicial pero alegando que una posterior “revisión humana refinó el contenido”. La firma sostuvo así que las conclusiones seguían plenamente vigentes.
Sin embargo, la manera en que Deloitte corrigió el informe levantó nuevas dudas sobre el rigor del proceso. Cuando periodistas pidieron ejemplos de las referencias enmendadas, se descubrió que las nuevas fuentes tampoco respaldaban las afirmaciones originales, lo que sugiere que la firma intentó subsanar los errores volviendo a preguntar a la IA por referencias “reales” para las mismas afirmaciones. En otras palabras, la trazabilidad seguía siendo escasa: las afirmaciones del informe no estaban ancladas en evidencia, sino en construcciones hechas por la máquina sin una base documental sólida.
El incidente generó un daño financiero y reputacional en octubre de 2025. Para contenerlo, Deloitte Australia acordó con el gobierno un reembolso parcial del contrato. Inicialmente se planteó devolver el pago final pendiente, y el 20 de octubre se confirmó el monto exacto: 97.000 dólares australianos (unos 63.000 USD), aproximadamente el 22% del total contratado. Aunque Deloitte siguió afirmando que la sustancia de la revisión se mantiene y que no hubo cambios en las recomendaciones, el gesto del reembolso implicó una admisión tácita de responsabilidad. Desde el lado gubernamental, se declaró que “algunas notas al pie y referencias eran incorrectas” en el informe, pero que el contenido principal seguía siendo válido –una forma diplomática de reconocer los errores sin inflamar el asunto. Aun así, el episodio motivó al DEWR a anunciar que futuros contratos de consultoría incluirán cláusulas más estrictas sobre el uso de IA, para prevenir situaciones semejantes. En el ámbito político, la senadora Barbara Pocock, del Partido Verde, exigió que Deloitte reembolsara el 100% de los 440.000 AUD, lamentando que la firma hubiera usado mal la IA: citó mal a un juez, utilizó referencias inexistentes. El tipo de cosas por las que un estudiante universitario de primer año estaría en serios problemas. Las voces críticas comparando a una consultora de élite con un alumno novato reflejaban el golpe reputacional. También académicos afectados, como la profesora Burton Crawford, se mostraron preocupados de ver investigación atribuida falsamente a sus nombres.
La paradoja final llegó pocas semanas después: el mes en que Deloitte hacía frente a este tropiezo con la IA, anunció a bombo y platillo el despliegue masivo de otra herramienta de IA (Claude, de Anthropic) para sus 500.000 empleados a nivel global. Esta contradicción –reconocer fallos graves y simultáneamente redoblar la apuesta por la IA– capturó perfectamente el momento que vivimos. La adopción empresarial de la inteligencia artificial avanza a un ritmo vertiginoso, a veces más rápido de lo que se implementan las salvaguardas adecuadas, impulsada por la presión competitiva y el temor a quedarse atrás. El caso Deloitte, lejos de ser un escándalo aislado para regodeo público, debe entenderse como una señal de alerta temprana sobre los riesgos sistémicos de usar IA sin los debidos controles. Un error de cientos de miles de dólares –y el daño reputacional asociado– pudo haberse evitado por completo con el enfoque y las herramientas correctas. A continuación, extraemos las lecciones estratégicas de este incidente y exploramos soluciones concretas para que la historia no se repita.
El riesgo sistémico de adoptar IA sin garantías
Lo ocurrido en Australia ha resonado globalmente porque expone un riesgo latente: la adopción de IA generativa sin las debidas salvaguardas no es solo un problema de una consultora, sino un peligro sistémico. Cada vez es más evidente que, en sectores como la consultoría estratégica, la elaboración de políticas públicas o cualquier ámbito regulado, apoyarse en modelos de IA sin control humano robusto puede derivar en errores catastróficos y decisiones mal informadas.
¿Por qué se produjo exactamente el “tropiezo” de Deloitte? Las causas son tanto tecnológicas como organizacionales. En el plano técnico, el informe defectuoso ilustra el fenómeno de las alucinaciones de la IA: los modelos de lenguaje actuales, por muy avanzados que sean, a veces generan contenido que suena plausible pero es completamente inventado. Esto ocurre porque un modelo generativo grande (LLM) no es una máquina de la verdad, sino de calcular probabilidades; predice palabras basándose en patrones estadísticos de su entrenamiento, no en un entendimiento comprobado de la realidad. Puede escribir frases muy convincentes –incluso citas y referencias con formato académico impecable–, pero no tiene conciencia de la veracidad de esos contenidos. Como explican los expertos, estos sistemas pueden crear contenido que suena plausible sin fuentes reales o base factual. Y, salvo que se les complemente con mecanismos específicos, no verifican si las fuentes mencionadas realmente existen. De hecho, cuanto más han leído textos académicos reales, más capaces son de imitar su estilo y fabricar citas creíbles, lo que es una peligrosa espada de doble filo. En el informe de Deloitte, la IA simplemente generó referencias en el formato esperado porque aprendió de miles de informes auténticos, sin distinguir entre lo real y lo ficticio.
En el plano organizativo, el caso refleja falencias en los procesos de control de calidad y en la cultura de adopción de la IA. Las grandes firmas consultoras se mueven en un mercado muy competitivo, con presión por entregar más rápido y a menor coste. Es comprensible entonces la tentación de recurrir a herramientas como ChatGPT o similares para acelerar la redacción de informes extensos. Deloitte, al involucrar a GPT-4 en la fase de borrador, buscaba probablemente esas eficiencias. El problema es que, por centrarse en la velocidad y la conveniencia, pasó por alto los controles necesarios para garantizar la precisión. Los errores tan básicos detectados –como atribuir a un juez frases que nunca dijo– indican que la revisión humana fue insuficiente o poco senior. Incluso tras la corrección, quedó en evidencia la falta de trazabilidad: ni los propios consultores podían respaldar ciertas afirmaciones con fuentes reales, porque en origen no las había. Además, la firma omitió comunicar el uso de la IA al cliente inicialmente, una decisión que privó al DEWR de la oportunidad de exigir garantías adicionales o analizar con más cuidado el resultado desde el principio. Esta falta de comunicación incumplía las buenas prácticas y minó la confianza cuando todo salió a la luz.
El riesgo sistémico, por tanto, es que un número creciente de organizaciones incorpore IA generativa en tareas críticas sin adaptar sus procesos internos. Si una empresa del calibre de Deloitte cayó en este error, otras pueden estar haciéndolo también. De hecho, ya hemos visto casos análogos en distintos ámbitos: en mayo de 2023, dos abogados en Nueva York fueron sancionados judicialmente tras presentar un escrito legal plagado de citas de casos inexistentes creadas por ChatGPT. En el sector financiero, se recuerda este incidente de Deloitte como un wake-up call que subraya que la IA no es un revelador de verdades; es una herramienta diseñada para dar respuestas que se ajusten a tus preguntas. En otras palabras, la máquina te dará alguna respuesta –coherente en la forma– a cualquier pregunta, pero no garantiza que sea correcta en el fondo. Si los profesionales olvidan esto y depositan una confianza ciega en la supuesta inteligencia de la IA, las consecuencias pueden ser serias. La constante narrativa de lo “inteligente” que es la IA puede llevarnos a confiar excesivamente en ella, incluso de forma inconsciente, y a depender más de lo debido.
Los sectores público y regulado enfrentan un riesgo añadido: la erosión de la confianza. En el caso australiano, el informe con errores afectaba a un sistema de bienestar social automatizado, de por sí ya delicado tras el escándalo previo. Un informe con citas legales inventadas podía haber inducido a políticas públicas mal calibradas o a mantener defectos en un sistema que penaliza a ciudadanos vulnerables. Fallos de este tipo pueden desinformar decisiones que impactan en millones de personas y minar la confianza pública en los sistemas automatizados de gobierno. Cuando la ciudadanía se entera de que un informe gubernamental tiene errores “de principiante” generados por IA, el daño trasciende a la consultora: se siembra duda sobre la calidad del proceso de formulación de políticas en general y sobre la fiabilidad de la tecnología utilizada por las instituciones.
Afortunadamente, este episodio también está generando un debate interesante y medidas correctivas. El gobierno australiano, como vimos, anunció cláusulas contractuales específicas para futuros trabajos de consultoría que involucren IA. Y a nivel internacional, ya se delinean buenas prácticas para evitar que se repita otro Deloitte-gate. Diversos expertos y organismos proponen, entre otras, las siguientes medidas concretas:
- Cláusulas estrictas sobre uso de IA en contratos: los clientes deben estipular claramente cuándo y cómo se puede usar IA en un encargo, exigiendo total transparencia y certificaciones de revisión humana antes de la entrega.
- Auditoría y trazabilidad de las fuentes: cada afirmación en un informe debe poder rastrearse hasta su origen, con fuentes verificables por personas calificadas. Esto implica conservar registros de los prompts y salidas de la IA para auditoría.
- Marcos regulatorios transversales: se anticipa que los gobiernos y colegios profesionales establecerán directrices sobre el uso de IA en servicios profesionales (consultoría, auditoría, jurídico, etc.), para homogeneizar estándares de calidad y responsabilidad a nivel internacional.
- Capacitación en IA para el personal: los equipos humanos deben formarse en alfabetización de IA, siendo capaces de detectar alucinaciones o referencias inverosímiles y de entender las limitaciones del modelo. La IA no puede quedar en manos de usuarios sin entrenar.
- Gestión de riesgos éticos: en informes de alto riesgo (política pública, bienestar social, regulatorio, legal), se deben aplicar salvaguardas adicionales cuando participa la IA, como inspecciones independientes, doble verificación experta o pruebas piloto antes de implementarse conclusiones.
Poner en marcha estas medidas exige cambios importantes en la forma de trabajar, pero son cada vez más necesarias. En esencia, todas apuntan a una idea central: mantener al ser humano “en el bucle”, controlando y validando aquello que la IA propone. No se trata de frenar la innovación, sino de integrarla responsablemente. Y justamente ahí es donde cobra relevancia un enfoque que en Proportione hemos venido desarrollando en proyectos con clientes y que también aplicamos en entornos formativos: el modelo 20–60–20 de colaboración Humano–IA–Humano. Veamos en qué consiste y por qué puede ser la clave para aprovechar la IA sin comprometer la calidad ni la ética.
El modelo 20–60–20: colaboración Humano–IA–Humano con rigor y trazabilidad
En Proportione concebimos el modelo “20–60–20” como una respuesta a los desafíos que hemos mostrado. Este modelo, formulado por Javier Cuervo, divide cualquier tarea intelectual asistida por IA en tres fases con porcentajes orientativos de contribución:
- 20% inicial de contextualización y diseño humano: Al inicio, la persona define el problema, el contexto, los objetivos y los criterios de calidad que se espera. Es una fase de encuadre crítico: se recopilan datos fiables, se seleccionan fuentes de referencia pertinentes y se redactan instrucciones claras para la IA. En términos sencillos, aquí el humano marca el rumbo y establece los límites.
- 60% de generación asistida por IA: A continuación, la IA genera borradores, análisis o contenidos a partir de las indicaciones dadas. Es la fase de aceleración productiva. La máquina propone texto, identifica patrones o incluso sugiere referencias, siempre siguiendo las pautas humanas iniciales. La contribución de la IA puede ser muy valiosa para ganar velocidad y explorar enfoques, pero es fundamental asumir que lo producido en este tramo es un borrador susceptible de errores.
- 20% final de validación y revisión humana: Finalmente, la persona realizan una hace una crítica exhaustiva de todo el output de la IA. Este es el filtro de calidad indispensable: se verifica cada dato, se comprueban todas las citas y referencias, se corrige el tono y la coherencia, y se confronta el resultado con la realidad y con los objetivos iniciales. Esta fase puede implicar consultar fuentes originales, ajustar matices que la IA no capta (p.ej., consideraciones legales o culturales) y asegurar que el producto final cumpla los estándares éticos y de rigor esperados. Solo cuando la revisión humana da su visto bueno, el trabajo se considera terminado.
Este enfoque 20–60–20 equilibra la potencia de la IA con el criterio humano, de una forma estructurada. En la práctica, significa que el trabajo siempre empieza y siempre termina con intervención humana, quedando la IA encajada en medio como una herramienta de apoyo, no como un agente autónomo. Ya lo hemos aplicado en distintos contextos. Por ejemplo, en un proyecto de formación empresarial reciente combinamos role-play de crisis corporativas con el modelo 20–60–20 (20% contextualización creativa, 60% generación con ChatGPT y 20% validación humana), logrando que los participantes mejoraran significativamente la coherencia de sus análisis sin reducir la exigencia crítica. La esencia de la metodología es transformar la IA de ser un oráculo opaco a convertirla en un copiloto intelectual bajo supervisión humana. Esto promueve habilidades de prompt engineering, de juicio ético y de análisis estratégico, porque obliga al usuario a interactuar activamente con la herramienta, formulando buenas instrucciones y luego auditando los resultados.
Usar en consultoría, el modelo 20–60–20 aporta rigurosidad y trazabilidad precisamente donde la IA por sí sola flaquea. Durante el 20% inicial, el equipo humano puede prevenir muchas alucinaciones al proporcionar contexto y fuentes concretas a la IA (por ejemplo, cargando documentos de referencia verificada o acotando las consultas a ámbitos bien delimitados). En el 60% central, la productividad se dispara: la IA permite generar rápidamente secciones de texto, resúmenes o cuadros comparativos, liberando a los consultores de trabajo mecánico y permitiéndoles iterar múltiples ideas en poco tiempo. Estudios recientes indican que la IA generativa bien utilizada puede aumentar la productividad del trabajo de conocimiento en torno a un 14% de media, con mejoras especialmente notables en profesionales menos experimentados. Ese empuje a la eficiencia es real –Deloitte lo buscaba, sin duda–, pero sólo se materializa de forma segura si va acompañado de disciplina en la verificación de resultados. Ahí entra el último 20%.
La fase crítica final garantiza que nada generado por la IA llegue al cliente sin haber pasado antes por el tamiz de la inteligencia humana. Cada cifra, cada cita bibliográfica o legal será contrastada con fuentes fidedignas; cualquier afirmación deberá sustentarse o matizarse según corresponda. Este es un antídoto directo contra la falta de trazabilidad y las referencias inventadas: si la IA sugirió un dato sin fuente, el consultor lo detectará y lo reemplazará con un dato comprobado o directamente lo eliminará. En este modelo, ninguna frase dudosa sobrevive a la revisión final. La trazabilidad queda asegurada porque el entregable final viene acompañado por un rastro de fuentes reales que el propio equipo humano ha validado. Asimismo, se enfatiza la documentación del proceso: guardar los prompts utilizados, las versiones intermedias y las decisiones de edición humana, de modo que ante cualquier pregunta del cliente o auditoría futura, se pueda demostrar qué hizo la IA y qué corrigió el humano –exactamente el tipo de registro que faltó en el caso Deloitte.
El 20–60–20 fomenta una cultura de colaboración sano entre humano e IA. No se trata de rivalidad ni sustitución, sino de sumar capacidades. Como resultado, el profesional desarrolla una nueva competencia: sabe hasta dónde confiar en la máquina y dónde iniciar la duda razonable. En nuestros proyectos hemos visto consultores jóvenes que, siguiendo este modelo, aprenden rápidamente a no copiar-pegar respuestas del chatbot, sino a usarlas como base que luego enriquecen o corrigen con criterio. La IA deja de ser una caja negra todopoderosa y se convierte en un asistente estructurado, siempre bajo el control del experto humano.
El criterio senior: el 20% final que la IA no puede reemplazar
Un aspecto fundamental del modelo 20–60–20 –y, diríamos, de cualquier estrategia sensata de adopción de IA– es el papel insustituible del criterio humano senior en la última etapa del proceso. La experiencia del caso Deloitte es evidente: si en la fase final de revisión hubiera intervenido con suficiente rigor un profesional con profundo dominio en la materia (por ejemplo, un abogado sénior especializado en derecho administrativo y constitucional), es muy posible que errores tan flagrantes no hubieran pasado desapercibidos. Alguien con el olfato y conocimiento acumulado que da la seniority habría cuestionado inmediatamente citas poco habituales o referencias desconocidas, del mismo modo que el Dr. Rudge lo hizo al revisar el informe –con la diferencia de que Rudge llegó cuando el daño ya estaba hecho, no antes.
La última milla no la puede hacer la IA por nosotros. En consultoría de alto nivel, igual que en auditoría, medicina o derecho, el juicio experto sigue siendo la red de seguridad. Por más avanzado que sea el modelo generativo, carece de entendimiento contextual pleno: no conoce la letra pequeña de las leyes, ni las implicaciones políticas de cierta recomendación, ni los valores organizacionales que matizan una estrategia. Un socio-consultor o un director de proyecto experimentado sí tiene ese sentido contextual y ético, y debe aplicarlo a conciencia en el 20% final. Es la diferencia entre un documento simplemente bien redactado y un documento correcto y relevante. En el fondo, la IA generativa equivale a un analista junior o un becario muy diligente: produce mucho y muy rápido, pero requiere supervisión. Tras el incidente australiano, las firmas deben entrenar al personal no solo en el uso efectivo de la IA, sino también en su uso ético y en el mantenimiento del control de calidad, tratando los resultados de la IA como si fueran preparados por un pasante o un nuevo empleado. Lo que salga de ChatGPT debe enfrentarse al criterio del senior igual que el informe borrador de un consultor novel pasa por los ajustes y correcciones del gerente o socio a cargo.
En nuestra experiencia, el aporte de los profesionales senior en la revisión final añade valor en tres dimensiones clave:
- Calidad técnica: Detectan incongruencias, errores conceptuales o omisiones importantes que la IA (o un humano inexperto) no percibiría. En el caso Deloitte, un experto jurídico-senior habría advertido que el caso Amato vs Commonwealth no tenía un veredicto publicable y que citarlo como sustento legal era improcedente. Del mismo modo, un senior en políticas públicas habría cuestionado afirmaciones sin respaldo empírico sólido.
- Ética y reputación: Un directivo con criterio ético y visión corporativa valora no solo qué dice el informe sino cómo lo dice y qué implicaciones tiene. Por ejemplo, podría detectar sesgos en el lenguaje generado por IA, asegurarse de que las recomendaciones no violen principios de equidad, o simplemente decidir No, esto no se lo podemos entregar así al cliente si algo parece dudoso. En última instancia, este filtro protege la relación con el cliente y la reputación de la firma.
- Adaptación contextual: La seniority conlleva entender el entorno del cliente y las circunstancias del proyecto. En la fase final, el experto adecúa el tono, prioriza los hallazgos verdaderamente relevantes para ese cliente y contextualiza las recomendaciones. La IA puede producir texto estándar, pero el humano senior lo convierte en un mensaje estratégico hecho a la medida.
Cabe destacar que la intervención humana senior no es un lujo, es una obligación profesional. Los códigos de buenas prácticas lo dicen así porque la responsabilidad sigue recayendo en el profesional que usa la IA, es decir, delegar en la máquina no exime de culpa si algo sale mal. Los consultores deben apropiarse del trabajo, verificar los resultados y aplicar su juicio en lugar de copiar y pegar lo que produce el sistema. El informe lo firma la firma consultora, no el algoritmo; por tanto, un socio debería poder defender cada párrafo frente al cliente. Si hay errores, son nuestros errores. El objetivo no es evitar los errores de la IA, es asegurarnos de que somos lo suficientemente inteligentes para detectarlos como tomadores de decisiones finales. Ahí es donde la experiencia y el criterio humano demuestran su valor: en reconocer lo que la IA pudo haber hecho mal, y corregirlo antes de que trascienda.
Lejos de volver obsoletos a los profesionales, la irrupción de la IA ha elevado el listón para la seniority. Ahora es cuando más necesitamos líderes con buen juicio, capaces de integrar tecnología puntera en sus equipos sin renunciar al control crítico. La IA puede encargarse de la primera capa de trabajo, pero la capa definitiva de calidad y sentido estratégico sigue siendo terreno humano. Es el mejor momento para los buenaos estrategas.
Transferir conocimiento, no solo tecnología
Otra lección estratégica que deja este caso es que la transferencia de tecnología sin la transferencia paralela de conocimiento es irresponsable e insostenible. Vivimos un boom de herramientas de IA entrando en las organizaciones, pero comprar o implementar la última plataforma no basta: hay que asegurarse de que las personas sepan usarla con criterio. En Deloitte Australia, por ejemplo, se utilizó GPT-4 a través de Azure OpenAI –una tecnología de vanguardia–, pero cabe preguntarse si el equipo consultor estaba debidamente formado para emplearla. ¿Entendían sus limitaciones, sabían cómo verificar sus respuestas, contaban con directrices claras de uso? A juzgar por el resultado (y por la necesidad de parchear el informe pidiendo nuevas referencias a la propia IA), es evidente que faltó capacitación interna en el manejo responsable de la herramienta.
Esta brecha entre tecnología y conocimientos puede producirse tanto dentro de las firmas consultoras como entre consultores y clientes. Si una consultora entrega un trabajo apoyado en IA sin revelarlo, no brinda al cliente la oportunidad de aprender sobre el proceso ni de prepararse para dar continuidad a esa metodología. Del lado contrario, cuando una organización adopta una solución de IA por recomendación de terceros pero no forma a sus empleados en las nuevas dinámicas, está comprando un boleto a futuros problemas. Los clientes deben dominar las herramientas que adoptan, o al menos comprender sus riesgos, de lo contrario dependerán ciegamente del proveedor externo. Es por eso que en cada proyecto de Proportione hacemos hincapié no solo en implementar la solución técnica, sino en acompañarla de trabajos en grupo, manuales de buenas prácticas y periodos de prueba supervisada. Introducir IA en una organización implica gestión del cambio: nuevos flujos de trabajo, nuevas habilidades a desarrollar y una cultura de control de calidad.
En el caso que nos ocupa, a raíz del escándalo, el gobierno australiano actualizó sus contratos para exigir a los consultores no solo aviso previo si usan IA, sino también preservar registros detallados de las interacciones con la IA (prompts y resultados) y asegurar que los datos de la agencia no se expongan indebida o internacionalmente. Son medidas orientadas a que el conocimiento del proceso permanezca accesible para el cliente. Si el DEWR hubiera recibido desde el inicio junto con el informe un anexo con todos los mensajes enviados al modelo y las fuentes sugeridas, sus propios analistas podrían haber detectado incongruencias. Esta transparencia forzada en el uso de la IA es una manera de transferir know-how: el cliente puede auditar y, por ende, aprender dónde encaja (y dónde falla) la IA en la tarea realizada.
Volviendo al ámbito de las firmas profesionales, la consigna debe ser formar antes de automatizar. Esto abarca desde entrenar al personal en fundamentos de IA (qué es un modelo de lenguaje, qué puede y no puede hacer) hasta entrenarlos en habilidades prácticas: cómo redactar buenas indicaciones para la IA, cómo verificar respuestas con fuentes independientes, cómo identificar una posible alucinación, cómo evitar sesgos, etc. Ya hay proyectos para mejorar la alfabetización en datos e IA de sus plantillas, del mismo modo que hace unos años se impulsó la formación en competencias digitales generales. Incorporar IA sin ese refuerzo formativo es irresponsable. Se arriesga no sólo la calidad del producto, sino también la confianza de los empleados en la herramienta. Si los profesionales sienten que la IA es una caja negra que les puede hacer quedar mal, o que la dirección la implementa sin darles guía, surgirán comprensibles resistencias o, peor aún, usos erróneos. En cambio, cuando se realiza una adopción con pedagogía, el personal entiende que la IA es un aliado estratégico bajo su control, y la utiliza de forma más efectiva y ética.
Cada euro invertido en formación y clarificación de procesos de IA rendirá en prevención de errores y mejora de productividad. La tecnología, por brillante que sea, no garantiza resultados si las personas no la saben pilotar. En este sentido, transferir conocimiento (metodologías, criterios, experiencias) es incluso más importante que transferir la última versión del software. El equilibrio óptimo es inseparable: tecnología + conocimiento, o no hay verdadera transformación digital.
Conclusión: en la era de la IA toca poner sentido y responsabilidad
El “caso Deloitte Australia” no es un simple percance local ni un arma arrojadiza contra la consultoría; es, sobre todo, un síntoma y un aprendizaje para todas las organizaciones inmersas en la carrera de la IA. Nos recuerda que incorporar IA generativa en nuestro trabajo conlleva oportunidades enormes, pero también riesgos que hay que gestionar activamente. Podemos –y debemos– extraer de esta historia una conclusión: no basta con desplegar IA, hay que formar criterio para usarla con sentido.
El modelo 20–60–20 de colaboración Humano–IA–Humano de Proportione, es una de las vías concretas para lograr ese equilibrio. Asegura que la creatividad aumentada por la IA no va en detrimento del rigor ni de la ética, sino todo lo contrario: potencia la productividad a la vez que refuerza el control humano en los puntos críticos. En última instancia, métodos así convierten lo que podría ser un salto al vacío tecnológico en un salto controlado y estratégico. La IA se integra, sí, pero sin soltar la mano del timón humano.
Las organizaciones que aspiren a liderar en la era de la IA harían bien en adoptar salvaguardas proactivas. Esto implica establecer protocolos internos claros, invertir en capacitación continua y fomentar una cultura donde la seniority pesa más que nunca. Paradójicamente, cuanto más avanzadas son las herramientas, más valor tiene la experiencia y el juicio humanos para dirigirlas. No se trata de ralentizar la innovación, sino de innovar con cabeza. Porque la cuestión ya no es si utilizaremos IA –eso es un hecho consumado–, sino cómo lo haremos. Y en ese “cómo” es donde se definirá quién logra buenos resultados sin comprometer la confianza.
Cada proyecto, cada informe, cada decisión asistida por IA debe concebirse bajo la premisa de la doble garantía técnica y humana. Revisemos nuestros procesos hoy, añadamos ese 20% de reflexión experta al final y al inicio, y usemos la IA en el 60% intermedio con los ojos bien abiertos. A quienes lideran equipos, den ejemplo combinando curiosidad por la herramienta con seriedad en la supervisión. A quienes c£omienzan a apoyarse en ChatGPT o similares en su trabajo diario, exíjanse aún más en la comprobación de lo producido. La IA puede acelerar nuestro paso, pero el camino lo marca el juicio humano. En la unión de ambas está el futuro de una consultoría – y en general de una gestión profesional – eficiente y confiable.
No basta con adoptar IA: hay que saber pilotarla. La diferencia entre un desastre y un caso de éxito dependerá, en gran medida, de mantener ese equilibrio inteligente entre la innovación tecnológica y la sabiduría humana. Está en nuestras manos –no en las de la máquina– asegurar que la promesa de la IA se cumpla sin traicionar la confianza que los clientes han depositado en nosotros.
El caso Deloitte ilustra uno de los riesgos más habituales. Hemos recopilado los 5 errores de la transformación digital en empresas y cómo evitarlos.
Este análisis conecta directamente con modelo 20-60-20 de Proportione y IA responsable en la empresa.
Para profundizar en como la innovacion conecta con la estrategia empresarial, consulta nuestra guia sobre estrategia de innovacion.
