AI Washing: empresas fingen usar IA para venderse como ‘innovadoras’
<![CDATA[
Existe una frase en inglés que resume lo que sucede en la actualidad en torno a innovación tecnológica ‘fake it till you make it’, que se traduce como ‘si lo finges lo logras’. Y con el auge de la Inteligencia Artificial esto es una realidad. Cada vez más empresas optan por ocultar que detrás de sus “asistentes virtuales” y plataformas automatizadas hay, en realidad, humanos operando en tiempo real y lejos de ser un simple truco comercial, este fenómeno ya está encendiendo alarmas regulatorias y éticas a nivel global.
Un informe de Gartner señaló que el AI Washing es uno de los principales riesgos reputacionales del actual boom de esta tecnología. Un estudio de MMC Ventures reveló que el 40% de las startups europeas que se promocionan como empresas de inteligencia artificial no tienen evidencia de utilizar IA genuina. “Nosotros recomendamos mejorar este proceso al interior de las organizaciones […] antes de un lanzamiento a mercado abierto”, señaló Jaume Sués, consultor de tecnología y negocios en EY. Esta simulación no es solo un problema ético, sino estratégico, pues al inflar promesas tecnológicas sin sustento, las compañías se exponen al escrutinio de clientes e inversionistas, lo que erosiona la confianza y afecta sus resultados. De hecho, más del 40% de los proyectos de ‘agentic’ serán cancelados para fines de 2027 debido al aumento de los costos y al valor comercial incierto, según un informe de Gartner. “La mayoría de los proyectos de IA con agentes actuales son experimentos iniciales o pruebas de concepto que, en su mayoría, se basan en la publicidad exagerada y a menudo se aplican incorrectamente”, afirmó Anushree Verma, director senior de Gartner a Reuters. Y es que además de afectar en la reputación hacia los usuarios, también se habla de impactos con los inversionistas. En sectores como la atención al cliente o la salud, fingir automatización puede tener implicaciones más delicadas. Algunos casos mediáticos ya se han revelado. Startups como X.ai ofrecían asistentes virtuales “inteligentes” para agendar reuniones, pero se descubrió que la eficiencia se debía, en parte, a operadores humanos tras bambalinas.
En el ámbito de la salud, empresas como CureMetrix fue señalada por falsear capacidades algorítmicas que no fueron validadas clínicamente. “La inteligencia artificial no requiere tantas inversiones es más un tema de tiempo. Faltan personas que sepan poner la tecnología al servicio de un caso de negocios, pero con tiempo se puede aplicar con éxito”, señaló Víctor Soulé, socio Líder de Mercados en EY México. AlgorithmWatch, uno de los observatorios que siguen de cerca el impacto de estas prácticas, apuntó que el problema no es solo técnico, es profundamente ético y económico. Junto con AI Now Institute han documentado cómo estas simulaciones de IA pueden inducir a error a consumidores, pacientes y accionistas, al hacerlos creer que están interactuando con sistemas avanzados e imparciales. En un contexto donde la IA es símbolo de eficiencia y futuro, parecer una ya es una ventaja competitiva. Pero detrás de esa ilusión, muchas veces, hay trabajadores invisibles y riesgos que aún no se regulan con claridad.
]]>
