Nota de opinión

Sobre la validez de la evidencia

Área de Datos

12/05/2021 9 min de lectura

Las decisiones que toman los gobiernos en materia de políticas públicas impactan de lleno en la vida de las personas y en su bienestar diario. Tomar esta clase de decisiones implica, en muchos casos, debatir y alcanzar puntos en común con personas o grupos con los que se puede, en principio, no estar de acuerdo. Una intervención del Estado necesariamente implica un debate de ideas y posiciones.

A menudo, estos debates toman la forma de una confrontación de ideas a priori —por ejemplo, la intervención del Estado en el sector privado siempre es mala o siempre es buena—, y deja de lado el análisis de episodios específicos en los que intervenciones similares hayan tenido lugar. Por el contrario, cuando el debate se nutre de aprendizajes en base a datos y evidencia empírica —¿qué pasó cuando el Estado intervino en el sector privado en instancias específicas?—, esto da lugar a discusiones más sofisticadas y permite, por ejemplo, considerar la posibilidad de que el resultado no sea siempre unívoco y dependa por lo tanto de factores intervinientes —la intervención estatal trae buenos resultados si se implementa de una determinada manera o en un contexto específico—. De esta forma, es posible matizar las opiniones más extremas y encontrar puntos en común.   

La validez bajo la lupa

Aprender de la evidencia empírica no siempre es sencillo o inequívoco. Los debates pueden trasladarse al plano metodológico, donde se discuten las técnicas utilizadas para analizar la evidencia, los posibles sesgos en la muestra analizada y la existencia de factores de confusión(1) que no fueron debidamente controlados. De este modo, surgen nuevas preguntas: ¿podemos confiar en que los resultados del estudio son válidos para este episodio analizado? Y si este fuera el caso, ¿en qué medida podemos extrapolar estos aprendizajes a otros contextos y condiciones?

Decimos que un estudio es válido internamente cuando podemos tener confianza en que los resultados obtenidos son correctos para la muestra seleccionada. Por ejemplo, en estudios de naturaleza causal deseamos asegurarnos que el resultado estimado de aplicar un tratamiento en un grupo de individuos es efectivamente producto de ese tratamiento y no de otros factores de confusión que puedan afectar el resultado y confundir el verdadero efecto del tratamiento.

Por otra parte, aún cuando los resultados de un estudio fueran válidos para el contexto de dicho estudio (validez interna) debemos considerar también en qué medida dichos resultados pueden ser extrapolados a otras muestras y contextos. Para referirnos a este aspecto de un estudio hablamos de validez externa. Por ejemplo, podemos considerar que los experimentos de laboratorio que estudian fenómenos sociales en un entorno controlado —es decir, donde se mantienen constantes los factores de confusión para observar el efecto de una intervención sobre una variable de interés— tienen mayor validez interna que externa, en tanto no es claro que los resultados que son válidos en el contexto experimental sean también válidos en el contexto “natural” en que ocurre el fenómeno. 

En suma, al extraer enseñanzas de los análisis basados en evidencia para la discusión pública debemos evaluar no solamente la validez interna de dicha evidencia, sino también el contexto y las circunstancias que la generan. Solo así podemos conocer su utilidad para explicar nuevos escenarios.

Observaciones sobre un caso fallido

En un artículo de reciente difusión(2), publicado por investigadores de la Universidad de San Andrés y amplificado por la prensa(3), se presentaron resultados para dar soporte a la siguiente hipótesis: las empresas con conexiones políticas no deseadas —aquellas sobre las cuales el Estado obtuvo el derecho a incorporar un director— pierden valor al compararse con aquellas sin esas conexiones.

Tras la nacionalización de las Administradoras de Fondos de Jubilaciones y Pensiones (AFJP) el Estado Nacional obtuvo participación en 37 firmas domésticas y en 17 de ellas —que constituyen el grupo de tratamiento— tuvo también el derecho a incorporar un representante en el directorio. Tal como muestra el artículo, en el período entre noviembre del 2008 y noviembre del 2014 las firmas sobre las cuales el Estado obtuvo el derecho a incorporar un miembro en el directorio perdieron valor de mercado, mientras que aquellas sobre las cuales no lo obtuvo —el grupo de control—, mostraron una trayectoria más favorable. Específicamente, las empresas del grupo de tratamiento evidenciaron valores entre 29% y 44% por debajo de las del grupo de control en las cuales el Estado no obtuvo acciones ni el derecho a incorporar directores tras la nacionalización. El estudio utiliza un diseño que combina un experimento natural —en tanto el tratamiento habría sido asignado de forma cuasi aleatoria— con un estimador de Diferencias en Diferencias, en el cual se evalúa la diferencia en el valor promedio de las firmas de ambos grupos, antes y después del tratamiento —esto es, la nacionalización de las AFJP que habilita al Estado a introducir directores—.

¿Podemos concluir a partir de dicho análisis que la posibilidad de que el Estado incorpore un representante en el directorio de una firma disminuye su valor? Una evaluación detallada del estudio nos permite identificar algunas observaciones que nos hacen dudar de la validez tanto interna como externa del análisis. 

En términos de la validez interna, podría cuestionarse si efectivamente la asignación al tratamiento —la posibilidad de recibir un director por parte del Estado— es un procedimiento cuasi aleatorio, es decir, si efectivamente el trabajo se asemeja a un experimento. El hecho de que las empresas hayan sido seleccionadas por las AFJP para establecer posiciones antes de la nacionalización permite dudar de tal asignación aleatoria.

En tanto las AFJP no eligieron al azar dónde invertir, esta asignación no aleatoria arroja dudas sobre si efectivamente se ha logrado igualar a ambos grupos de empresas en todas las variables de confusión. Se observa, por ejemplo, que existe una mayor proporción de empresas del sector energético y de servicios en el grupo de tratamiento. Esta diferencia podría representar un sesgo en la estimación, en tanto este tipo de empresas fue particularmente afectada por la crisis internacional del 2008. De este modo, no es posible saber si la diferencia observada en el valor de las firmas es producto del tratamiento —la posibilidad de que el Estado introdujese un director— o de la crisis internacional que tuvo lugar el mismo año que podría haber afectado más a las firmas del grupo de tratamiento que a las del grupo de control. 

Otros factores posiblemente no igualados entre grupos, tales como la radicación de la firmas —en tanto las AFJP sólo podían invertir en firmas locales mientras que en el grupo de control puede haber firmas extranjeras—, su forma de valuación y el monto de endeudamiento, son potenciales causales de tendencias divergentes entre los grupos y posibles sesgos para la estimación. 

En términos de validez externa, aún si efectivamente la existencia del derecho a designar un director por parte del Estado hubiese generado una disminución del valor de las firmas, es importante ser prudentes al considerar si es posible extrapolar y generalizar los resultados o extraer conclusiones para la formulación de políticas públicas. 

En primer lugar, el estudio abarca un evento de imposición externa e involuntaria de un director estatal, por lo tanto, los resultados no pueden ser extrapolados a situaciones de conexiones políticas voluntarias entre las firmas y el Estado(4). Asimismo, el diseño impide evaluar si el efecto observado es producto de la posibilidad de introducir involuntariamente para la firma un director del Estado o es producto de la posibilidad de introducir involuntariamente un director de cualquier tipo, en tanto no hay separación de las variables “estatal” e “involuntario” en el tratamiento.

En segundo lugar, este análisis se basa en un diseño en un contexto particular: la estatización de las AFJP y la posibilidad de introducir de forma  no deseada directores en un grupo de empresas con prevalencia de algunos sectores, en un contexto sociopolítico muy particular. Tal como reconocen los autores del artículo, no podemos estar seguros que este mismo efecto negativo vaya a producirse en casos de intervención del Estado en firmas en otros contextos(5)

Por último, cabe señalar un punto en torno a la interpretación que hacen los autores de los resultados obtenidos. Argumentan que dichos resultados podrían explicarse a partir de las teorías que afirman que la participación de directores nombrados por el Estado en el sector privado es perjudicial para este último, en tanto el primero busca maximizar objetivos políticos inconsistentes con el de maximizar el valor de la firma(6). Esta interpretación implica una conjetura —es decir, algo que no es directamente observable—, que forma parte de presupuestos teóricos necesarios para cualquier investigación. Se trata de presupuestos teóricos en tanto no podemos someter a prueba empírica la hipótesis de que los directores estatales siempre operan buscando maximizar fines políticos. El punto que destacamos aquí es que dichos presupuestos conllevan a una generalización de los hallazgos —los directores estatales siempre impactarán negativamente en el valor de la firma— que no se desprende necesariamente de la evidencia empírica. 

En suma, no podemos asegurar que los mismos resultados se obtendrían si el Estado participa en las firmas de forma cooperativa o si el Estado participa de forma cooperativa en un contexto de menor polarización política y de mayor cooperación en general entre Estado y sector privado. Tampoco podría sostenerse en base a esta evidencia que las diferencias de valor entre los grupos de empresas se explican por el sector o espacio al cual podrían asociarse políticamente estos directores. Dejando de lado la posibilidad de que estas conclusiones sean verídicas, vemos que la evidencia presentada no es suficiente para respaldarlas.

Un salto de calidad en el debate

La discusión de los asuntos públicos basada en análisis empíricos significa un importante salto de calidad en el debate en la medida en que dejamos de confrontar en base a posiciones e ideas totalizadoras basadas en evidencia anecdótica, falacias de evidencia incompleta (cherry picking) y sesgos de confirmación. Pero esto no cierra la discusión, sino que la enriquece, la dota de nuevas perspectivas y la acerca a posiciones más sólidas y matizadas al mismo tiempo.

Esta contribución pretende ser un aporte a la discusión de la evidencia empírica sobre un asunto de suma importancia como es el de la participación estatal en firmas privadas. En este sentido, discutimos diversos aspectos del trabajo que refieren a la validez interna del análisis y que creemos dan lugar a dudas sobre los resultados, es decir que no queda claro si la diferencia del valor de las firmas observadas con posterioridad al 2008 es efecto de la posibilidad de que el Estado introduzca directores en las firmas y no de otros factores. 

Pero aún si los resultados del análisis fueran válidos internamente, es importante ser cuidadosos a la hora de generalizar las conclusiones y utilizar este tipo de análisis como guía para orientarnos en la toma de decisiones en otros contextos. 

Este estudio fue realizado en un contexto particular, lo que implica que hay múltiples posibles factores contextuales cuyo efecto desconocemos porque se mantienen constantes. En particular, no podemos saber si el efecto de poner un director estatal en una firma privada tiene distintos resultados dependiendo del grado de cooperación  con que el Estado introduce la medida, de las calificaciones de los funcionarios que participan del directorio, de los niveles de cooperación general entre Estado y sector privado que se perciben en ese contexto específico, de los niveles de polarización política y social en que tiene lugar la medida, entre otros factores. 

Por último, los presupuestos teóricos a partir de los cuales los autores interpretan los resultados —que los funcionarios estatales actúan en base a incentivos políticos incompatibles con el de maximización del valor de la firma— implican una “apuesta” por la generalización de los hallazgos a cualquier contexto sin que necesariamente se desprenda de este estudio. Aceptar dichos presupuestos  podría implicar una vuelta a las ideas totalizadoras a partir de evidencias provistas por un caso particular. 

No podemos dar por saldado el debate en torno a la capacidad directiva y gerencial del Estado, ya que tanto las experiencias como los resultados son variados. La literatura documenta una amplia variedad de formas de participación estatal en la dirección de empresas en diversos países en desarrollo y desarrollados(7). Aún en los análisis dentro de un mismo país se observan resultados muy heterogéneos que incluyen casos en los que la participación estatal fue claramente deficiente, pero también otras experiencias en las que, a partir de reglas efectivas de gobernanza corporativa, la participación estatal logró contribuir a una mejor performance de las firmas(8)

Una vez que incorporamos esta heterogeneidad de experiencias se abre un abanico de preguntas para hacerle a los datos y la evidencia, para que sus hallazgos puedan alimentar nuevas políticas y mejorar el debate, tal vez la más relevante sea cuáles son las condiciones que favorecen la eficacia y profesionalización de los directores estatales en empresas públicas y privadas en países en desarrollo. En este sentido, la generación de reglas efectivas de gobernanza corporativa(9), la promoción de la independencia y una cuidadosa revisión de las formas de selección de personal y procesos de evaluación de los directores estatales parecen claves para contribuir a un mayor éxito en dichas participaciones(10).

Los análisis en base a evidencia empírica requieren de una discusión sobre los límites del conocimiento que podemos extraer de ella y deben estimular una reflexión sobre las condiciones en las que es mejor tomar decisiones de políticas públicas. Una generalización indebida de los resultados puede afectar la búsqueda de soluciones creativas, bien fundadas en evidencia y que contribuyan a crear un sendero de desarrollo sostenible e inclusivo. Del mismo modo, debemos ser cautos a la hora de aceptar presupuestos teóricos para evitar que bajo el paraguas de la evidencia volvamos a un debate de ideas totalizadoras.


(1) Aquellas variables no controladas que distorsionan la relación de dos variables de interés, afectando los resultados de un estudio.

(2) Santiago Barraza & Martín A. Rossi y Christian A. Ruzzier, 2021. “Sleeping with the Enemy: The Perils of Having the Government On (the) board,” (Working Papers 149, Universidad de San Andrés, Departamento de Economia, 2021).

(3) Diamante, S., “Durmiendo con el enemigo: el trabajo que muestra cómo les fue a las empresas con participación del Estado”, La Nación, 5 de abril de 2021, https://www.lanacion.com.ar/economia/negocios/durmiendo-con-el-enemigo-el-trabajo-que-muestra-como-les-fue-a-las-empresas-con-participacion-del-nid05042021/ 

(4) En cuyo caso la evidencia muestra predominantemente que dichas conexiones voluntarias son beneficiosas para las firmas, tal como se muestra en el mismo trabajo. 

(5) Diamante, S., op. cit.

(6) Barraza, Rossi y Ruzzier, op. cit., pp. 2, 18.

(7) Ver Vagliasindi, Maria, “The Effectiveness of Boards of Directors of State Owned Enterprises in Developing Countries” (Policy Research Working Paper, The World Bank, 2008); OECD, “Professionalising Boards of Directors of State-Owned Enterprises: Stocktaking of National Practices,” (Working Paper, OECD, 2018); Musacchio, A. y Lazzarini, S. G. (2014), Reinventing State Capitalism. Leviathan in Business, Brazil and Beyond (Cambridge, MA: Harvard University Press).

(8) Ver para el caso de Brasil, Musachio y Lazzarini, Reinventing State Capitalism. 

(9) Musachio, A. y Lazzarini, S. G., op. cit.

(10) Vagliasindi, M. (2008). The effectiveness of boards of directors of state owned enterprises in developing countries. The World Bank, Policy Research Working Paper Series.

Sigamos conectados

Sumate a nuestra red y recibí las novedades según tus áreas de interés.

Suscribirme