Cómo saber si un estudio de investigación tiene poca potencia

Sin un poco más de detalles sobre esta consulta, no puedo asegurarlo, pero lo que inmediatamente se me ocurre es esto:

Examen cuidadoso de los métodos de recolección de datos.

Por ejemplo, muchos estudios se basan en información recopilada en encuestas. El examen de las preguntas, el formato, los métodos de selección de la muestra y el tamaño de la muestra pueden decirle mucho acerca de la conclusión de la investigación, sin tener que utilizar estadísticas inferenciales. Además, muchos estudios basados ​​en información de encuestas no deberían basarse en encuestas en absoluto.

Para un poco de información, dado que la mayoría de los estudios publicados en la actualidad están en el campo de la psicología, resaltaré los tres tipos diferentes de investigación en psicología y las diferencias entre ellos:

  • Investigación descriptiva : se utiliza para describir las características de una población o fenómeno que se está estudiando. No responde preguntas sobre cómo / cuándo / por qué ocurrieron las características “. (Wikipedia)
    • Observación naturalista
    • Estudios de caso
    • Encuestas
  • Investigación correlacional: “un método cuantitativo de investigación en el que tiene 2 o más variables cuantitativas del mismo grupo de sujetos, y está tratando de determinar si existe una relación (o covariación) entre las 2 variables” (Capilanou)
    • Estadísticas (en su mayoría inferenciales)
  • Investigación experimental – “una colección de Diseños de investigación que utilizan manipulación y pruebas controladas para comprender los procesos causales. En general, una o más variables se manipulan para determinar su efecto en una variable dependiente. (Utiliza) el método experimental. ”(Explorable)
    • Experimentos controlados

Buenos, los estudios “avanzados”, para usar esa terminología, deberían usar los métodos adecuados de investigación y recopilación de datos, que incluso pueden ser una combinación de los tres tipos.

Hagamos un ejemplo de estudio. Si nuestro estudio de ejemplo trata, por ejemplo, sobre los hábitos reproductivos de los canguros salvajes y en cautiverio, para garantizar resultados exitosos y concluyentes, lo más probable es que solo desee una observación naturalista. Usted querría observar a los canguros salvajes y los canguros sanos, nacidos en zoológicos o refugios durante un largo período de tiempo, sin ser molestados por otros factores. No estaría buscando una correlación entre la frecuencia de apareamiento y el cautiverio, no estaría capturando canguros salvajes con fines experimentales y comparándolos para “controlar” a los canguros salvajes, y ciertamente no haría una encuesta a los guardaparques australianos. Trabajadores del zoológico pidiéndoles que te cuenten sobre los hábitos de apareamiento del canguro. Solo querrías observar a los canguros “naturalmente”.

Sin embargo, si nuestro estudio de ejemplo trata sobre un aumento en la tasa de incidencia de esquizofrenia en personas que consumen grandes cantidades de queso suizo, las encuestas serían insatisfactorias e inútiles, y la observación naturalista no diría nada. Usted querría ver una gran cantidad de hallazgos experimentales de experimentos realizados de manera ética y controlada, con la consideración adecuada de las variables y la selección de la población / el queso, la investigación correlacional (de seguro), y tal vez algunos estudios de casos presentados en buena medida. Cualquier cosa menos que eso indica un concepto de investigación mal fundado que es * ejem * loco y lleno de agujeros, al igual que los esquizofrénicos comen queso suizo.

Todavía no estoy 100%, esto responderá a tu pregunta, ¡pero espero que te ayude un poco en la búsqueda de validación de datos de alguien!

Supongo que te refieres a una publicación científica, por lo que esta será mi línea. Aunque los mismos principios se aplicarían a un proyecto, conferencia, informe, etc., aunque en diferentes formas.

La ciencia pretende ser una aclaración de la verdad. Los científicos deberían, idealmente, buscar nuevos aspectos de la realidad y contarlos a sus compañeros, principalmente por escrito. Esta salida se conoce como la literatura científica y es la base de todas las discusiones técnicas, ideas, tecnologías, documentales y libros de texto técnicos. Esto significa muchas cosas importantes, me centraré en algunas, desde el punto de vista de un lector lego.

Lo primero que un lector debe tener en cuenta al filtrar qué leer es la reputación. Reputación del tema, de las instituciones, de los autores, del vehículo de publicación. Ya a partir de este primer contacto, se necesitan muchos antecedentes, expresados ​​como sentido crítico. Me temo que la mayoría de los lectores (muchos académicos incluidos) tienen un juicio muy ingenuo y parcial sobre lo que sería una reputación confiable.
Ahora, al leer el manuscrito, un aspecto crucial es la legibilidad, la claridad de pensamiento. ¿Está clara la presentación, se presentan las ideas en una construcción sólida? Los estudios que son claramente confusos son producidos con mayor frecuencia por aquellos que no entienden su trabajo, o que realmente están tratando de ocultar algo. Demasiados errores tipográficos y problemas de construcción indican una publicación precipitada, posiblemente marcando esfuerzos descuidados.
A continuación, verifique la calidad y concisión de la evidencia presentada. Las referencias utilizadas, los datos, tablas, figuras. ¿Son fáciles de leer? ¿Tener sentido? ¿Leyendas que explican todo el contexto y todos los elementos? Demasiados colores, tonterías, bonitas imágenes sin información, indican una actuación extravagante. El hecho de no proporcionar detalles estadísticos claros indica un intento de persuadir y / o falta de conocimientos estadísticos.
Aún en la evidencia, verifique la disponibilidad de materiales de respaldo, datos en bruto, scripts utilizados, depósito de base de datos, etc. Como ejemplo, los estudios de secuenciación de ADN que no apuntan a lecturas en bruto disponibles al público son probablemente modas.
Evaluar críticamente las conclusiones de los autores. ¿Son apoyados por sus datos? ¿Son cuerdas y proporcionales? ¿Los autores promueven opiniones personales y autoafirmaciones (por ejemplo, “nuestro alto rendimiento ilustra claramente la buena eficiencia de nuestro enfoque”, etc.). La mente, nada en realidad es buena o mala, revolucionaria, muy interesante, etc., por sí misma y fuera del alcance de la opinión personal. Recurrir a la retórica significa que los datos se apoyan débilmente, podría indicar que los autores en realidad intentaron convencerse mientras escribían.

Ahora, permítanos decir que ha leído el documento y está convencido de que los puntos anteriores son un estudio serio y sólido. ¡Todavía no significa que valga nada!
Este es el aspecto más complicado de la ciencia que la mayoría de las personas (desafortunadamente los financiadores y científicos también) se niegan a aceptar. La ciencia solo funciona a largo plazo. La importancia de una acción, de un descubrimiento, la factualidad de los datos, solo puede evaluarse a posteriori. ¡Y la bondad sabe cuánto tiempo tomará hasta que los mismos puntos sean revisados ​​exactamente! Por lo tanto, recomiendo extremar la precaución al tomar “impacto” inmediato, como la cobertura de la prensa, el entusiasmo general, incluso los premios, como un poder para la buena ciencia. La realidad siempre ha estado ahí y siempre lo estará, lo que la hace “emocionante” o una posible mina de oro son los ojos del espectador o las palabras de un narrador. Tal es la verdadera naturaleza de las publicaciones científicas.