Sind die meisten Medizinstudien zu schlecht konzipiert, um die Patientenversorgung zu verbessern?

In den letzten Jahren gab es vermehrt Beschwerden darüber, dass viele von Experten begutachtete wissenschaftliche Publikationen von schlechter Qualität seien (siehe zum Beispiel diese Fragen: Können bis zu 70 % der wissenschaftlichen Studien nicht reproduziert werden? , Stützen sich die meisten veröffentlichten Ergebnisse auf Messungen von statistische Signifikanz wahrscheinlich falsch? ).

Ein kürzlich erschienener Artikel in Vox Deshalb sollten Sie nicht glauben, dass eine aufregende neue medizinische Studie mehrere spezifischere Behauptungen über für die Medizin relevante Papiere aufstellt.

Zum Beispiel:

Die meisten medizinischen Studien sind falsch

... nur 3.000 von 50.000 neu veröffentlichten Zeitschriftenartikeln, die jedes Jahr veröffentlicht werden, gut gestaltet und relevant genug sind, um die Patientenversorgung zu informieren. Das sind 6 Prozent.

Das scheint eine sehr spezifische und alarmierende Behauptung zu sein. Beachten Sie, dass die Behauptung nicht darin besteht, dass die Ergebnisse falsch sind. Die Behauptung ist, dass selbst ohne Betrachtung der Ergebnisse das Design der Studie zu fehlerhaft ist, als dass irgendein Ergebnis für die Patientenversorgung nützlich sein könnte.

Wie begründet ist diese Behauptung?

Veritasium (Youtube-Kanal) hat ein großartiges Video über den Peer-Review-Prozess.
Die Frage geht von einem Zusammenhang zwischen von Experten begutachteten wissenschaftlichen Veröffentlichungen (Text) von schlechter Qualität und medizinischen Studien aus, die zu schlecht konzipiert sind, um die Patientenversorgung zu verbessern? (Titel). Diese Beziehung ist nicht automatisch. Bitte ändern Sie das eine oder andere.
@JanDoggen Meine Frage setzt keine starke Beziehung voraus . Ich nenne das Problem der Peer-Review von schlechter Qualität lediglich als Hintergrund. Der Punkt der Frage und der konkreten Behauptung betrifft schlecht konzipierte medizinische Studien. Es wurde eine spezifische Behauptung aufgestellt, ich berichte das allgemeinere Problem lediglich als Hintergrund. Dies sollte die zu beantwortende Frage in keiner Weise beeinflussen.
Reine Vermutung meinerseits: Medizinstudium ist wohl teuer. Wenn Sie eine Idee haben, die Sie studieren möchten, ist es daher sinnvoll, diese zunächst mit einer kleinen Stichprobe zu testen. Wenn Ihr kleiner Test ein positives Ergebnis liefert, können Sie versuchen, eine Finanzierung zu finden, um ihn mit einer mittelgroßen Stichprobe zu testen. Wenn dieser mittelgroße Test ein positives Ergebnis liefert, können Sie versuchen, einen Test in voller Größe zu finanzieren, der groß genug ist, um die Patientenversorgung tatsächlich zu informieren. Ich vermute, dass es ziemlich einfach ist, Mittel für einen kleinen Test zu finden, schwierig für einen mittleren Test und sehr schwierig für einen großen Test.
Obwohl ich keinerlei Beweise oder Nachforschungen habe, um dies zu untermauern, finde ich die Zahl „3000 von 50000“ völlig plausibel und nicht überraschend.

Antworten (1)

Die Behauptung basiert darauf: http://ebn.bmj.com/content/8/2/39.full

bmjupdates+ verwendet die gleichen, expliziten und reproduzierbaren Qualitätsfilter wie Evidence-Based Medicine ( http://hiru.mcmaster.ca/ebmj/Ebmp_p.htm ) und Evidence-Based Nursing. Wendet man diese Kriterien auf jeden Artikel in über 110 erstklassigen klinischen Fachzeitschriften (ca. 50.000 Artikel pro Jahr) an, bestehen ca. 3.000 Artikel (6 %) die Musterung – das heißt, sie verfügen über angemessene Methoden, um ihre Schlussfolgerungen für Schlüsselaspekte der klinischen Versorgung zu untermauern.

Denken Sie daran, dass dies bmjupdates ist, das ihren eigenen Dienst bewirbt, und dass ein Teil des Dienstes darin besteht, nach einigen der besten zu filtern, anstatt alles aufzunehmen, was nützlich sein könnte. Dies ist vernünftig und vernünftig, da Kliniker nicht 50.000 Artikel pro Jahr lesen können.

Ich werde mich mit einem Urteil über den Begriff „die meisten“ zurückhalten, der 50 % und mehr bedeutet, aber ich werde die Zahl von 6 % ansprechen.

Es stimmt nicht, dass 94 % zu schlecht konzipiert sind, um die Patientenversorgung zu verbessern.

Um genauer zu sein, passieren nur 3000 diese Filter, sie liefern keine Aufschlüsselung dafür, warum ein bestimmtes Papier fehlgeschlagen ist:

Kriterien für die Begutachtung und Auswahl für Abstracts:

Allgemein

Alle englischsprachigen Original- und Übersichtsartikel in einer Ausgabe einer Kandidatenzeitschrift werden für ein Abstracting berücksichtigt, wenn sie Themen betreffen, die für die klinische Praxis der Inneren Medizin, der Allgemein- und Hausarztpraxis, der Chirurgie, der Psychiatrie, der Pädiatrie oder der Geburtshilfe und Gynäkologie von Bedeutung sind. Der Zugang zu fremdsprachigen Zeitschriften erfolgt über die von uns abstrahierten systematischen Reviews, insbesondere die der Cochrane Library, die Artikel aus über 800 Zeitschriften in mehreren Sprachen zusammenfasst.

Vorbeugung oder Behandlung; Qualitätsverbesserung

• Zufällige Zuweisung von Teilnehmern zu Interventionen

• Ergebnismaße von bekannter oder wahrscheinlicher klinischer Bedeutung für ³ 80 % der Teilnehmer, die an der Untersuchung teilnahmen.

Diagnose

• Einbeziehung eines Spektrums von Teilnehmern, von denen einige (aber nicht alle) an der Störung der Interessenstörung leiden

• Jeder Teilnehmer muss den neuen Test und den diagnostischen Standardtest erhalten

• Entweder ein objektiver diagnostischer Standard oder ein zeitgemäßer klinischer diagnostischer Standard mit nachweislich reproduzierbaren Kriterien für jede subjektiv interpretierte Komponente

• Interpretation des Tests ohne Kenntnis des diagnostischen Standardergebnisses

• Interpretation des diagnostischen Standards ohne Kenntnis des Testergebnisses.

Prognose

• Eine Anfangskohorte von Personen, die zunächst alle frei von interessierenden Ergebnissen sind

• Nachbeobachtung von ³ 80 % der Patienten bis zum Erreichen eines wichtigen Studienendpunkts oder bis zum Ende der Studie.

Ursache

• Beobachtungen zum Zusammenhang zwischen Expositionen und mutmaßlichem klinischen Ergebnis

• Prospektive Datenerhebung mit eindeutig identifizierter(n) Vergleichsgruppe(n) für diejenigen mit Risiko für den interessierenden Endpunkt (in absteigender Reihenfolge der Präferenz aus randomisierten kontrollierten Studien, quasi-randomisierten kontrollierten Studien, nicht-randomisierten kontrollierten Studien, Kohortenstudien mit Fall-zu-Fall-Matching oder statistische Anpassung zur Bildung vergleichbarer Gruppen, zu verschachtelten Fall-Kontroll-Studien)

• Maskierung von Beobachtern der Folgen von Expositionen (dieses Kriterium gilt als erfüllt, wenn die Folgen objektiv sind).

Ökonomie von Gesundheitsprogrammen oder Interventionen

• Die ökonomische Fragestellung muss Handlungsalternativen bei realen oder hypothetischen Patienten vergleichen

• Die alternativen diagnostischen oder therapeutischen Leistungen oder Qualitätsverbesserungsstrategien müssen sowohl hinsichtlich ihrer erzielten Ergebnisse (Effektivität) als auch hinsichtlich ihres Ressourcenverbrauchs (Kosten) verglichen werden.

• Der Nachweis der Wirksamkeit muss aus einer Studie (oder Studien) stammen, die die Kriterien für Diagnose, Behandlung, Qualitätssicherung oder Übersichtsartikel erfüllen

• Die Ergebnisse sollten in Bezug auf die inkrementellen oder zusätzlichen Kosten und Ergebnisse dargestellt werden, und es sollte eine Sensitivitätsanalyse durchgeführt werden.

Leitfäden zur klinischen Vorhersage

• Der Leitfaden muss in 1 Gruppe von Patienten (Trainingsgruppe) erstellt und in einer unabhängigen Gruppe von echten, nicht hypothetischen Patienten (Testgruppe) validiert werden, und muss sich auf Behandlung, Diagnose, Prognose oder Kausalität beziehen.

Differenzialdiagnose

• Eine Kohorte von Patienten, die ein ähnliches, anfänglich nicht diagnostiziertes, aber reproduzierbar definiertes klinisches Problem haben

• Klinisches Setting wird explizit beschrieben

• Sicherstellung der Diagnose für 80 % der Patienten unter Verwendung einer reproduzierbaren diagnostischen Aufarbeitungsstrategie und Nachsorge bis zur Diagnose der Patienten oder Nachsorge von 1 Monat bei akuten Erkrankungen oder

• ³1 Jahr für chronische oder rezidivierende Erkrankungen.

Systematische Bewertungen

• Das behandelte klinische Thema muss klar benannt werden; es muss beschrieben werden, wie die Evidenz zu diesem Thema aus welchen Quellen und mit welchen Ein- und Ausschlusskriterien aufgespürt wurde

• ³1 in die Übersicht aufgenommener Artikel muss die oben genannten Kriterien für Behandlung, Diagnose, Prognose, Kausalität, Qualitätsverbesserung oder Ökonomie von Gesundheitsprogrammen erfüllen.

Quelle: Zweck und Verfahren

Das bedeutet nicht, dass jedes Papier, das diese Filter nicht passiert, schrecklich oder nutzlos ist.

Eine Arbeit kann immer noch informativ oder nützlich sein, aber sie sind möglicherweise schwieriger zu analysieren, die Ergebnisse sind schwerer miteinander zu vergleichen, oder das zu untersuchende Thema kann es unmöglich machen, die oben genannten Kriterien zu erfüllen.

Zum Beispiel kann ein Papier, das einfach eine Fallstudie eines einzelnen Patienten mit einer seltenen Form von Hirnschädigung ist, für Neurologen sehr informativ sein, aber es gibt keine Möglichkeit, ethisch willkürlich einer Kohorte von Menschen Hirnschäden zuzufügen.

Diese Filter ermöglichen es uns einfach, diejenigen zu finden, die am informativsten sind und am einfachsten in Kombination mit anderen Daten verwendet werden können. Sie könnten als die systematisch nützlichsten bezeichnet werden, aber sie sind nicht die einzigen nützlichen.

Sie haben keinen Link bereitgestellt, der beweist, dass 3000 oder mehr die angegebenen Kriterien erfüllen. Dies bietet nur Standards, die eine Gruppe zu verwenden behauptet, nicht, wie viele diese Kriterien erfüllen, oder vielmehr sollten wir die Gruppe als vertrauenswürdig einstufen. Während die Erwähnung anderer Arten von Artikeln, die nützlich sein könnten, ohne die Kriterien zu erfüllen, nützlich ist, ohne dass angegeben wird, wie viele oder ob diese Arten von Artikeln veröffentlicht werden, wissen wir nicht, dass die von Ihnen erwähnten Arten von Artikeln nicht zu vernachlässigen sind Anzahl der insgesamt veröffentlichten Artikel.