AI w biomedycynie: boom niskiej jakości badań opartych na otwartych danych

Dlaczego NHANES jest tak kuszący dla badaczy?

• Otwarty charakter: NHANES (National Health and Nutrition Examination Survey) to wieloletni, publicznie dostępny zbiór danych zdrowotnych, dietetycznych i stylu życia tysięcy Amerykanów.
• Łatwa integracja z AI: Dane są w formacie gotowym do wczytania i analizy w środowiskach koderskich czy bezpośrednio przez modele uczenia maszynowego.
• Rozwój „szybkich badań asocjacyjnych”: Wykorzystanie NHANES przy użyciu skryptów generowanych przez SI pozwala w kilka chwil sprawdzić zależności między pojedynczymi zmiennymi (np. poziom witaminy D) a złożonymi schorzeniami (np. depresją czy chorobami serca) (Nature).

„Przepisy” na publikacje – jak działa ten mechanizm?

1. Wybór jednej zmiennej – badacz lub model AI wybiera wskaźnik, np. długość snu, poziom cholesterolu czy stężenie witaminy w surowicy.
2. Analiza asocjacyjna – sprawdza się korelację tej zmiennej z wybraną chorobą lub zaburzeniem, często bez pełnego uwzględnienia czynników towarzyszących.
3. Cherry-picking wyników – porównanie wielu zmiennych, odrzucenie tych „nieciekawych” i publikacja tylko najbardziej spektakularnych obserwacji.
4. Schematyczny szablon artykułu – wstęp, metody, wyniki, dyskusja – z niewielkimi modyfikacjami każdego kolejnego „przepisu” (Nature).

„Mamy nagły wzrost liczby artykułów, które są ekstremalnie schematyczne i mogłyby być bez problemu wygenerowane przez duże modele językowe” – zauważa Matt Spick z University of Surrey (Nature).

Skala zjawiska

• Liczba badań: W 2024 r. opublikowano ponad 2 200 prac asocjacyjnych opartych na danych NHANES, a w pierwszej połowie 2025 r. już ponad 1 200 (Nature).
• Analizowana próbka: Zespół Spicka przyjrzał się 341 artykułom z lat 2014–2024, opublikowanym w 147 różnych czasopismach (m.in. Frontiers Media, Elsevier, Springer Nature) (Nature).
• Problemy statystyczne: Wiele skorelowanych zależności nie wytrzymuje rygorystycznej analizy statystycznej, sugerując, że wyniki bywają celowo dobierane pod wyniki „godne publikacji” (Nature).

Konsekwencje dla nauki i społeczeństwa

1. Erozja zaufania – proliferacja pozornie naukowych, lecz słabo ugruntowanych artykułów może podważyć wiarygodność badań biomedycznych w oczach lekarzy, decydentów i opinii publicznej.
2. Zamieszanie informacyjne – media i pacjenci mogą wyciągać pochopne wnioski z niezweryfikowanych doniesień, co w skrajnych przypadkach zagraża zdrowiu publicznemu.
3. Wyrównywanie pola – jeśli modele AI generują podobne, schematyczne treści, prawdziwe, innowacyjne badania mogą „zginąć” w szumie niskiej jakości prac.

Jak przeciwdziałać zalewowi papierów-przepisów?

• Jawność metod: Badacze powinni precyzyjnie raportować, czy i w jaki sposób korzystali z narzędzi AI oraz jakie algorytmy i parametry zastosowali.
• Rygor statystyczny: Wprowadzanie obowiązkowych testów wielokrotnych porównań, analiza wrażliwości wyników oraz pełna transparentność surowych danych i kodu analitycznego.
• Recenzje eksperckie i reprodukowalność: Czasopisma mogą wymagać, by prace przechodziły przez dodatkowe etapy weryfikacji reproducibility checks, na przykład replikacji podstawowych wyników przez niezależne zespoły.
• Szkolenia i etyka: Podnoszenie świadomości badaczy o ryzykach automatyzacji analiz i prowadzenie warsztatów z zakresu odpowiedzialnego korzystania z otwartych danych i AI.
• Innowacyjne narzędzia monitorujące: Rozwój systemów wykrywających schematyczne wzorce w pracach naukowych (tzw. „science sleuths”), które automatycznie flagują podejrzane publikacje (Nature).

Podsumowanie

Sztuczna inteligencja ma potencjał, by przyspieszyć odkrycia biomedyczne i otworzyć nowe ścieżki terapeutyczne. Jednak bez odpowiednich zabezpieczeń może również zasypać świat nauki powtarzalnymi, pozbawionymi głębi analizami. Kluczowe jest połączenie innowacji z odpowiedzialnością: jawność procesów badawczych, rygor statystyczny i krytyczna ocena rezultatów muszą iść w parze z technologicznym postępem. Tylko w ten sposób utrzymamy wysoki poziom badań i zaufanie, na jakim opiera się cała dziedzina biomedyczna.