Atrogi

15 av 16 rätt, varje gång.*

Atrogi · 18 september 2026

Av Andreas Dahlström, chef för Deeptech-teamet, medgrundare

Ett läkemedelsbolag i klinisk fas som utvecklar ett läkemedel mot metabol sjukdom använder Hippocampus för att korsreferera konkurrerande terapier innan det binder FoU-medel.

Rubrikbild för 15 av 16 rätt, varje gång.*

Problemet

Innan Atrogi bestämmer vart nästa forskningsbudget ska gå behöver teamet veta vad tillsynsmyndigheter och tidigare studier fann för terapier med samma syfte: doser, avbrottsfrekvenser, säkerhetssignaler, återstående patenttid. För de tre ledande GLP-1-terapierna för viktkontroll ligger den evidensen i tio FDA-granskningar, produktinformationer och en studiepublikation. 2 198 sidor. De AI-verktyg Atrogi hade prövat missade antingen svaret eller hittade på ett.

Utvärderingen

Atrogis team skrev sexton frågor, från enskilda fakta till syntes över alla tre terapier, plus en fråga dokumenten inte kan besvara, för att se om systemet skulle erkänna det. Varje fråga ställdes tre gånger i separata konversationer, och hela uppsättningen kördes två gånger.

Vad som hände

  • 93 av 96 svar korrekta. Femton av sexton frågor rätt i var och en av sex upprepningar.
  • Noll påhittade svar eller siffror.
  • Den obesvarbara frågan avböjd sex gånger av sex. Ombett att rangordna terapierna efter tid till generisk konkurrens sa systemet vad som saknades i stället för att producera en rimlig rangordning.
  • Varje svar hänvisat till dokument, avsnitt och sida.

De tre missarna kom från en fråga: vilka säkerhetssignaler alla tre terapier delar. FDA placerar samma hjärtfrekvensfynd under ett annat avsnitt för en av de tre. Två av tre ledande modeller som svarar ur minnet gör fel här. Hippocampus svarade rätt 3 av 6 gånger, upp från 1 av 6 i föregående version.

Kontrollera själv

Alla tio dokument är offentliga. Vi laddar dem i en separat arbetsyta så att du kan ställa dina egna frågor, med den modell du väljer. Metod, korpus och varje frågas resultat finns på benchmarksidan.


*Claude Opus 5 som svarsmodell. 16 expertfrågor, var och en ställd tre gånger per upprepning, hela uppsättningen körd två gånger (96 svar), över 10 offentliga FDA-dokument (2 198 sidor) för tre GLP-1-terapier. Thalius utvärdering, 16–17 september 2026.