Metoder, vurdert blindt på ekte TOI-er.

Den offentlige rangeringslisten på den fastfrosne referansetesten med ekte TOI-er: hvert bidrags detekterte hendelser, vurdert av rangeringslisten selv bare på den tilbakeholdte halvdelen, med Wilson-intervaller på 95 %. Ikke terskelsveipet med injeksjoner (docs/threshold_sweep.md), som stiller inn tersklene til Probes på syntetiske lyskurver.

Målt på en oppgitt referansetest; ingenting her er en oppdagelse. Sentinels kjører som standard på Claude (Anthropic); andre leverandører støttes og merkes. Probes er deterministiske matchede filterdetektorer.

Tilbakeholdt halvdel hver tilbakeholdte stjerne

Referansetesten kan ikke vise at Probes leser lyskurver bedre enn katalogmetadata forutsier disposisjoner (parret ΔJ (gulv − Probes) = +0.039, 95 % KI −0,096 til +0.173, P(ΔJ ≤ 0) = 0,29).

RangeringOppføringYouden JYouden J, alle stjernerRen fullstendighet, søkbare CP/KPFP-avvisning, søkbar FPGjenfunnet under 4 R⊕Omvendt kontroll: stjerner med noenOmstokket kontroll: stjerner med noenPålitelighet
1intervallet overlapper #2Bare metadata, ingen lyskurve (et gulv)metadata-baseline · tunet på tuning+0.39+0.27 to +0.49+0.46+0.35 to +0.5576%114/150 · 69–82%63%78/124 · 54–71%70%32/46 · 55–81%54%166/309 · 48–59%54%166/309 · 48–59%69%114/166 · 61–75%
2intervallet overlapper #1Bare Probesprobes · innstilt på ingen+0.35+0.23 to +0.45+0.40+0.29 to +0.4960%90/150 · 52–67%75%93/124 · 67–82%17%8/46 · 9–31%22%67/309 · 17–27%25%78/309 · 21–30%72%90/125 · 64–79%

Hver celle: raten, deretter k/n og Wilson-intervallet på 95 %, tegnet som en stolpe fra 0 til 100 % (Youden J fra −1 til +1, med et merke ved 0). Rangert etter Youdens J på det søkbare settet som benchmarken fastsatte, med ett predikat på begge sider (en ren kandidat: på efemeriden, bestått, uten flagg for formørkende dobbeltstjerne), slik at det å kalle hver TOI en planet, flagget eller ikke, gir null poeng. Kontrollene avgjør om rangering tillates og inngår ikke i J, og kontrollistene er metodens egen rapport. Der intervallene overlapper, er rekkefølgen ikke en målt forskjell.

Delutvalget til Sentinels 37 tilbakeholdte stjerner · ikke rangert

37 stjerner kan ikke rangere disse konfigurasjonene: delutvalget listes opp, aldri rangert, og hvert intervall er bredt.

OppføringYouden JYouden J, alle stjernerRen fullstendighet, søkbare CP/KPFP-avvisning, søkbar FPGjenfunnet under 4 R⊕Omvendt kontroll: stjerner med noenOmstokket kontroll: stjerner med noenPålitelighet
Bare Probesprobes-subsample · tuned on none+0.14-0.16 to +0.41+0.14-0.16 to +0.4142%8/19 · 23–64%72%13/18 · 49–88%0%0/8 · 0–32%8%3/37 · 3–21%22%8/37 · 11–37%62%8/13 · 36–82%
Sentinel · Skeptiker aleneclaude-skeptic · tunet på ingen+0.25-0.05 to +0.50+0.25-0.05 to +0.5047%9/19 · 27–68%78%14/18 · 55–91%0%0/8 · 0–32%ikke måltikke målt69%9/13 · 42–87%
Sentinel · Volunteer aleneclaude-volunteer · innstilt på ingen+0.25-0.05 to +0.50+0.25-0.05 to +0.5047%9/19 · 27–68%78%14/18 · 55–91%0%0/8 · 0–32%ikke måltikke målt69%9/13 · 42–87%
Probes + Sentinels, begge (regel på stjernenivå, fastsatt før poengberegning, ikke panelkonsensus)probes-and-sentinel · justert på ingen+0.25-0.04 to +0.50+0.25-0.04 to +0.5042%8/19 · 23–64%83%15/18 · 61–94%0%0/8 · 0–32%ikke måltikke målt73%8/11 · 43–90%
Probes + Sentinels, en av dem (regel på stjernenivå, fastsatt før scoring, ikke panelkonsensus)probes-or-sentinel · justert på ingen+0.08-0.22 to +0.36+0.08-0.22 to +0.3647%9/19 · 27–68%61%11/18 · 39–80%0%0/8 · 0–32%ikke måltikke målt56%9/16 · 33–77%

Hver celle: raten, deretter k/n og Wilson-intervallet på 95%, tegnet som en stolpe fra 0 til 100% (Youden J fra −1 til +1, med et merke ved 0).

Sentinel-radene dekker 37 stjerner. Intervallene deres er brede, de to personaene deler én modell (de er enige om 35 av 37 stjerner, φ = 0,88), så de teller som én korrelert velger, ikke to, og de ble aldri kjørt på kontroll-lyskurvene. Probes + Sentinels-radene er kombinasjoner av lagrede utfall på stjernenivå, angitt før poengberegningen, ikke en kjøring av panelets konsensus.

Regler

  1. Vurdert bare på den tilbakeholdte halvdelen av det frosne utvalget (TOI-er etter sha256(seed:TIC)-paritet); tuninghalvdelen vurderes aldri.
  2. En innsending lister, for hver stjerne i sitt omfang, hendelsene metoden påviste på den ekte lyskurven og på de fluksinverterte og blokkomstokkede kontrollene (tid, varighet, periode, egen bestått-vurdering og flagg). Resultatlisten avgjør hvilke hendelser som ligger på TOI-ens efemeride (referansetestens score_star og match_toi) og teller selv falske alarmer i kontrollene. Selvrapporterte utfall godtas ikke.
  3. Rangering: Youdens J på det søkbare utvalget som referansetesten fastsatte (stjerner med en SPOC-lyskurve på 2 minutter), med ett og samme predikat på begge sider, en ren kandidat (på efemeriden, bestått, uten flagg for formørkelsesdobbeltstjerne): J = andelen CP/KP-stjerner som tilbys som rene kandidater + andelen FP-stjerner som ikke tilbys − 1, med et Wilson-intervall kombinert ved kvadrering og addisjon. Å kalle hver TOI en planet, med eller uten flagg, gir J = 0; en søkbar stjerne som er oppgitt som ikke søkt, teller som ikke tilbudt. J over alle stjerner i omfanget vises ved siden av. Der intervallene overlapper, er rekkefølgen ikke en målt forskjell.
  4. Kontrollene styrer rangeringen og inngår ikke i J: bare tilbakeholdte oppføringer med begge kontrollistene for hver søkte stjerne rangeres, andre listes urangert. Kontrollistene er metodens egen rapport; topplisten kan ikke beregne dem på nytt uten lyskurvene. Sentinel-utvalget rangeres aldri.
  5. Et gulv: grunnlinjen som bare bruker metadata, bruker ingen lyskurve i det hele tatt, kun det offentlige TOI-nummeret, perioden, varigheten, efemeridefeilene og epoken, med en logistisk regresjon tilpasset på tuningdelen. En metode som ikke slår den, er ikke vist å lese lyskurvene bedre enn katalogens egne metadata forutsier klassifiseringene.
  6. En innsending oppgir sha256 for de offentlige inndataene den ble bygget fra (tuningdelen med etiketter, den tilbakeholdte delen uten). Enhver annen hash, tuned_on med annen verdi enn none eller tuning, et felt utenfor hvitelisten, en manglende eller ekstra stjerne, eller manglende proveniens: avvist, med årsakene oppført.
  7. Hashen er en attestasjon: de tilbakeholdte etikettene er offentlige i repositoriet, så resultatlisten kan ikke bevise at de ikke ble lest, og en metodes bestått-vurderinger og kontrollhendelser er metodens egen rapport. Lokke-lyskurver som holdes av vedlikeholderne, og prospektiv scoring på TOI-er som ennå ikke har fått noen disposisjon, ville lukket disse hullene; ingen av delene finnes ennå.
  8. FP-avvisning: FP-stjerner der metoden ikke tilbød TOI-dippen som en ren kandidat (gjenfunnet og ikke flagget). Pålitelighet: andelen rene kandidater på TOI-dipper som er CP/KP, med dette utvalgets klassefordeling, som ikke er TOI-katalogens. Alle rater har Wilson 95%-intervaller. TFOPWG-disposisjoner er referansen, ikke fasit for hver TOI.
  9. Målt på en oppgitt referansetest; ingenting på denne resultattavlen er en oppdagelse.

Innsendingsformat og avvisningsregler: docs/leaderboard/README.md. Gi en innsending poeng med setuhq leaderboard <file>.

Det frosne utvalget

sha256 for frosset utvalg
6f0e111ec8d2c38d3e7927505f0be4a2c7fae8b73d7cc17c37646baedf044cac
sha256 for offentlige inndata
d0e4f2d9c5538800e9a34d018757f99e1d1672060e71ae56bbaf87fcaf0c15b4
fullt utvalg (med tilbakeholdte etiketter), kanonisk sha256: avvises hvis oppgitt
3d420ac0bc628e2fe02b0c3b4c73b287f75a6ee2be351bf42011497d7e45c3cf
Sha256 for Sentinel-delutvalget
999c61bddc47cae0f47674ea77e1524c77697ad7da35d52f2abd7578924016b2
commit for benchmarkkoden
0ae8ccf0a23502a2324759a23a7d5ca277d63bcc

Utvalg: docs/results/benchmark_toi_sample.json. Offentlige input: docs/leaderboard/tuning_inputs.json. TFOPWG-disposisjoner er referansen, ikke fasit for hver TOI.

↑ ↓ for å flytte · Enter for å åpne · Esc for å lukke