CS

Všechny jazyky kromě angličtiny vznikly s pomocí strojového překladu a zatím je nezkontroloval rodilý mluvčí. Opravy jsou vítány.

Metody hodnocené naslepo na skutečných TOI.

Veřejný žebříček na zmrazeném benchmarku skutečných TOI: detekované události každého příspěvku, hodnocené samotným žebříčkem pouze na odložené polovině, s 95% Wilsonovými intervaly. Nejde o prahový průzkum vkládáním (docs/threshold_sweep.md), který ladí prahy Probe na syntetických světelných křivkách.

Změřeno na uvedeném benchmarku; nic zde není objev. Sentinels ve výchozím stavu běží na Claude (Anthropic); další poskytovatelé jsou podporováni a označeni. Probes jsou deterministické detektory s přizpůsobeným filtrem.

Odložená polovina každá odložená hvězda

Benchmark nemůže ukázat, že Probes čtou světelné křivky lépe, než metadata katalogu předpovídají dispozice (párové ΔJ (floor − Probes) = +0.039, 95% CI -0,096 až +0.173, P(ΔJ ≤ 0) = 0,29).

PořadíZáznamYoudenovo JYoudenovo J, všechny hvězdyČistá úplnost, prohledatelné CP/KPZamítání FP, prohledatelné FPZnovu nalezeno pod 4 R⊕Obrácená kontrola: hvězdy s jakýmkoliKontrola s promíchanými daty: hvězdy s jakýmkoliSpolehlivost
1interval se překrývá s #2Pouze metadata, bez světelné křivky (spodní mez)metadata-baseline · laděno na sadě tuning+0.39+0.27 to +0.49+0.46+0.35 to +0.5576%114/150 · 69–82%63%78/124 · 54–71%70%32/46 · 55–81%54%166/309 · 48–59%54%166/309 · 48–59%69%114/166 · 61–75%
2interval se překrývá s #1Pouze Probesprobes · laděno na: žádné+0.35+0.23 to +0.45+0.40+0.29 to +0.4960%90/150 · 52–67%75%93/124 · 67–82%17%8/46 · 9–31%22%67/309 · 17–27%25%78/309 · 21–30%72%90/125 · 64–79%

Každá buňka: míra, poté k/n a Wilsonův 95% interval, vykreslený jako pruh od 0 do 100 % (Youdenovo J od −1 do +1, se značkou na 0). Seřazeno podle Youdenova J na prohledávatelné množině, kterou benchmark stanovil, s jedním predikátem na obou stranách (čistý kandidát: na efemeridě, prošel, bez příznaku zákrytové dvojhvězdy), takže označení každého TOI za planetu, ať označeného, nebo ne, dává nulové skóre. Kontroly podmiňují pořadí a do J nevstupují; seznamy kontrol jsou vlastním výstupem metody. Kde se intervaly překrývají, pořadí není naměřený rozdíl.

Podvzorek Sentinels 37 odložených hvězd · bez pořadí

37 hvězd nedokáže tyto konfigurace seřadit: podvzorek je uveden, nikdy neřazen, a každý interval je široký.

ZáznamYoudenovo JYoudenovo J, všechny hvězdyČistá úplnost, prohledatelné CP/KPZamítání FP, prohledatelné FPZnovu nalezeno pod 4 R⊕Obrácená kontrola: hvězdy s jakýmkoliKontrola s promíchanými daty: hvězdy s jakýmkoliSpolehlivost
Pouze Probesprobes-subsample · tuned on none+0.14-0.16 to +0.41+0.14-0.16 to +0.4142%8/19 · 23–64%72%13/18 · 49–88%0%0/8 · 0–32%8%3/37 · 3–21%22%8/37 · 11–37%62%8/13 · 36–82%
Sentinel · pouze Skepticclaude-skeptic · laděno na: žádné+0.25-0.05 to +0.50+0.25-0.05 to +0.5047%9/19 · 27–68%78%14/18 · 55–91%0%0/8 · 0–32%neměřenoneměřeno69%9/13 · 42–87%
Sentinel · samotný Volunteerclaude-volunteer · laděno na: nic+0.25-0.05 to +0.50+0.25-0.05 to +0.5047%9/19 · 27–68%78%14/18 · 55–91%0%0/8 · 0–32%neměřenoneměřeno69%9/13 · 42–87%
Probes + Sentinels, obojí (pravidlo na úrovni hvězdy, stanovené před skórováním, nikoli konsenzus panelu)probes-and-sentinel · laděno na: nic+0.25-0.04 to +0.50+0.25-0.04 to +0.5042%8/19 · 23–64%83%15/18 · 61–94%0%0/8 · 0–32%neměřenoneměřeno73%8/11 · 43–90%
Probes + Sentinels, kterýkoli z nich (pravidlo na úrovni hvězdy, stanovené před hodnocením, nikoli konsenzus panelu)probes-or-sentinel · laděno na: nic+0.08-0.22 to +0.36+0.08-0.22 to +0.3647%9/19 · 27–68%61%11/18 · 39–80%0%0/8 · 0–32%neměřenoneměřeno56%9/16 · 33–77%

Každá buňka: míra, poté k/n a Wilsonův 95% interval, vykreslený jako pruh od 0 do 100 % (Youdenovo J od −1 do +1, se značkou u 0).

Řádky Sentinel pokrývají 37 hvězd. Jejich intervaly jsou široké, obě persony sdílejí jeden model (shodují se u 35 z 37 hvězd, φ = 0,88), takže se počítají jako jeden korelovaný hlasující, nikoli dva, a nikdy nebyly spuštěny na kontrolních světelných křivkách. Řádky Probes + Sentinels jsou kombinace uložených výsledků na úrovni hvězd, stanovené před skórováním, nikoli běh konsenzu panelu.

Pravidla

  1. Hodnoceno pouze na odložené polovině zmrazeného vzorku (TOI podle parity sha256(seed:TIC)); ladicí polovina se nikdy nehodnotí.
  2. Příspěvek uvádí pro každou hvězdu ve svém rozsahu události, které jeho metoda detekovala na skutečné světelné křivce a na tokově invertovaných a blokově promíchaných kontrolách (čas, trvání, perioda, vlastní verdikt o splnění a příznaky). Žebříček sám rozhoduje, které události leží na efemeridě TOI (score_star a match_toi z benchmarku), a sám počítá falešné poplachy na kontrolách. Výsledky uváděné samotnými autory se nepřijímají.
  3. Pořadí: Youdenovo J na prohledatelné množině stanovené benchmarkem (hvězdy se 2minutovou světelnou křivkou SPOC), s jedním predikátem na obou stranách, čistým kandidátem (na efemeridě, prošel, bez označení zákrytové dvojhvězdy): J = podíl hvězd CP/KP nabídnutých jako čistí kandidáti + podíl hvězd FP nenabídnutých − 1, s Wilsonovým intervalem metodou square-and-add. Označení každého TOI za planetu, s označením i bez něj, dává J = 0; prohledatelná hvězda vedená jako neprohledaná se počítá jako nenabídnutá. J přes všechny hvězdy rozsahu je uvedeno vedle. Kde se intervaly překrývají, pořadí není naměřený rozdíl.
  4. Kontroly podmiňují pořadí a nevstupují do J: řadí se pouze odložené položky s oběma kontrolními seznamy pro každou prohledanou hvězdu, ostatní jsou uvedeny bez pořadí. Kontrolní seznamy jsou vlastní zprávou metody; žebříček je bez světelných křivek nemůže přepočítat. Podvzorek Sentinel se nikdy neřadí.
  5. Spodní mez: základní model jen z metadat nepoužívá vůbec žádnou světelnou křivku, pouze veřejné číslo TOI, periodu, délku trvání, chyby efemeridy a epochu, s logistickou regresí natrénovanou na ladicí polovině. U metody, která ho nepřekoná, není prokázáno, že čte světelné křivky lépe, než vlastní metadata katalogu předpovídají klasifikace.
  6. Příspěvek uvádí sha256 veřejných vstupů, ze kterých byl sestaven (ladicí polovina se štítky, odložená polovina bez nich). Jakýkoli jiný hash, tuned_on jiné než none nebo tuning, pole mimo whitelist, chybějící nebo přebývající hvězda nebo chybějící původ: odmítnuto, s uvedením důvodů.
  7. Hash je pouze osvědčení: odložené štítky jsou v repozitáři veřejné, takže žebříček nemůže prokázat, že nebyly přečteny, a verdikty „prošel“ a kontrolní události metody jsou jejím vlastním hlášením. Tyto mezery by uzavřely světelné křivky-návnady držené správci a prospektivní hodnocení na TOI, o nichž dosud nebylo rozhodnuto; ani jedno zatím neexistuje.
  8. Zamítnutí FP: hvězdy FP, jejichž pokles TOI metoda nenabídla jako čistého kandidáta (nalezeno a neoznačeno). Spolehlivost: podíl čistých kandidátů na poklesech TOI, které jsou CP/KP, při zastoupení tříd v tomto vzorku, které neodpovídá katalogu TOI. Všechny míry mají Wilsonovy 95% intervaly. Dispozice TFOPWG jsou referencí, nikoli absolutní pravdou pro každý TOI.
  9. Měřeno na uvedeném benchmarku; nic v tomto žebříčku není objev.

Formát odevzdání a pravidla odmítnutí: docs/leaderboard/README.md. Odevzdání ohodnotíte příkazem setuhq leaderboard <file>.

Zmrazený vzorek

sha256 zmrazeného vzorku
6f0e111ec8d2c38d3e7927505f0be4a2c7fae8b73d7cc17c37646baedf044cac
sha256 veřejných vstupů
d0e4f2d9c5538800e9a34d018757f99e1d1672060e71ae56bbaf87fcaf0c15b4
úplný vzorek (se zadrženými štítky), kanonický sha256: odmítnuto, pokud je uveden
3d420ac0bc628e2fe02b0c3b4c73b287f75a6ee2be351bf42011497d7e45c3cf
sha256 podvzorku Sentinel
999c61bddc47cae0f47674ea77e1524c77697ad7da35d52f2abd7578924016b2
commit kódu benchmarku
0ae8ccf0a23502a2324759a23a7d5ca277d63bcc

Vzorek: docs/results/benchmark_toi_sample.json. Veřejné vstupy: docs/leaderboard/tuning_inputs.json. Dispozice TFOPWG jsou referencí, ne skutečnou pravdou pro každý TOI.

↑ ↓ pro pohyb · Enter pro otevření · Esc pro zavření