실습 · 연습문제 1개
보고된 단일 실행값이 재현 범위 안에 있는가 single-run-interval
논문은 한 번 실행한 값 하나를 보고했고, 나는 같은 조건에서 seed 개로 재현해 값 을 얻었다. 평균 , 표본 표준편차 (ddof=1), 이라 할 때 세 함수를 완성한다.
mean_interval(runs, level=0.95): 평균의 신뢰구간 을(lo, hi)로 반환한다.single_run_interval(runs, level=0.95): 새로 한 번 실행한 값의 예측구간 을(lo, hi)로 반환한다.is_consistent(reported, runs, level=0.95): 보고값이 예측구간 안에 있으면True.
분위수는 scipy.stats.t.ppf로 구한다. 테스트는 시뮬레이션으로, 예측구간은 새 단일 실행값을 약 95% 덮지만 평균의 신뢰구간은 그보다 훨씬 적게 덮는다는 것을 확인한다. 단일 실행값을 평균의 신뢰구간과 비교하면, 제대로 재현된 결과도 "재현 실패"로 판정하게 된다.