연구 윤리와 오픈 사이언스

연구 무결성

왜 필요한가. 과학은 다른 사람의 결과를 믿고 그 위에 쌓는 일이다. 모든 결과를 직접 확인할 수는 없으므로, 보고된 결과가 실제로 한 일을 정확히 나타낸다는 신뢰가 공동체 전체의 기반이다. 연구 무결성(research integrity)은 이 신뢰를 지키는 원칙이다. 2010년 세계연구진실성회의에서 나온 싱가포르 선언은 그 원칙을 정직(honesty), 책임(accountability), 다른 연구자에 대한 예의와 공정(professional courtesy and fairness), 다른 사람을 대신한 연구의 성실한 관리(good stewardship)로 요약한다. 유럽 학술원 연합(ALLEA)의 연구 진실성 행동 강령처럼 이를 구체화한 지침도 있다. 소속 기관의 연구윤리 규정은 대개 이런 지침을 바탕으로 한다.

위조·변조·표절. 가장 심각한 연구 부정으로 널리 꼽히는 세 가지다.

변조의 정의에 빼는 것이 들어간다는 점에 주의한다. 어떤 값을 바꾸지 않아도, 결과를 골라 보고해 연구의 실제 모습과 다르게 보이게 하면 변조에 가까워진다.

결과 선택 보고의 문제. 명백한 부정보다 훨씬 흔한 것이 회색 지대의 관행이다.

• 선택 보고(selective reporting). seed 다섯 개 중 가장 좋은 seed, 데이터셋 열 개 중 이긴 세 개, 지표 다섯 개 중 좋아 보이는 두 개만 보고한다.
• test set 재사용. test 결과를 보면서 설정을 고른다. 학습에 쓰지 않았어도 선택에 쓰면 결과가 부풀려진다. 시도 횟수가 많을수록 커지는 이 편향은 4.6장에서 계산으로 보였다.
• 결과를 본 뒤의 가설(HARKing). 결과를 보고 만든 가설을 처음부터 세운 가설인 것처럼 쓴다(Kerr, 1998). 탐색에서 나온 가설은 탐색에서 나왔다고 쓰면 정당한 기여다.
• 조용한 계획 변경. 분할·지표·전처리를 결과를 본 뒤 바꾸고 그 사실을 밝히지 않는다.

이 관행들의 공통점은 각 단계는 정당해 보이지만 보고서가 실제 과정을 숨긴다는 것이다. 해결책도 공통이다. 무엇을 시도했고 무엇을 뺐는지를 기록하고(23.7장), 계획에서 벗어난 것은 벗어났다고 쓴다(23.5장).

재현 가능한 보고. 결과를 정직하게 보고한다는 것은 구체적으로 다음을 뜻한다.

• 실행 횟수, 바꾼 무작위성(seed, 분할), 평균과 퍼짐(표준편차인지 신뢰구간인지 명시)을 쓴다(22.2장).
• 실패하거나 발산한 run을 뺐다면 그 수와 기준을 쓴다.
• 하이퍼파라미터 탐색의 범위와 예산을 baseline과 제안 방법에 똑같이 쓴다. baseline만 기본값으로 두는 것은 공정한 비교가 아니다.
• 이상치 제거·데이터 정제 규칙은 분석 전에 정하고, 규칙과 제거한 수를 보고한다.
• 부정적 결과와 한계를 쓴다. "이 방법은 X 조건에서는 개선이 없었다"는 다음 연구자의 시간을 아낀다.

저자와 인용

왜 필요한가. 저자 표시(authorship)는 공로와 책임을 함께 나타낸다. 저자 목록에 이름이 오르면 그 논문의 기여를 인정받는 동시에, 논문에 오류나 부정이 있을 때 책임을 진다. 기여한 사람을 빼는 것(유령 저자, ghost authorship)과 기여하지 않은 사람을 넣는 것(선물 저자, gift authorship)은 둘 다 이 연결을 끊는다.

저자 기여 기준. 분야마다 기준이 다르다. 의학 분야에서 널리 쓰이는 ICMJE 권고는 저자가 되려면 네 가지를 모두 충족해야 한다고 본다. 요지는 다음과 같다(정확한 문구는 ICMJE 원문에서 확인한다).

1. 연구의 구상·설계, 또는 데이터의 획득·분석·해석에 실질적으로 기여했다.
2. 원고를 쓰거나 중요한 지적 내용을 비판적으로 수정했다.
3. 출판될 최종본을 승인했다.
4. 연구의 모든 부분에 대해 책임을 지는 데 동의했다(정확성·무결성에 관한 질문이 제기되면 적절히 조사·해결되도록).

이 권고는 연구비 확보나 연구 그룹의 일반적인 지도만으로는 저자 자격이 되지 않는다고 보고, 그런 기여는 감사의 글(acknowledgments)에 적도록 한다. ML과 물리·화학 분야는 저마다 관행이 다르다. 대규모 실험 협업은 알파벳 순서의 긴 저자 목록을 쓰고, ML 논문은 "공동 제1저자(equal contribution)" 표시를 흔히 쓴다. 생명과학에서는 마지막 저자가 연구 책임자인 관행이 강하다. 관행이 다르기 때문에 기준을 프로젝트 초기에 명시적으로 합의하는 것이 중요하다. 학제 간 협업에서는 특히 그렇다(23.13장).

기여의 기록. 저자 목록의 순서만으로는 누가 무엇을 했는지 알 수 없다. CRediT(Contributor Roles Taxonomy)는 기여를 구상(conceptualization), 데이터 큐레이션(data curation), 형식적 분석(formal analysis), 연구비 확보(funding acquisition), 조사·실험 수행(investigation), 방법론(methodology), 프로젝트 관리(project administration), 자원 제공(resources), 소프트웨어(software), 지도(supervision), 검증(validation), 시각화(visualization), 초고 작성(writing – original draft), 검토·수정(writing – review & editing)의 14개 역할로 나눈다(Brand 외, 2015). 많은 저널이 이 분류로 기여 진술(contribution statement)을 받는다. CRediT는 저자 자격을 판정하는 기준이 아니라 기여를 기록하는 어휘다. 저자 기준(예: 위의 네 조건)과 함께 쓴다.

인용 윤리. 인용은 아이디어의 출처를 밝히고, 독자가 근거를 확인할 수 있게 한다.

• 읽은 것을 인용한다. 다른 논문의 참고문헌 목록에서 옮긴 인용, AI 도구가 제시한 인용은 원문을 직접 확인한 뒤에만 쓴다. AI 도구는 존재하지 않는 논문이나 그 주장을 하지 않은 논문을 그럴듯하게 제시할 수 있다(4.3장).
• 원 출처를 인용한다. 개념을 처음 제안한 논문과, 실제로 쓴 구현·데이터의 출처를 구분해 둘 다 인용한다.
• 데이터와 소프트웨어도 인용한다. 데이터셋과 라이브러리가 지정한 인용 형식(논문, DOI, CITATION.cff 파일 등)을 따른다.
• 문장을 옮기면 인용 부호를 쓴다. 출처를 달아도 문장을 그대로 옮기고 인용 부호가 없으면 표절이다. 자신의 이전 논문의 문장을 그대로 재사용하는 것(text recycling)도 저널마다 규정이 있다.
• 인용을 부풀리지 않는다. 관련 없는 자기 논문이나 동료 논문을 끼워 넣지 않는다. 심사자가 자기 논문 인용을 강요하는 것도 같은 문제다(23.11장).

데이터와 라이선스

왜 필요한가. AI 연구는 데이터에서 시작하고, 데이터에는 출처와 조건이 있다. 데이터의 이용 조건을 어기면 결과를 공개하지 못하거나, 공개한 뒤 내려야 하거나, 데이터를 제공한 사람들의 신뢰를 잃는다. 이 절은 연구 윤리 관점에서 무엇을 확인할지를 정리한다. 라이선스 조건의 세부, 가명화의 기술, 데이터 문서의 항목은 15.5장에서 다뤘다.

데이터 이용 조건. 데이터를 쓰기 전에 네 가지를 확인하고 기록한다.

공개 데이터라고 무엇이든 써도 되는 것은 아니다. 공개(publicly available)는 접근할 수 있다는 뜻이지, 어떤 목적으로든 써도 된다는 뜻이 아니다. 비상업 조건, 재배포 금지, 특정 용도 금지, 인용 의무가 붙은 공개 데이터가 많다. 웹에서 수집한 데이터는 사이트의 이용 약관과 저작권이 따로 적용될 수 있다. 사람에 관한 데이터는 원래 동의받은 연구 목적 밖에서 쓰는 것이 허용되지 않을 수 있다. 판단이 어려우면 데이터 제공자와 소속 기관의 담당 부서(연구윤리위원회, 산학협력·법무 부서)에 확인한다.

동의와 개인정보. 사람에게서 나온 데이터(의료 기록, 생체 신호, 설문, 위치, 사진)는 다음을 지킨다.

• 연구윤리위원회의 승인 범위와 동의서의 이용 범위 안에서만 쓰고, 그 근거를 기록한다.
• 가명화는 익명화가 아니다. 준식별자의 조합으로 재식별될 수 있다(15.5장).
• 원본은 접근이 통제된 곳에서 다루고, 개인 기기나 외부 서비스로 옮기지 않는다. 외부 AI 서비스에 데이터를 붙여 넣는 것도 외부 전송이다.
• 모델 자체가 학습 데이터를 기억해 내보낼 수 있다는 점도 고려한다. 민감 데이터로 학습한 모델의 가중치 공개는 데이터 공개와 같은 수준으로 검토한다.

소프트웨어 라이선스 선택. 공개하는 코드에는 라이선스를 붙인다. 라이선스 파일이 없는 공개 코드는 "누구나 써도 되는 코드"가 아니다. 대부분의 법체계에서 저작물은 기본적으로 저작권자에게 권리가 있으므로, 명시적인 허락이 없으면 다른 사람이 안심하고 쓰거나 고치거나 재배포할 수 없다. 공개의 목적인 재사용이 막힌다.

라이선스는 크게 두 계열로 나뉜다(구체적인 조건은 각 라이선스 원문에서 확인한다).

선택할 때 확인할 것은 다음과 같다.

1. 소속 기관의 규정. 연구 결과물의 지식재산권이 기관에 있을 수 있다. 공개 전에 기관의 절차를 확인한다.
2. 의존성과 가져온 코드의 라이선스. 다른 저장소에서 가져온 코드는 그 라이선스를 따른다. 카피레프트 코드를 섞으면 전체 공개 조건이 달라질 수 있다.
3. 공동 연구 계약. 산업체·외부 기관과의 협약이 공개 범위를 정하고 있을 수 있다.
4. 데이터·모델은 따로. 코드 라이선스는 데이터와 모델 가중치에 자동으로 적용되지 않는다. 데이터와 문서에는 Creative Commons 계열(예: CC BY, CC0)을 흔히 쓰고, 공개 모델 가중치에는 용도 제한이 붙은 별도 라이선스가 쓰이기도 한다. 남의 모델을 미세조정했다면 원 모델의 라이선스를 확인한다.

AI 도구 사용

왜 필요한가. 생성형 AI 도구는 코드 작성, 문헌 요약, 문장 다듬기, 그림 생성, 데이터 분석에 두루 쓰인다. 도구를 쓰는 것 자체가 문제가 아니라, 무엇을 도구가 했는지 알 수 없게 되는 것이 문제다. 독자와 심사자는 결과가 어떤 과정으로 나왔는지 알아야 그 결과를 평가할 수 있다.

원칙. 학회·저널의 정책은 다양하고 빠르게 바뀌지만, 공통된 방향이 있다.

• AI 도구는 저자가 될 수 없다. 출판 윤리 위원회(COPE)는 AI 도구가 제출한 연구에 책임을 질 수 없으므로 저자 요건을 충족할 수 없다는 입장을 밝혔다. 도구가 만든 부분을 포함해 원고 내용의 책임은 저자에게 있다.
• 사용을 밝힌다. 어떤 도구를 어떤 목적으로 썼는지를 학회·저널이 정한 위치(방법 절, 감사의 글, 별도 진술)에 쓴다. 문법 교정 정도는 공개 대상에서 빼는 정책도 있고, 모든 사용을 밝히라는 정책도 있다. 투고처의 정책을 원문에서 확인한다.
• 검증한다. 도구가 만든 코드·수식·인용·요약은 직접 확인한 것만 쓴다. "AI가 쓴 코드였다"는 오류의 변명이 되지 않는다(4.3장).
• 기밀을 지킨다. 공개되지 않은 데이터, 심사 중인 원고, 공동 연구자의 미발표 결과를 외부 AI 서비스에 넣는 것은 제3자에게 보내는 것이다. 데이터 계약과 기관 정책을 확인한다.
• 그림과 데이터는 특히 조심한다. AI로 생성하거나 수정한 영상·그림을 실험 결과처럼 제시하는 것은 위조·변조가 된다. 예시 그림이나 개념도에 생성 도구를 썼다면 그 사실을 밝힌다.

사용 기록. 공개 의무가 어떻든, 자신을 위해 사용 기록을 남긴다. 논문을 쓸 때 무엇을 밝혀야 할지, 심사자가 물을 때 무엇을 답할지가 여기서 나온다.

코드 작업이라면 commit 기록이 사용 기록의 일부가 된다. 이 책의 저장소는 에이전트가 만든 commit 메시지 끝에 공동 작성자 표시와 작업 세션 링크를 남긴다(4.6장).

오픈 사이언스

왜 필요한가. 오픈 사이언스(open science)는 연구의 산출물(논문, 코드, 데이터, 모델, 프로토콜)을 다른 사람이 확인하고 다시 쓸 수 있게 공개하는 실천이다. 공개된 코드와 데이터가 있으면 심사자와 독자가 결과를 확인하고, 결과가 재현되지 않을 때 원인을 찾고, 같은 출발점에서 다음 연구를 할 수 있다(1.6장). 데이터 공개의 원칙으로는 찾을 수 있고(Findable), 접근할 수 있고(Accessible), 상호 운용되고(Interoperable), 재사용할 수 있게(Reusable) 하라는 FAIR 원칙이 널리 쓰인다(Wilkinson 외, 2016).

공개의 단위: 재현 패키지. 공개는 저장소 링크 하나가 아니다. 다른 사람이 같은 명령으로 같은 숫자를 다시 얻을 수 있는 묶음이 공개의 단위다. 이 묶음을 재현 패키지(reproducibility package) 또는 artifact라 한다.

my-paper-artifact/                 # 집필 시점 예시 구조
├── README.md          # 무엇을 재현하는가, 설치, 실행 명령, 기대 결과, 소요 시간·하드웨어
├── LICENSE            # 코드 라이선스
├── CITATION.cff       # 인용 방법
├── environment/       # lockfile 또는 컨테이너 정의(버전 고정)
├── data/README.md     # 데이터 출처, 라이선스, 받는 방법, manifest 해시, 분할 파일
├── configs/           # 논문의 각 표·그림에 대응하는 설정
├── scripts/           # 표·그림을 만드는 실행 스크립트
└── results/expected/  # 기대 결과(표의 숫자, 허용 변동 범위)

README에는 논문의 각 표·그림과 그것을 만드는 명령의 대응표를 둔다. "표 2: bash scripts/table2.sh (GPU 1장 기준 약 3시간, seed 5개 평균 ± 표준편차가 results/expected/table2.csv의 범위 안에 들어야 함)" 같은 형태다. 데이터를 공개할 수 없다면 data/README.md에 접근 신청 방법을 쓰고, 같은 스키마의 작은 합성 데이터로 파이프라인 전체가 돌아가는 것을 보인다.

artifact 문서화. 공개하는 데이터와 모델에는 문서를 붙인다. 데이터셋에는 동기·구성·수집 과정·권장 용도·한계를 담은 데이터시트(Gebru 외, 2021; 15.5장)를, 학습된 모델에는 의도한 용도, 평가 조건, 조건별 성능, 알려진 한계를 담은 모델 카드(Mitchell 외, 2019)를 쓴다. 특히 권장하지 않는 용도와 평가하지 않은 조건을 명시한다. 상온 데이터로만 학습한 배터리 모델이라면 "저온 조건은 평가하지 않았다"를 쓴다.

공개의 한계: 이중 용도. 공개가 언제나 이로운 것은 아니다. 이중 용도(dual use)는 이로운 목적으로 만든 연구가 해로운 목적으로도 쓰일 수 있는 성질이다. AI for Science에서는 이 위험이 구체적이다. Urbina 외(2022)는 신약 개발용 생성 모델의 목표를 독성 회피에서 독성 추구로 뒤집기만 해도 알려진 화학 작용제와 비슷한 분자가 대량으로 생성됨을 보고하며, 이 분야의 연구자들이 오용 가능성을 의식할 필요를 제기했다. 병원체, 화학 물질, 핵심 기반시설, 감시 기술에 관련된 연구에서 공개 전에 다음을 검토한다.

• 무엇이 위험을 실질적으로 높이는가. 방법의 개념인가, 학습된 모델 가중치인가, 특정 생성 결과인가, 데이터인가. 위험은 대개 이 중 일부에 집중되어 있다.
• 공개의 형태. 전부 공개와 비공개 사이에 단계가 있다. 방법과 평가는 공개하고 위험한 생성 결과는 빼기, 모델을 신원 확인된 연구자에게만 제공하기, 단계적으로 공개하기.
• 혼자 판단하지 않는다. 소속 기관의 연구윤리·연구안전 담당 부서, 분야의 전문가, 해당 분야의 정부 규정을 확인한다. 생명과학처럼 이중 용도 연구에 대한 규정이 따로 있는 분야도 있다.

위험이 있다고 연구를 감추는 것만이 답은 아니다. 위험의 존재와 그에 대한 판단을 논문에 쓰는 것도 공동체에 대한 기여다.

참고 문헌

• World Conference on Research Integrity (2010). Singapore Statement on Research Integrity. — 연구 진실성의 네 원칙과 열네 가지 책임
• ALLEA (2023). The European Code of Conduct for Research Integrity, Revised Edition 2023. — 유럽의 연구 진실성 행동 강령. 데이터 관리, 오픈 사이언스, AI 도구에 관한 내용을 반영한 개정판
• International Committee of Medical Journal Editors (ICMJE). Recommendations for the Conduct, Reporting, Editing, and Publication of Scholarly Work in Medical Journals — "Defining the Role of Authors and Contributors". — 저자 자격의 네 조건. 최신판은 ICMJE 웹사이트에서 확인한다
• Brand, A., Allen, L., Altman, M., Hlava, M., & Scott, J. (2015). Beyond authorship: Attribution, contribution, collaboration, and credit. Learned Publishing, 28(2), 151–155. — CRediT 기여 역할 분류
• Committee on Publication Ethics (COPE) (2023). Authorship and AI tools (COPE position statement). — AI 도구는 저자 요건을 충족할 수 없고, 사용을 밝혀야 한다는 입장
• Kerr, N. L. (1998). HARKing: Hypothesizing after the results are known. Personality and Social Psychology Review, 2(3), 196–217. — 결과를 본 뒤 만든 가설을 사전 가설처럼 제시하는 관행
• Wilkinson, M. D., et al. (2016). The FAIR guiding principles for scientific data management and stewardship. Scientific Data, 3, 160018.
• Gebru, T., et al. (2021). Datasheets for datasets. Communications of the ACM, 64(12), 86–92.
• Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., & Gebru, T. (2019). Model cards for model reporting. In Proceedings of the Conference on Fairness, Accountability, and Transparency (FAT* '19), 220–229. — 학습된 모델의 문서화 양식
• Urbina, F., Lentzos, F., Invernizzi, C., & Ekins, S. (2022). Dual use of artificial-intelligence-powered drug discovery. Nature Machine Intelligence, 4, 189–191. — 신약 개발용 생성 모델의 오용 가능성을 보인 사례