단독 '9억 지원' 논문에 'AI 가짜 출처'...KCI 등재 첫 철회

[앵커]
9억 원 가까운 정부 예산이 투입된 국내 KCI 등재 논문이 인공지능이 만들어낸 가짜 출처를 무더기로 인용했다가 적발돼 결국 철회됐습니다.

공공기관인 한국연구재단으로부터 연구비를 지원받은 논문 가운데 AI 활용 문제로 게재가 철회된 건 이번이 처음입니다.

황보혜경 기자의 단독 보도입니다.

[기자]
중국의 우주산업 생태계와 군민협력 체계를 분석한 국내 모 대학 연구진 논문입니다.

지난 2020년 과학기술정보통신부 산하 한국연구재단 등으로부터 8억8천만 원 가까이 지원받은 연구 성과물로, 국내에서 공신력을 인정받은 KCI 등재 학술지에 게재됐습니다.

그런데 논문 원문에 '게재 철회'를 의미하는 워터마크가 선명하게 찍혀 있습니다.

논문에 수록된 참고문헌에서 오류가 무더기로 발견됐기 때문입니다.

우주 전략을 다룬 논문인데 생뚱맞게 중국 정부의 '눈 건강 정책' 문서가 붙어 있는가 하면, 제목이 실제와 다른 경우도 여럿 발견됐습니다.

이렇게 확인된 출처 오류만 전체 40여 건 가운데 17건에 달합니다.

저자가 생성형 AI를 활용해 참고문헌을 정리하는 과정에서, AI가 만든 '가짜 참조'를 그대로 갖다 쓴 겁니다.

최근 5년 동안 한국연구재단 사업비가 지원된 KCI 등재 학술지 논문 가운데 AI 활용 문제로 게재가 철회된 건 이번이 첫 사례입니다.

연구비 지원을 받지 않은 논문들까지 감안하면 실제 AI 오남용 실태는 전수 파악조차 어려운 실정입니다.

부실한 검증 체계도 문제입니다.

논문이 게재된 건 지난해 3월, 학회 조교가 오류를 찾아내 철회되기까지 1년이 넘도록 KCI 등재 자격을 유지한 채 다른 논문들에도 인용돼 왔습니다.

[이주희 / 더불어민주당 의원(국회 과방위) : 사후에 학회가 윤리 검증을 하면서 문제가 드러났다는 것이거든요. KCI 등재 과정에 대한 절차적인 문제라든지 제도적 허점도 제대로 살펴봐야 될 것이고….]

논문 저자인 정 모 씨는 AI 도구는 참고문헌 검색 등 보조적인 용도로만 썼다며, 편집 과정에서 발생한 비의도적 오류라고 해명했습니다.

하지만 연구 윤리 부정 행위로 최종 판정돼 3년 동안 해당 학술지 논문 투고 금지 처분이 내려졌습니다.

연구 환경 전반에 AI 활용이 급증하면서 연구윤리 위반 우려도 덩달아 커지고 있는 상황.

이를 예방하기 위한 생성형 AI 활용 가이드라인은 강제성 없는 선언적 문구에 불과해, 심사 과정에서 검증 절차 강화 등 실효성 있는 대책 마련이 시급하단 지적입니다.

YTN 황보혜경입니다.

영상기자 : 온승원
영상편집 : 서영미
디자인 : 김서연

YTN 황보혜경 (bohk1013@ytn.co.kr)