20년간 네이버 뉴스 댓글 1억 1,000만 건 분석, 외국 연계 영향력 활동 의심 계정 약 2만 4,000개 식별
선거철마다 반복되는 온라인 갈등 뒤에 조직적인 여론 개입이 숨어 있다면 어떨까. KAIST 연구진이 20년간 축적된 1억 1,000만 건의 뉴스 댓글을 AI로 분석해, 외국 연계 영향력 활동으로 의심되는 흔적과 그 판단 근거까지 찾아내는 기술을 개발했다.
KAIST(총장 배충식)는 문화기술대학원 이원재 교수, 전산학부 차미영 교수(독일 막스플랑크 연구소 단장 겸임), 오혜연 교수 공동연구팀이 막스플랑크 연구소 토르스텐 홀츠 교수와 국제 공동연구를 통해 온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴을 자동으로 탐지하고, 그 판단 근거까지 제시하는 ‘설명 가능한 AI 기술’을 개발했다고 8월 12일 밝혔다.
특정 세력이 댓글이나 게시물을 조직적으로 확산해 사람들의 인식이나 여론에 영향을 미치려는 활동을 ‘온라인 영향력 공작’이라고 한다. 기존 AI 탐지 기술은 특정 계정을 의심 계정으로 분류하더라도 “왜 이 계정을 의심하는가”에 대한 구체적인 근거를 제시하기 어렵다는 한계가 있었다.
연구팀은 이러한 한계를 해결하기 위해 국가안보전략연구원이 앞서 식별한 외국 연계 계정 70개를 출발점으로 삼았다. 이 계정들과 연관되거나 같은 기사에 반복적으로 댓글을 작성한 계정들을 추적해 2006년부터 2025년까지 20년간 네이버 뉴스에 작성된 약 1억 1,000만 건의 댓글을 분석했다.
연구팀이 개발한 AI는 댓글을 단계적으로 분석한다. 먼저 작성자가 외국과 연계됐다고 의심할 만한 표현이나 맥락이 있는지를 살피고, 이어 도덕적 비난이나 맹목적 찬양처럼 사회적 양극화를 키울 수 있는 감정이 나타나는지를 분석한다. 마지막으로 이러한 감정이 어느 국가나 대상을 향하는지 파악한다.
특히 이번 기술의 핵심은 AI가 단순히 ‘의심스럽다’는 결과만 내놓지 않는다는 점이다. AI가 판단을 내리는 데 근거가 된 댓글 속 표현을 함께 제시해 사람이 그 이유를 확인할 수 있도록 했다. 여기에 계정의 활동 빈도와 활동 기간, 다른 의심 계정과의 활동 연관성 등 다양한 행동 패턴을 함께 분석했다.
연구팀은 이를 통해 네이버 뉴스 이용자 약 400만 명 가운데 외국 연계 영향력 활동이 의심되는 계정 2만 3,998개를 식별했다. 분석 과정에서는 이들 의심 계정의 활동에서 주목할 만한 특징도 발견됐다. 특정 정치 진영을 일방적으로 지지하기보다는 한국 사회 내부의 갈등과 대립을 증폭시키는 방향의 메시지가 두드러진 것이다.
실제로 대중의 호응을 많이 얻은 상위 10개 표적 가운데 7개가 국내 유명 정치인으로 나타났다. 특정 정당이나 이념에 집중되지 않고 진보와 보수 양 진영의 전·현직 대통령과 대선 후보, 정당 등이 폭넓게 대상이 됐다.
연구팀은 이러한 결과가 외국 연계 영향력 활동을 단순히 ‘어느 정치 세력을 지지하는가’의 관점만으로 바라봐서는 안 된다는 점을 보여준다고 설명했다. 특정 진영을 직접 지원하기보다 기존의 정치적 갈등을 자극해 사회적 불신과 양극화를 확대하는 방식으로 영향력을 행사할 가능성도 살펴야 한다는 것이다.
이번 연구는 온라인 영향력 활동을 계정 단위의 단순 분류에서 한 단계 더 나아가, 어떤 메시지가 어떤 방식으로 사회적 갈등을 증폭시키는지를 AI가 찾아내고 그 판단 근거까지 제시했다는 데 의미가 있다는 설명이다.
KAIST 측에 따르면, 이는 향후 선거 또는 국가적 위기처럼 사회적 관심과 갈등이 급격히 높아지는 시기에 활용될 수 있다. 이 기술은 포털과 모니터링 기관이 대규모 댓글 가운데 우선적으로 살펴봐야 할 계정이나 메시지를 AI로 선별하고, 전문가가 AI가 제시한 근거를 검토해 최종적으로 판단하는 방식이다. 다만 연구팀은 AI가 의심 계정을 자동으로 차단하거나 제재하는 방식보다 전문가의 판단을 지원하는 ‘설명 가능한 콘텐츠 관리 도구’로 활용하는 것이 중요하다고 강조했다.
이원재 교수는 “20년간의 데이터를 분석한 결과, 의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다”며, “선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것”이라고 설명했다.
오혜연 교수는 “AI가 댓글의 표면적인 의미를 넘어 갈등을 유발하는 감정과 계정의 조직적인 행동 패턴까지 함께 분석했다”며, “갈수록 교묘해지는 온라인 영향력 활동을 탐지하는 데 활용될 것으로 기대한다”고 말했다.
차미영 교수는 “이번 연구는 데이터 과학을 실제 사회 문제 해결로 연결한 ‘액셔너블 데이터 과학(Actionable Data Science)’의 사례”라며, “디지털 공론장의 투명성과 신뢰를 높이는 실질적인 도구가 되길 기대한다”고 밝혔다.
공동 제1저자인 KAIST 김재홍 박사과정과 김현승 석사과정이 주도한 이번 연구는 컴퓨터 보안 분야 최고 권위 국제학술대회인 ‘USENIX Security Symposium 2026(유즈닉스 시큐리티 심포지엄 2026)’에서 8월 13일 발표될 예정이다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
