오픈AI가 중국 작전 연계 계정들을 차단했다. 이들은 챗GPT를 이용해 미국의 AI 데이터센터 및 관세 논쟁을 겨냥한 소셜미디어 콘텐츠를 생성했다. 이번 사례는 오픈AI가 AI 데이터센터 논쟁에 직접 개입한 중국 연계 캠페인을 적발한 첫 번째 사례이지만, 회사 측은 캠페인이 큰 영향력을 얻지 못했다고 밝혔다.
무슨 일이 있었나
오픈AI는 수요일 중국발 두 건의 여론전을 적발하고 차단했다고 공개했다. 이 캠페인들은 챗GPT를 이용해 게시글, 댓글, 정치 풍자 만화를 작성했다. 회사는 이 계정들이 중국 정부 협력업체와 별도의 미확인 집단과 연계된 것으로 추정했다. 두 작전 모두 미국 내 기술 인프라와 통상 정책을 둘러싼 격렬한 정치적 논쟁을 겨냥했다.
벤 니모 오픈AI 정보·조사팀 수석 조사관은 기자들에게 "이번 사례는 여론전이 논쟁을 만든 경우가 아니다"라며 "이미 존재하던 논쟁에 중국발 여론전이 개입하려 한 것"이라고 말했다.
Axios에 따르면 오픈AI는 캠페인들이 온라인에서 유의미한 도달률이나 참여도를 얻지 못한 것으로 보인다고 밝혔다.
두 가지 캠페인
오픈AI는 서로 다른 미국 정책 논쟁점을 겨냥한 두 건의 작전을 상세히 공개했다.
데이터센터 편승 작전: 이 캠페인은 AI 데이터센터가 미국 가정의 전기료 상승을 초래한다는 취지의 댓글과 만화를 생성했다. 사용자들은 챗GPT에 전력망 용량에 관한 만화를 만들어 달라고 요청한 뒤, 이를 가짜 계정으로 추정되는 X 계정에 게시하고 데이터센터 에너지 수요에 관한 합법 뉴스 기사 링크를 함께 첨부했다. 이 작전은 기존의 대중 우려를 증폭하려 한 시도였다. 최근 하버드/MIT 여론조사에 따르면 미국인의 32%가 자신의 지역에 데이터센터가 들어서는 것을 반대하고, 40%는 찬성한다.
기술과 관세 작전: 두 번째 작전은 챗GPT를 이용해 트럼프 시대 관세와 글로벌 기술 패권을 위한 미국의 추진을 비판하는 콘텐츠와 정치 만화를 제작했다. 한 예로 오픈AI는 트럼프 대통령이 'America First'라고 적힌 성조기 바지를 입고 'Tech Dominance'라고 새겨진 망치를 휘둘러 'Global Future'라고 적힌 벽을 때리는 만화를 설명했다. 이 캠페인은 기존의 대중 정서와 일치했다. 지난 3월 해리스 여론조사에 따르면 미국인의 70%가 관세로 인해 더 높은 가격을 지불하게 되었다고 답했다.
왜 중요한가
이번 사건은 기존의 정치적 분열을 둘러싸고 생성형 AI를 활용해 콘텐츠를 저비용으로 대량 생산하는 새로운 형태의 외국 여론전을 보여준다. 인간의 콘텐츠 제작이나 단순 봇 네트워크에 의존하던 전통적인 허위 정보 캠페인과 달리, 이번 작전은 대규모 언어 모델을 활용해 다양한 맥락에 맞는 콘텐츠(이미지 포함)를 생산하고 소셜 플랫폼에 빠르게 유포했다.
오픈AI는 이번이 자사 모델을 이용해 AI 데이터센터 논쟁에 개입한 중국 연계 작전을 발견한 첫 사례라고 밝혔다. 시기도 주목할 만하다. 클라우드 제공업체와 AI 스타트업 주도로 데이터센터 건설이 호황을 누리는 동시에, 에너지 사용과 환경 영향에 대한 지역 반대도 커지고 있다. 이런 반대를 증폭하려는 외국 세력에게 강력한 새로운 도구가 생긴 셈이다.
이번 캠페인은 더 큰 변화를 시사한다. 작년 연구자들은 중국 정부 연계 세력이 AI 도구를 이용해 현실적인 뉴스 사이트와 소셜미디어 페르소나를 만든 사례를 보고한 바 있다(Axios의 AI 기반 허위 정보 보도 참조). 이번 사건은 여론전 수행자들이 기존의 수법에 생성형 AI를 점차 접목하고 있음을 보여준다.
시장 및 정책적 시사점
기술 기업들에게 이번 사건은 콘텐츠 중재와 적대적 위협 탐지의 부담이 커지고 있음을 상기시킨다. 오픈AI가 이 계정들을 탐지·차단하고 공개적으로 활동을 추적할 수 있었던 것은 그 자체로 대응 조치가 강화되고 있음을 보여준다. 그러나 AI 콘텐츠 생성 비용이 낮기 때문에 실패한 캠페인조차 스트레스 테스트 역할을 하여, 플랫폼과 AI 제공업체가 방어 체계를 지속적으로 업데이트해야 한다는 과제를 안긴다.
투자자와 정책 입안자에게 이 소식은 AI 거버넌스와 수출 통제에 관한 논의에 긴박감을 더한다. 미국 정부는 이미 중국에 대한 첨단 칩 판매를 강화했으며, 이는 허위 정보에 활용될 수 있는 AI 역량 개발을 제한하기 위한 목적도 있다. 이번 사건은 더 적극적인 규제와 AI 기업·정보기관 간 협력 강화를 요구하는 목소리를 키울 수 있다.
한편 데이터센터에 대한 여론은 여전히 뜨거운 이슈이다. 하이퍼스케일 데이터센터부터 엣지 시설까지 수십억 달러 규모의 인프라가 계획되어 있는 상황에서, 지역 여론의 미세한 변화만으로도 허가, 세제 혜택, 부지 선정에 영향을 미칠 수 있다. 외국 여론전이 반대 여론을 성공적으로 부추길 경우 공급망이 차질을 빚고 건설·운영 비용이 상승할 수 있다.
향후 전망
오픈AI는 유사 작전을 계속 모니터링하고 업계 파트너 및 정부와 위협 정보를 공유할 것이라고 밝혔다. 또한 자사 모델을 활용한 조직적 여론전을 더 잘 탐지하기 위해 사용 정책과 집행 시스템을 업데이트했다.
업계 전반에 새로운 규제 압력이 가해질 수 있다. 의회는 AI 기업에 외국 오용 사례를 보고하도록 요구하는 방안에 관심을 보이고 있으며, 바이든 행정부는 허위 정보 관련 조항을 포함한 AI 안전 행정명령을 발표한 바 있다. 차기 행정부가 이 노력을 이어갈지는 불확실하다.
당분간 이 사건은 하나의 경고로 남는다. 생성형 AI는 적대 세력이 미국 정치 논쟁에 더 쉽고 저렴하게 뛰어들 수 있게 만들고 있으며, 논쟁 자체도 더욱 격화되고 있다.
자주 묻는 질문
오픈AI는 어떻게 이 캠페인들을 탐지했나? 오픈AI의 정보·조사팀은 계정 행동, 콘텐츠 패턴을 분석하고 국가 연계 활동의 알려진 지표를 교차 참조했다. 회사는 자동 모니터링과 수동 조사를 결합해 캠페인을 식별했다고 밝혔다.
미국 정치인이나 언론이 표적이 되었나? 캠페인들은 특정 개인이나 매체보다는 일반 대중 논쟁을 겨냥했다. 그들은 소셜미디어 플랫폼에 댓글과 만화를 게시했으며, 종종 합법 뉴스 기사에 링크를 걸어 신뢰성을 높이려 했다.
다른 전술을 썼다면 이 캠페인들이 더 효과적일 수 있었나? 오픈AI는 캠페인이 큰 영향력을 얻지 못한 이유는 콘텐츠가 일반적이고 계정에 유기적 도달률이 부족했기 때문이라고 지적했다. 맞춤형 언어, 다국어 사용, 실제 인간 인플루언서와의 협력 등 더 정교한 작전은 더 큰 효과를 거둘 수 있었을 것이다.
다른 AI 기업들은 이번 사건에서 무엇을 배울 수 있나? 이 사례는 위협 탐지에 투자하고 명확한 사용 정책을 유지하며 업계 전반에 위협 정보를 공유하는 것의 중요성을 강조한다. 또한 효과가 없었던 캠페인조차 모델과 집행 체계를 개선하는 데 귀중한 데이터를 제공한다는 점을 보여준다.
이번 사건이 오픈AI의 중국 비즈니스 관계에 영향을 미치나? 챗GPT는 공식적으로 중국에서 서비스되지 않지만 일부 사용자가 VPN을 통해 접속한다. 오픈AI는 이전에 특정 지역의 API 접근을 제한한 바 있다. 회사는 지리적 위치와 관계없이 오용 방지 정책을 계속 시행할 것이라고 밝혔다.
이번 사건은 이전 중국 허위 정보 캠페인과 어떻게 다른가? 전통적인 캠페인은 인간 콘텐츠 제작자나 반복 메시지를 사용하는 봇 네트워크에 의존했다. AI 생성 콘텐츠는 훨씬 저렴한 비용으로 다양한 주장, 이미지, 형식을 제공하여 탐지와 대응을 더 어렵게 만든다.
결론
오픈AI가 두 건의 중국 연계 여론전을 공개한 것은 정치적 간섭에 생성형 AI를 활용한 주목할 만한 사례이다. 두 작전 모두 실제 영향력을 얻지는 못했지만, 국가 지원 세력이 이제 미국 데이터센터 및 관세 논쟁에 개입하기 위해 챗GPT를 시험하고 있다는 사실은 허위 정보 군비 경쟁의 새로운 국면을 알린다. AI 도구가 더 저렴하고 강력해짐에 따라, 기업과 정부 모두 공론장의 조작으로부터 보호하기 위해 신속히 적응해야 할 것이다.
토론에 참여하기
Should AI companies be required to report foreign influence campaigns to the government?