중국 사법당국 관계자가 인공지능(AI) 챗봇 챗GPT를 이용해 일본 총리를 음해하려는 조직적인 공작을 시도한 사실이 드러났다. 

26일(현지시간) 오픈AI가 발표한 'AI 악성이용 차단' 보고서에 따르면 중국 법 집행기관 관계자는 지난해 10월 중순 다카이치 사나에 일본 총리에 대한 음해 공작을 챗GPT를 활용해 계획하고 기록한 것으로 밝혀졌다.

해당 관계자는 '사이버특수작전(網絡特戰)'으로 명명된 이 공작을 통해 다카이치 총리에 대한 부정적인 댓글을 게시하거나, 외국인을 사칭해 비판적인 이메일을 정치인들에게 보내고 미국의 대일 관세에 대한 분노를 부추기는 등 일본 내 부정적인 여론을 조성하려 시도했다. 

오픈AI 측은 챗GPT가 공작에 대한 구체적인 조언 요청은 거부했으나, 해당 이용자가 10월 말 유사한 내용의 문건을 편집해달라고 요청한 정황으로 미뤄볼 때 챗GPT의 간접적인 도움을 받아 공작이 실행된 것으로 분석했다.

실제로 엑스(옛 트위터)와 유튜브 등 사회관계망서비스(SNS)에는 문건에서 언급된 '우익공생자' 해시태그를 포함한 다카이치 총리 비판 글과 영상이 게시되기도 했다. 

하지만 오픈AI는 이러한 공작의 실제 영향력은 매우 제한적이었다고 평가했다. 

관련 유튜브 영상 조회수는 한 자릿수에 머물렀으며, 대부분의 SNS 게시물 역시 대중의 반응을 이끌어내지 못한 것으로 나타났다.

보고서는 또한 중국 사법 당국이 이번 공작 외에도 반체제 인사의 가짜 부고와 묘비 사진을 유포하거나 인권 단체를 탄압하는 등 100가지가 넘는 전술을 구사해왔다고 지적했다. 

오픈AI는 중국 당국이 챗GPT뿐만 아니라 딥시크를 비롯한 자국의 AI 모델들도 이러한 공작에 체계적으로 활용한 것으로 보인다고 덧붙였다.