앤트로픽이 자사의 인공지능(AI) 챗봇 클로드가 생성하는 텍스트 결과물에 식별이 불가능한 형태의 워터마크를 삽입한다.

11일(현지시간) 앤트로픽에 따르면 앞으로 이 회사의 AI 모델이 내놓는 모든 콘텐츠에는 기계 판독용 투명성 마커가 포함된다.

이는 지난 2일 효력이 발생한 유럽연합(EU)의 AI 규제 법안에 발맞춘 조치다. 법안 시행일을 기점으로 출시된 클로드 모델의 산출물에는 이미 워터마크 처리가 이뤄졌으며, 구형 모델들도 단계적으로 관련 업데이트를 진행 중이다.

앤트로픽 측은 이 같은 조치가 텍스트의 본래 의미나 가독성, 전체적인 완성도에 영향을 주지 않는다고 설명했다. 텍스트 데이터 자체에 표식이 녹아드는 구조여서 산출물을 다른 플랫폼으로 복사·붙여넣기 하거나 일부 수정을 가해도 흔적은 사라지지 않는다.

예외적인 경우도 있다. 산출된 글의 길이가 극히 짧거나, 사용자가 AI 결과물을 바탕으로 전면적인 윤문·번역을 거치면 마커를 찾아내기 어려워진다. 또한 표식이 존재한다고 해서 클로드가 해당 문서를 처음부터 끝까지 작성했다고 단정할 수는 없다.

외부 원문을 클로드에 입력해 요약·번역·맞춤법 검사만 수행해도 동일하게 표식이 남기 때문이다. 앤트로픽은 텍스트뿐만 아니라 이미지나 각종 파일 형태로 출력되는 결과물에도 출처 정보를 담은 메타데이터를 첨부하기로 했다.

이 같은 투명성 확보 정책은 EU 권역에 국한되지 않고 클로드 서비스가 제공되는 전 세계에 공통으로 시행될 예정이다. 다만 이 숨겨진 표식을 탐지하는 전용 스캐너 도구는 아직 일반에 배포되지 않은 상태다.

앞서 구글도 '신스ID'로 불리는 디지털 워터마크 시스템을 구축해 자사 AI 산출물에 선제 적용한 바 있다.