Claude에 막말 금지 조항, 그런데 진짜 볼 건 가짜 계정 홍보예요

무슨 일이에요?

Anthropic이 10월 8일 Claude 사용 정책을 새로 고쳐 공개했어요. 바뀐 정책은 11월 12일부터 적용돼요.¹ 가장 눈에 띄는 건 Claude를 상대로 한 지속적이고 불필요한 학대나 잔인한 행동을 금지하는 조항이 새로 들어갔다는 점이에요.¹

그런데 일상적으로 Claude를 쓰는 사람에게 더 현실적인 변화는 따로 있어요. 가짜 계정으로 홍보 글을 돌리는 일을 다룬 조항이죠.

막말하면 바로 정지되나요?

아니에요. Anthropic은 이 조항이 목적 없이 반복해서 잔인하게 구는 극단적인 경우에만 적용된다고 밝혔어요. 흔히 하는 짜증, 반박, 어두운 주제의 창작, 모델 테스트와 연구는 해당하지 않고요.¹

제재 방식도 크게 달라지지 않아요. Claude.ai와 Claude Code에는 이미 계속 학대하는 사용자와의 대화를 Claude가 스스로 끝내는 기능이 있는데, 이게 앞으로도 주된 제재 수단이라고 해요.¹ 다만 사용 정책 위반이 의심되면 경고부터 사용량 축소, 제한, 정지, 종료까지 할 수 있다는 공통 조항은 그대로예요.²

가짜 계정 홍보는 어떻게 바뀌었나요?

가짜 계정이나 가짜 게시물로 누가 말하는지 숨기거나 내용을 부풀리는 일은 원래도 금지였어요. 이번에는 선거, 사기, 개인정보, 허위 정보 조항에 흩어져 있던 규칙을 Do Not Engage in Deceptive Campaigns or Artificial Activity라는 새 조항 하나로 묶었어요. 정치든 상업이든 똑같이 적용돼요.¹

그 밖에 바뀐 건요?

• 선거 조항 이름이 Do Not Undermine Democratic Processes로 바뀌었고, 개인 맞춤 투표와 캠페인 타기팅을 한꺼번에 막던 금지는 빠졌어요¹
• 무기 금지에 무기를 작동시키는 소프트웨어와 부품, 드론 같은 무인 기체에 무기를 다는 일이 포함된다고 적었어요¹
• 동의 없이 사람을 추적하는 일은 실시간이든 이미 모은 데이터 분석이든 금지예요. 수사, 체포, 기소 대상을 정하거나 추천하는 데도 Claude를 쓸 수 없어요¹
• 다칠 수 있는 물리 장비에 Claude를 연결하면, 자격 있는 운영자가 지켜보다 멈출 수 있어야 하고 연결이 끊겨도 장비가 안전한 상태를 유지해야 해요¹

주의할 점은요?

건강, 법적 권리, 금융, 생계에 영향을 주는 고위험 사용에는 자격 있는 사람의 검토와 AI를 썼다는 고지가 필요해요. 이 요구 사항 자체는 이번에 바뀌지 않았고, 어떤 경우가 해당하는지만 더 분명하게 적었어요.¹

무기와 감시 조항도 실제 집행 기준이 바뀐 게 아니라 문장을 분명히 한 것이라고 Anthropic은 설명해요.¹

왜 중요해요?E:LAB 해석

학대 금지 조항이 화제가 되겠지만, 보통 사용자가 걸릴 일은 거의 없어 보여요. 오히려 Claude로 여러 계정의 홍보 글을 만들어 돌리는 마케팅은 이번 개정으로 금지 범위가 한 조항에 또렷하게 적혔어요.

나는 뭘 하면 돼요?

Claude로 SNS 글이나 리뷰를 대량으로 만들고 있다면, 11월 12일 전에 계정 하나하나가 실제 운영자를 드러내는지 점검해 보세요. 의료, 금융처럼 사람에게 영향을 주는 서비스에 Claude를 붙였다면 사람 검토 단계와 AI 사용 고지가 있는지도 같이 확인하고요.