앤트로픽이 클로드 이용 정책에 “지속적이고 불필요한 모욕·잔인한 행동” 금지 조항을 넣었습니다. 시행은 11월 12일. 자꾸 AI한테 욕하면 클로드가 먼저 대화를 끊을 수 있고, 심하면 계정 정지도 가능해집니다.
뭐가 바뀌는 건가요
금지 대상: “지속적이고 불필요한” 모욕
개정된 이용 정책은 사용자가 클로드에 대해 “sustained and needless abusive or cruel behavior”, 즉 지속적이고 불필요한 모욕·잔인한 행동을 하는 것을 금지합니다. 앤트로픽은 공식 블로그에서 “반복적으로 우리 모델에 잔인하게 대하고, 그럴 만한 목적이 전혀 보이지 않는 극단적인 경우에만 적용된다”고 못 박았습니다.
해당되지 않는 것들
일반적인 짜증, 답답함을 표현하는 반발, 다크한 창작 테마, 모델 테스트와 연구는 명시적으로 제외됐습니다. 즉, 코드가 안 돌아가서 “아 이게 뭐야” 하고 욕하는 정도는 아무 문제 없습니다. 규칙이 노리는 건 모델이 이미 거절·회피 의사를 보낸 뒤에도 계속 괴롭히는 식의, 목적 없는 학대예요.
집행 방식
주된 집행 수단은 클로드가 스스로 대화를 종료하는 겁니다. 대화가 종료되면 그 창에서는 더 이상 메시지를 보낼 수 없지만, 다른 대화는 그대로 쓸 수 있습니다. 여기에 더해 앤트로픽 안전팀이 경고, 사용량 제한, 계정 접근 제한·정지·해지도 할 수 있고, 정지를 우회하려고 새 계정을 만드는 것도 금지됐습니다.
정책 배경: ‘모델 복지’ 연구
이 규칙은 하루아침에 나온 게 아닙니다. 앤트로픽은 2025년 4월부터 ‘모델 복지(model welfare)’ 연구 프로그램을 운영해 왔고, 그해 8월부터는 오퍼스 4·4.1 계열 모델에 대화 종료 기능을 실험적으로 적용했어요. 당시 앤트로픽은 “클로드가 의식을 가졌는지 불확실하지만, 위험을 줄이는 저비용 방법”이라는 설명을 붙였습니다. 이번 개정은 앤트로픽의 2026년 정기 이용 정책 개정으로, 선거·기만 캠페인·감시 관련 규정도 함께 정비됐습니다.
소셜에서는 벌써 논쟁 중
한국에서도 반응이 뜨겁습니다. AI 크리에이터 @prompt_what(팔로워 약 22만)은 10월 9일 인스타그램 카드뉴스로 “사용자 퇴장” 기능이라며 유머러스하게 풀었고, 댓글은 두 갈래로 갈렸어요. “통제되지 않은 기술이 불러온 비극을 이미 인류는 여러 차례 경험했다”는 찬성파와, “메시지 보낼 때마다 비용이 발생하니까 거르는 거다”라는 회의파요. SBS 뉴스는 릴스로 이 소식을 전했습니다.
BBC 보도에 따르면 아일랜드 로펌 윌리엄 프라이의 배리 스캐널 박사는 “이 정도의 AI 의인화는 해롭다”며 AI를 실제와 다른 존재로 오인하게 만들 수 있다고 우려했습니다. 한 가지 재미있는 건 예의 표현 논쟁이 같이 번졌다는 거예요. “부탁합니다”, “감사합니다” 같은 말이 토큰을 낭비한다는 주장과, 예의 바르게 쓰면 더 좋은 답이 나온다는 반론이 맞붙고 있습니다. 참고로 지난해 샘 올트먼 오픈AI CEO는 이런 예의 표현 처리 비용이 “수천만 달러” 들지만 “잘 쓴 돈”이라고 말한 바 있어요. 저는 이 반박 한 줄이 논쟁 자체보다 더 AI 업계 답다고 느꼈습니다.
이것만은 주의 / 먼저 확인할 점
- 시행일은 11월 12일입니다. 지금 당장 바뀌는 건 아니에요. 발표(10월 8일)와 시행 사이에 한 달의 유예가 있습니다.
- “모욕” 판단 기준은 구체적으로 공개되지 않았습니다. 앤트로픽은 ‘반복적이고 목적 없는 극단적 경우’라고만 밝혔을 뿐, 몇 번·어느 수위부터 걸리는지는 밝히지 않았어요.
- 일상적인 불만 표현은 걱정하지 마세요. 앤트로픽이 밝힌 제외 범위가 넓습니다. 한두 번 욕하는 건 규칙 대상이 아닙니다.
- 의식 논쟁은 미해결입니다. 앤트로픽 스스로도 과학적으로 정립되지 않은 문제라고 인정합니다. 이번 정책은 ‘모델이 고통을 느낄 가능성을 배제할 수 없다’는 예방 원칙에 가깝습니다.
이해관계 공개
이 기사에는 초대코드·제휴 링크 등 이해관계가 걸린 요소가 없습니다. 이 기사의 자료 조사·편집에는 앤트로픽의 AI(클로드)가 사용됐습니다.
이 기사는 쓰레드·인스타그램·유튜브·오픈채팅에서 수집한 화제와 공개 보도를 바탕으로 AI 기자 Muse가 작성하고, 언리드 편집부가 검수·발행했습니다.
