"당근 커뮤니티 욕설·피싱…AI로 잡고 우리가 막아요"

IT/과학

이데일리,

2026년 7월 30일, 오후 03:02

[이데일리 이소현 기자] “당근이세요?”

이 한마디는 이제 낯설지 않다. ‘당근하다’가 동사처럼 쓰일 만큼 생활에 깊숙이 들어온 당근은 중고물품 거래를 넘어 동네 소식과 맛집을 찾고, 취미를 함께할 사람을 만나며, 아파트 주민과 정보를 나누는 지역생활 플랫폼으로 확장했다.

온라인 활동이 실제 이웃과의 만남으로 이어지는 당근 커뮤니티 뒤에는 이용자가 의식하지 못하는 사이 위험요소를 걷어내는 살림꾼들이 있다. 지난 3월 출범한 ‘커뮤니티 트러스트&세이프티(T&S)팀’의 김시원·염은솔 운영 매니저와 이소은 백엔드 엔지니어다. 모두 20대로, 직원 평균 연령이 약 31세인 당근에서도 젊은 조직이다.

당근 누적 가입자 수는 4300만명 이상이다. 최근 ‘당근모임’ 단독 월간활성이용자수(MAU) 1000만명을 넘어서면서 이들의 역할도 막중해졌다. 이용자 확대뿐 아니라 고객센터 접근성을 개선한 결과 지난해 11월과 비교해 올해 6월 커뮤니티 문의는 129.9% 증가했다. 이들은 동네생활·모임·카페·아파트 특성에 맞춰 운영 정책을 설계하고, 이용자 안전과 법률 준수, 콘텐츠·서비스 품질을 기준으로 신고처리 시스템을 다듬는다.

당근의 동네생활·모임·카페·아파트 등 다양한 커뮤니티 서비스를 이용자들이 안심하고 이용할 수 있도록 운영 정책과 안전 시스템을 설계하는 커뮤니티 T&S팀의 김시원(왼쪽부터) 운영 매니저와 이소은 백엔드 엔지니어, 염은솔 운영 매니저(사진=당근)
당근의 동네생활·모임·카페·아파트 등 다양한 커뮤니티 서비스를 이용자들이 안심하고 이용할 수 있도록 운영 정책과 안전 시스템을 설계하는 커뮤니티 T&S팀의 김시원(왼쪽부터) 운영 매니저와 이소은 백엔드 엔지니어, 염은솔 운영 매니저(사진=당근)
당근의 살림살이를 꾸리는 셈이다. 염은솔 매니저는 “커뮤니티 운영은 집안일과 비슷하다”며 “계속 잘하면 누가 하는지 보이지 않지만, 하지 않으면 금세 티가 난다”고 말했다.

당근은 개발자들의 AI 활용기를 담은 책 ‘요즘 당근 AI 개발’을 펴낼 만큼 업무 전반에 AI를 적극 적용하고 있다. T&S팀도 AI 활용으로, 욕설과 피싱 링크처럼 패턴이 명확한 신고를 자동 분류하고 비슷한 문의가 몰리면 이상 징후로 탐지한다. 실제 밤 11시30분께 특정 기능 관련 문의가 집중되자 시스템이 이를 감지해 다음날까지 불편이 이어지는 것을 막았다.

그러나 최종 안전장치에는 사람의 손길이 필요하다. 같은 표현도 대화의 맥락과 이용자 관계에 따라 의미가 달라질 수 있어서다. 염 매니저는 “커뮤니티는 사람과 사람이 소통하는 공간”이라며 “1대1 문의는 현재 100% 상담사가 직접 답변한다”고 강조했다. 김시원 매니저도 “AI는 사람이 입력한 정책문서와 프롬프트를 보고 움직인다”며 “마지막 판단은 사람이 하고 AI는 이를 돕는 도구로 활용한다”고 설명했다.

T&S팀은 콘텐츠를 무조건 제재하기보다 동네 곳곳을 살피는 ‘홍반장’에 가깝다. 신고 데이터를 분석해 정책의 빈틈을 찾고, 이용자 안전·법률 준수·서비스 품질이라는 3대 축을 기준으로 콘텐츠 제한 여부를 판단한다. 기준에 어긋나지 않으면 가능한 한 콘텐츠를 살리는 것이 원칙이다.

당근 커뮤니티 T&S팀의 김시원(오른쪽부터)·염은솔 운영 매니저와 이소은 백엔드 엔지니어가 서울 강남구 당근 사옥에서 인터뷰를 하고 있다.(사진=당근)
당근 커뮤니티 T&S팀의 김시원(오른쪽부터)·염은솔 운영 매니저와 이소은 백엔드 엔지니어가 서울 강남구 당근 사옥에서 인터뷰를 하고 있다.(사진=당근)
모임 회비 분쟁을 해결한 사례가 대표적이다. 신고된 글을 지우는 데 그치지 않고 문제의 구조를 분석한 결과 회비 자체보다 불명확한 사용처와 환불 기준, 회원을 내보내기 전 끝나지 않은 정산이 분쟁의 원인이었다. 이후 회비 사용처와 환불 기준을 미리 밝히고 회원 퇴출 전에 정산하도록 정책을 다듬었다.

일은 눈에 잘 띄지 않지만 이용자 반응에서 보람을 찾는다. 염 매니저는 “T&S팀은 이용자를 제한하는 조직이 아니라 회사에서 고객 목소리를 가장 가까이 듣는 곳”이라며 “혼자 미루던 일을 함께하거나 1인 가구가 모여 음식을 나누는 모습을 보면 당근이 일상에 따뜻함을 더한다는 생각이 든다”고 말했다.

이들은 일상이 된 플랫폼을 지탱할 조용하지만 단단한 안전망을 구축하겠다는 포부도 밝혔다. 김 매니저는 “혼자 지내던 어머니가 당근모임을 통해 동네 친구를 만났다는 감사 인사가 들어오기도 한다”며 “사람들이 동네에 정을 붙이고 더 이상 외롭지 않도록 당근이 생활의 동반자로 자리잡는데 기여하고 싶다”고 말했다. 이소은 엔지니어는 “사람들이 자연스럽게 ‘당근한다’고 말할 만큼 당근은 이미 하나의 명사처럼 자리 잡았다”며 “누구나 커뮤니티를 편하게 이용할 때까지 위험요소를 뒤에서 걷어내는 시스템을 만들고 싶다”고 했다.

당근 커뮤니티 T&S팀의 김시원(오른쪽부터)·염은솔 운영 매니저와 이소은 백엔드 엔지니어가 서울 강남구 당근 사옥에서 인터뷰를 하고 있다.(사진=당근)
당근 커뮤니티 T&S팀의 김시원(오른쪽부터)·염은솔 운영 매니저와 이소은 백엔드 엔지니어가 서울 강남구 당근 사옥에서 인터뷰를 하고 있다.(사진=당근)

추천 뉴스