인공지능(AI)으로 제작된 가짜 경찰 보디캠 영상이 온라인상에 확산되면서 경찰의 정당한 공권력 행사에 대한 오해를 키우고 있다. 경찰청은 허위 영상 유포로 인한 피해 확산을 막기 위해 관련 SNS 채널에 대해 입건 전 조사(내사)에 착수했다.

경찰이 폭행이나 말다툼, 음주운전 현장 등에 출동하는 장면을 보디캠 화면처럼 연출한 AI 가짜 영상이 유튜브와 인스타그램, 틱톡 등 사회관계망서비스(SNS)에 다수 게시되고 있는 것으로 확인됐다.

23일 복수의 매체에 따르면 이 같은 AI 가짜 보디캠 영상은 지난 10월 2일부터 게시되기 시작해 현재 50개 이상 유포됐다.

영상에는 부천역 인근 길거리에서 방송하던 인터넷 방송인(BJ)이 경찰의 방송 종료 요청에 욕설을 하며 항의하다 체포되는 장면, 교복을 입고 길거리에서 담배를 피우던 학생이 훈계하는 경찰을 향해 “경찰이 몰카 찍고 다니냐. 변태네”라고 조롱하는 장면 등이 담겼다.

해당 영상들은 실제 경찰 보디캠 화면과 유사하게 제작돼 사실성을 높였으며, 10월 한 달 동안 인스타그램에서만 누적 조회 수 1천200만 회를 기록했다. 틱톡 채널의 경우 개설 한 달 만에 팔로워 수가 9천900명에 달하는 등 빠르게 확산됐다.

문제는 상당수 누리꾼이 해당 영상이 가짜임을 인지하지 못하고 있다는 점이다. 지난달 27일 수도권을 시작으로 이달 초 대전까지 전국적으로 경찰 보디캠이 도입된 시점과 맞물리며 오해를 키웠다는 분석이 나온다.

실제로 BJ 체포 장면으로 연출된 영상에는 “경찰이 시민의 자유를 억압한다”는 등의 비판 댓글도 달렸다.

경찰청은 이 같은 허위 영상이 경찰의 과잉 대응으로 오인될 수 있다고 보고, 피해 확산을 막기 위해 해당 SNS 채널 운영자에 대해 입건 전 조사에 착수하겠다고 밝혔다.

경찰은 채널 운영자가 자신이나 타인에게 이익 또는 손해를 가할 목적으로 허위 정보를 유포한 것으로 보고 전기통신기본법 위반 혐의 적용을 우선 검토하고 있다. 아울러 영상 삭제나 차단 조치도 병행할 방침이다.

다만 공익을 해할 목적으로 허위 통신을 한 경우를 처벌하도록 규정한 전기통신기본법 제47조 제1항은 2010년 이른바 ‘미네르바 사건’ 이후 헌법불합치 결정을 받아 폐지된 상태로 이로 인해 채널 운영자가 실제 처벌로 이어질지는 불분명하다는 지적도 나온다.

내년 1월 시행을 앞둔 AI 기본법 역시 규제보다는 산업 진흥에 무게를 두고 있어 사회적 혼란을 유발할 수 있는 AI 허위 콘텐츠에 대한 직접적인 규제 조항은 담고 있지 않다.

경찰 안팎에서는 AI 기술을 악용한 허위 정보 유포에 대응하기 위한 제도적 보완이 필요하다는 지적이 제기되고 있다.