정부가 인공지능(AI)으로 만든 가짜 전문가나 유명인 딥페이크 등을 활용한 허위‧과장 광고에 칼을 빼들었다. 유튜브, 페이스북 등 소셜미디어(SNS)를 통해 AI 가짜 전문가·유명인 딥페이크들이 등장하는 광고가 급속히 유포되면서 노년층을 중심으로 피해 사례가 늘고 있어서다.

정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 발표했다. ‘AI 생성물 표시’를 의무화하고, 유통 전 사전 방지, 유통 후 24시간 내 신속 차단, 징벌적 손해배상 등의 방안이 담겼다. 

방송미디어통신위원회는 ‘AI 생성물 표시제’를 도입키로 했다. AI로 만든 사진·영상 등을 게시하는 사람(직접 정보 제공자)은 해당 콘텐트가 AI로 생성됐다는 사실을 명확히 표시해야 한다. 이를 훼손하거나 제거하는 행위는 금지된다.  

플랫폼 사업자도 직접 정보 제공자가 표시 의무를 준수하는지 관리해야 한다. 과학기술정보통신부는 내년 1월 시행 예정인 AI기본법에 따라 AI 사업자가 생성물 표시 의무를 이행하도록 구체적인 가이드라인을 마련할 예정이다.

정부는 이미 유통된 AI 허위·과장 광고는 신속하게 차단하기로 했다. 방미통위와 방송미디어심의위원회는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장 광고가 빈발하는 영역을 서면 심의 대상에 추가하도록 추진한다. 해당 영역 허위·과장 광고는 심의 요청 후 24시간 이내에 신속한 심의가 이뤄진 후 차단될 것으로 기대된다. 

또 식품의약품안전처 전용 심의신청 시스템(패스트트랙)도 기존 마약류 중심에서 해당 품목군까지 확대 적용해 안건 상정 시간을 단축할 계획이다. 

아울러 긴급조치가 필요할 경우 방미통위가 플랫폼 사업자에게 임시 시정 요청을 할 수 있게 제도를 정비한다. 심의 전에라도 잠정 차단이 가능해진다. 동시에 플랫폼 자체의 자율규제 강화도 유도하기로 했다.

공정거래위원회와 식약처는 AI가 만든 전문가 제품 추천 광고에 대해 위법성 판단 기준을 명확히 마련했다. AI가 제품을 추천할 때 ‘가상인간’임을 표시하지 않으면 부당 표시 광고에 해당하고 AI 의사·전문가가 식·의약품을 추천할 경우 ‘소비자 기만 광고’로 간주하기로 했다. 위법 행위자에 대한 처벌도 강화한다. 정부는 허위·조작 정보 유통 행위에 대해 ‘징벌적 손해배상 제도(손해액의 최대 5배)’를 도입하고, 허위·과장 광고 과징금도 대폭 올릴 예정이다. 식약처와 한국소비자원은 감시·적발 기능을 강화할 방침이다. 

각 부처와 기관은 관련법 개정 등을 통해 사안별로 이르면 내년 1분기, 장기적으로는 내년 하반기까지 방안을 이행할 계획이다. 김민석 총리는 “AI 시대에 걸맞은 시장 질서를 확립해 나갈 것”이라고 밝혔다.  

최근 유튜브 등 SNS에는 유명 의대 출신임을 사칭한 가짜 AI 의사가 피부미용, 어린이 성장, 전립선비대증, 구취 제거에 좋다는 건강기능식품이나 유사 의약품을 호도하는 경우가 늘고 있다. 전립선비대증이 한 달만 먹으면 사라진다는 영양제, 입냄새를 없애준다는 유산균, 자녀나 손주들의 키를 금세 크게 만들어준다는 가히 믿을 수 없는 내용들이다. 간혹 약사가 기타 전문가를 사칭하는 사람도 가담하고 있다. 또 정부 당국의 단속을 예상하고 며칠만 노출됐다가 스스로 노출 광고물을 삭제하는 꼼수도 부리고 있다. 더욱이 노인들처럼 진짜와 사이비를 분별하기 어려운 계층에선 속아넘어가기 쉽다. 이번 정부의 강력 대응이 과연 효과를 볼 수 있을지 귀추가 주목된다.