“AI조작 허위·과장 광고 막는다!” 김상훈 의원, 정통망법 개정안 발의

딥페이크 이미지·영상 등 AI생성물 표시 의무화 및 불법유통 금지
식품·화장품·의약품 등의 효능 속여 파는 기만 행위 근절

 국민의힘 김상훈 의원(대구 서구, 당 정책위의장)이 딥페이크 성착취물 피해를 예방하고 AI조작 허위·과장 광고를 근절하기 위한 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」(이하 정보통신망법) 개정안을 발의했다.

 최근 제정된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 ‘인공지능사업자’가 인공지능으로 만든 결과물에 ‘AI생성 표시’를 하도록 의무화했으며, 「공직선거법」에서도 딥페이크 선거 홍보물에 대한 AI생성 표시를 의무화하고, 선거일 전 90일부터 선거 당일까지 사용을 금지하고 있다.

 그러나 「정보통신망법」에서는 온라인 상에 ‘정보를 제공하는 자’에게 AI생성 표시를 의무화하거나 불법 유통을 금지하는 내용을 두고 있지 않아 딥페이크 성범죄나 허위 정보의 게시·유포를 규율할 수단이 미비한 상황이다.

 이로 인해 SNS 등에 딥페이크 성착취물 유포 행위뿐 아니라‘물에 풀어서 쓰면 살이 저절로 빠진다’는 입욕제, ‘눈가에 바르면 1분 만에 주름이 개선된다’는 화장품, ‘가발처럼 머리카락이 빽빽해진다’는 탈모약 등 AI조작 영상으로 제품 효과를 허위·과장하는 불법 광고들도 늘어나는 추세다.

 방심위에 따르면 지난해 X(엑스·옛 트위터)와 인스타그램, 페이스북, 유튜브, 틱톡 등 5개 SNS에서 적발된 허위 불법 광고는 59,021건으로 집계됐으며, 이 중 식·의약품과 관련한 불법 광고는 7,773건에 달했다.

 이뿐 아니라 AI로 생성한 광고물(영상, 이미지, 댓글 등)을 실제 사용 후기인 것처럼 게시하면서, 정작 실사용자들의 후기는 올리지 못하도록 댓글 게재를 막는 등 소비자를 기만하고 있어 대책 마련이 시급하다.

 이에 개정안은 온라인 상 정보제공자에게도 AI기술로 생성한 딥페이크 이미지·영상 등의 표시 의무를 부과하고, 해당 표시를 훼손하고 영리 목적으로 제공할 경우 유통을 금지함으로써 AI생성물 불법 이용에 대한 규율을 강화할 수 있게 했다.

 김상훈 의원은 “최근 생성형AI 사용량이 폭증함*에 따라 AI조작 생성물 또한 증가할 것으로 예상되는 바 선제적인 대응책 마련이 필요하다”며 “법 개정을 통해 AI조작 성범죄 및 사기 판매 행위를 근절하고, 허위 정보 및 가짜 뉴스의 확산도 방지할 수 있을 것으로 기대한다”고 밝혔다.
* 앱·리테일 분석 서비스 와이즈앱·리테일·굿즈에 따르면 작년 12월 한국인의 생성형AI앱 월간 사용시간은 9억분으로 전년 동기 대비 약 9배 증가했고, 챗GPT 이용자수는 682만명에 달했음.