딥페이크 근절, 법률 제정에는 시간 오래걸려... (2024/03/22)

헤드라인

"총선 앞두고 딥페이크·유해정보 뿌리뽑는다"

수정2024.03.21. 오후 7:59

방통위 허위정보 근절대책
AI 역기능 차단에 집중
생성·유포 단계별로 구체화
'AI 이용자 보호법' 제정 추진
플랫폼에 자율규제 강조
"뉴미디어 책임 강화해야"

 

 

기사링크 : https://n.news.naver.com/mnews/article/009/0005276353

본문

방통위 주요 추진 과제

4·10 총선을 앞두고 방송통신위원회가 21일 윤석열 대통령에게 보고한 '2024년 업무계획' 핵심 내용은 인공지능(AI) 부작용 방지에 초점이 맞춰져 있다. AI 대중화 시대를 맞아 전 세계적으로 '딥페이크(Deepfake)' 등 부작용에 대한 문제점이 속속 나타나고 있기 때문이다. 딥러닝(Deep Learning)과 페이크(Fake)의 합성어인 '딥페이크'는 AI를 기반으로 영상이나 이미지를 학습시킨 뒤 조작된 영상을 만들어내는 인간 이미지 합성 기술이다. 조 바이든 미국 대통령을 흉내낸 공화당 예비선거 불참을 권하는 자동 녹음 전화와 미국 유명가수 테일러 스위프트의 딥페이크 음란 사진이 유포된 지 하루도 안돼 7000만명 이상이 조회하는 등 새로운 유형의 허위 조작 정보, 불법 유해 정보가 플랫폼을 통해 생성되고 빠르게 유통되는 것이 현실이다.

이러한 문제점으로 인해 전 세계 각 국은 속속 대책을 마련하고 있다. 미국은 지난해 10월 AI 생성 콘텐츠의 워터마크 표시 등 AI에 대한 행정명령을 공개했다. 유럽연합(EU)의 경우 실존 인물 등과 유사하게 생성·조작된 정보는 별도로 표시하도록 의무화했다. 방통위가 이날 발표한 'AI 서비스 이용자 보호에 관한 법률' 제정추진은 이러한 흐름과 같은 맥락이다. AI로 생성한 콘텐츠를 게시할 경우 'AI 생성물' 표시를 의무화하고, AI 관련 피해 구제를 위한 신고 전담 창구를 설치하도록 해 부작용을 막겠다는 것이다. 방통위는 생성·유포 단계별 대책 등 허위 조작 정보 근절 종합대책을 마련한다는 계획이다.

딥페이크 생성·확산의 주된 경로가 되고 있는 플랫폼에 대해선 자율규제를 우선 활성화한다는 방침이다. 법률 제·개정까지는 시간이 많이 걸리기 때문에 현실적으로 실행 가능한 자율규제부터 추진하겠다는 설명이다.

각국의 이러한 대응책과 맞물려 빅테크들도 '액션'에 나서고 있다. 전 세계 AI 산업을 주도하는 기술 기업 23곳이 정보 조작 가능성이 있는 딥페이크 확산 방지를 위해 글로벌 공동전선을 구축했다. 오픈AI, 마이크로소프트(MS), 구글, 메타, 엑스(X), 틱톡, 앤스로픽, 어도비 등 23개사는 딥페이크에 대응하기 위해 일종의 협의체인 'AI 선거협정(AI Elections Accord)'에 참여하고 있다. 한국에선 LG AI연구원이 유일하게 포함됐다. 이와 관련해 구글이 지난 18일부터 유튜브에 AI를 이용해 만들어진 콘텐츠에 '생성·합성 여부'를 표시하는 라벨링을 적용하기 시작했다.

한 플랫폼 업계 관계자는 "딥페이크 등 AI 기술의 발전과 확산에 따라 새로운 유형의 불법 유해 정보가 온라인 공간에서 무분별하게 유통되고 있는 상황에서 미디어의 사회적 책임을 강화하는 정부의 정책 기조에 대해선 긍정적으로 평가한다"면서도 "자칫 관리감독 강화에 따른 산업 생태계 위축으로 이어지지 않도록 사업자의 현장 목소리도 정책에 반영되길 바란다"고 말했다.

한편 방통위는 AI 대중화 시대를 맞아 미디어 산업 육성을 유도하는 법제를 개편한다. 우선 방송법, IPTV법, 전기통신사업법 등 개별법에 분산된 미디어 규율체계를 정비해 전통 미디어와 신유형 플랫폼을 아우르는 '통합미디어법안'의 입법을 추진할 계획이다.

방통위 관계자는 "동일 서비스에는 동일 규제를 적용한다는 원칙을 기반으로 미디어 사업자 간 공정 경쟁 촉진과 미디어 산업 진흥을 위한 법 제도 정비에 나설 것"이라고 설명했다.

아울러 스트림플레이션(스트리밍+인플레이션) 등 외국산 온라인동영상서비스(OTT) 플랫폼 문제점에 대해 대응에 나서면서 토종 OTT를 육성할 계획이다. 지난해 말 요금을 올린 OTT 사업자들의 법률 위반 여부를 살피기 위해 사실조사를 실시하고, 플랫폼 서비스의 가입·이용 시 불편 사항을 점검할 예정이다.

[김대기 기자]

김대기 기자(daekey1@mk.co.kr)

 

기사 내용의 수치화, 인사이트

AI 대중화 시대를 맞아 전 세계적으로 '딥페이크(Deepfake)' 등 부작용에 대한 문제점이 속속 나타나고 있다.
미국 유명가수 테일러 스위프트의 딥페이크 음란 사진이 유포된 지 하루도 안돼 7000만명 이상이 조회했다.
전 세계 각 국은 속속 대책을 마련하고 있다.

미국은 지난해 10월 AI 생성 콘텐츠의 워터마크 표시등 AI에 대한 행정명령을 공개했다.
유럽연합(EU)의 경우 실존 인물 등과 유사하게 생성·조작된 정보는 별도로 표시하도록 의무화했다.
방통위가 이날 발표한 'AI 서비스 이용자 보호에 관한 법률' 제정을 추진했다.
자율규제를 우선 활성화한다는 방침
법률 제·개정까지는 시간이 많이 걸리기 때문에 현실적으로 실행 가능한 자율규제부터 추진하겠다는 설명
빅테크들도 '액션'에 나서고 있다. 전 세계 AI 산업을 주도하는 기술 기업 23곳이 정보 조작 가능성이 있는 딥페이크 확산 방지를 위해 글로벌 공동전선을 구축하고 'AI 선거협정(AI Elections Accord)'에 참여하고 있다.

18일부터 유튜브에 AI를 이용해 만들어진 콘텐츠에 '생성·합성 여부'를 표시하는 라벨링을 적용하기 시작했다.

전통 미디어와 신유형 플랫폼을 아우르는 '통합미디어법안'의 입법을 추진할 계획이다.
토종 OTT를 육성할 계획이다

 

추가조사한 내용

법률 제정에 시간이 오래 걸려 자율규제부터 실행한다고 하는데 자율규제로 범죄가 얼마나 줄어들까? 그 동안 생기는 피해자는 어떡하나. 법률 제정에 시간이 왜 그렇게 오래 걸리는 건지 궁금해졌습니다.

 

정부입법절차

 

찾아보니 절차가 복잡했고 생각해보니 법이 하루아침에 만들어지는 것이 더 이상하다는 생각이 들었습니다. 그래도 그동안에 피해자가 생길 수 있으니 최대한 빠르게 법을 적용하기 위한 방법이 있는지 찾아봤습니다.

입법예고에는 최소 40일이 걸리고 규제심사는 중요규제인 경우 45일 이내이고 1회에 한정해서 추가 15일 연장이 가능하다고 해서 줄일 수는 없는 것 같고 법제처 심사는 처리기간 규정이 별도로 없었고 기간을 줄일 수 있는 방법이 있었는데, “정부 입법”이 아닌 “의원 입법”으로 처리하는 방법이였습니다.

“의원 입법”은 동료의원 10명의 동의가 있으면 발의가 가능한 방식입니다.
윤석열 대통령의 “제1기 신도시 특별법” 이나 교사들의 교권침해로 인한 “교권 강화” 관련 법률도 의원 입법 방식으로 발의하였습니다.

현재 21대 국회에서 97%는 의원 입법 방식으로 사용해서 “정부입법”의 취지가 몰각되는 등 주의가 필요합니다만 빠르게 법안이 통과되어 피해자가 많이 생기지 않았으면 하는 마음입니다.

 

피해자의 손해배상

딥페이크 범죄 피해자에 대한 배상이 아직은 잘 이루어지지 않고 있다고 합니다. 왜냐하면 딥페이크 범죄 가해자가 69% 10대이고 미성년자라 소송실익이 크지 않기 때문입니다.
그래서 배상명령을 신청할 수 있는 범죄에 딥페이크 이용 성범죄도 추가해야한다는 지적이 나옵니다.
배상명령은 형사 재판에서 피해자가 신청을 하면 법원이 유죄 판결을 선고하면서 범죄 피해에 대한 손해배상을 명령하는 제도입니다. 이러면 추가 민사소송 비용이 들지 않고, 상대적으로 신속하다고 합니다.

조사 후 든 생각
이렇게 새로운 기술의 발전은 인류에게 생산성과 편리함을 가져다 주기도 하지만 나쁜 목적에 사용되어 신종 범죄에 이용되기도 합니다. 정말 빠르게 변하고 발전하는 세계에서 그에 맞는 보안 대책들이 마련이 되야 할 것이라고 생각합니다. 만약 더 발전된 기술인 AGI, 양자컴퓨터가 보안적인 대책 마련이 되지 않고 세상에 나오게 된다면 인류가 멸망할 수도 있을 것 같다는 생각을 하며 심각성을 느끼고 보안 분야에 대한 흥미가 생겼습니다.

오늘 내용 요약

AI 대중화 시대를 맞아 전 세계적으로 '딥페이크(Deepfake)' 등 부작용에 대한 문제점이 속속 나타나고 있다.

딥페이크 피해를 막기위해 방통위가 법률 제정중이지만 법률 제정에는 시간이 많이 소요되어 현실적인 자율 규제부터 시행한다.

 전 세계 AI 산업을 주도하는 기술 기업 23곳이 정보 조작 가능성이 있는 딥페이크 확산 방지를 위해 글로벌 공동전선을 구축하고 'AI 선거협정(AI Elections Accord)'에 참여하고 있다.

법률 제정에는 시간이 많이 걸리고 가해자의 대부분이 10대 미성년자라서 피해자들의 손해배상은 잘 이루어지지 않고 있다.

빠른 기술 발전으로 인해 새로운 유형의 범죄도 많아지기 때문에 기술 발전의 속도와 맞거나 빠르게 정부 규제와 보안 대책이 마련되어야 한다고 생각합니다.

 

현직자에게 질문

1. AGI, 양자컴퓨터등이 개발되었을 때 생길 수 있는 보안문제는 어떤 것이 있을까요?
2. 이것을 막기위해 정부나 개발회사에서 할 수 있는 규제나 보안대책에는 무엇이 있을까요?

 

추가자료 링크

정부입법절차 : https://www.moleg.go.kr/menu.es?mid=a10105020000

법제처 소요시간 : https://news.kbs.co.kr/news/pc/view/view.do?ncd=7796896

규제심사 소요시간 : https://www.better.go.kr/fz/intro/RrcOrgn02_1.jsp
딥페이크 배상명령 : https://www.hani.co.kr/arti/society/women/1133107.html