[서울경제] 디지털서비스법(DSA)·AI법(AI Act)…온라인 플랫폼에 칼 빼든 EU

by 문선 최 · Published 2024-03-15 · Updated 2024-03-15

엑스·틱톡 이어 14일 중국 알리 조사 나서
가짜의약품·음란물 유통 등 DSA 위반혐의
MS·구글·메타 등에도 딥페이크 정보 요구
13일에는 세계 최초 AI 규제법 의회 통과
“AI 개발·윤리 첫 기준···각국 준비 분주”

EU와 빅테크를 합성한 이미지. /ANDREAS PROTT VIA ALAMY STOCK [서울경제]

유럽연합(EU) 집행위원회가 미국 엑스(X·옛 트위터), 중국 틱톡에 이어 알리익스프레스에 대해 디지털서비스법(DSA) 위반 여부에 대한 조사에 들어갔다고 14일(현지시간) 밝혔다.

중국 전자상거래업체인 알리익스프레스가 DSA 규정 다수를 위반한 것으로 의심하고 조사에 돌입한 것이다.

EU는 온라인 플랫폼에 대한 규제를 위해 지난달 17일 DSA 전면 시행에 들어갔다. 특정 인종·성·종교에 대한 편파 발언이나 테러, 아동 성 학대 등과 연관 있는 콘텐츠의 유포를 막기 위해서다.

지난해 8월부터 EU 내 이용자 4500만명 이상을 보유한 온라인 플랫폼 약 20곳을 대상으로 하다가 직원 50명·연 매출 1000만 유로(약 144억 원) 이상 기업으로 확대했다.

EU는 이날 마이크로소프트(MS)의 빙, 구글 검색, 페이스북, 인스타그램, 스냅챗, 틱톡, 유튜브, X에 대해 인공지능(AI)으로 조작한 콘텐츠인 딥페이크 예방 조치에 관한 정보도 공식 요구했다.

우선 EU는 알리익스프레스에 대해 가짜 의약품·건강보조식품 등의 판매를 금지하는 약관을 제대로 이행하지 않는다고 판단했다.

특히 미성년자의 음란물 접근을 차단하기 위한 조치가 미흡하다고 설명했다. 인플루언서들을 통해 입점 업체를 홍보·판매할 때 유해 제품이 유통되는 것을 사실상 방치하고 있다는 지적도 내놨다.

소비자 분쟁 조정 시스템 구축, 입점업체 추적·관리, 광고 관리 품질 등에 관해 DSA 규정을 제대로 준수하지 않는다는 것이다.

EU는 글로벌 온라인 플랫폼의 딥페이크 예방 조치 정보도 요구했다.

MS의 네트워킹 플랫폼인 링크트인에서 개인 정보가 ‘타깃형 광고’에 어떻게 이용되고 있는지에 대한 정보를 요구하는 식이다.

EU는 오는 6월 유럽의회 선거에서 딥페이크가 미칠 부작용에 관해 우려한다.

EU 집행위는 조사 이후 시정 조처가 미흡하거나 명백한 DSA 위반이라고 판단될 경우 세계 매출의 최대 6%에 달하는 과징금을 부과할 수 있다.

이와 함께 EU 의회는 미국 등 각국이 AI 개발과 윤리에 관한 기준 마련을 모색하는 가운데, 13일(현지시간) 세계 최초로 AI법인 EU AI Act를 통과시켰다.

이 법은 챗GPT 등 생성형 AI가 급속히 확산하는 가운데 AI 기술개발과 윤리에 관한 세계 최초의 기준을 담은 규제라는 점에서 의미가 크다.

EU 27개 회원국의 의회 비준을 거쳐 EU 관보에 게재되면 발효된다. 일부 금지 조항은 발효 뒤 6개월부터 단계적으로 적용돼 2026년 이후 전면 시행된다.

AI법에 따르면 AI 활용 분야를 네 단계의 위험 등급으로 나눠 차등 규제한다.

고위험 등급인 의료, 교육 등 공공 서비스나 선거, 핵심 인프라, 자율주행 등에서 AI 기술을 사용할 때 사람이 감독하고 위험관리 시스템을 구축해야 한다.

범용 AI(AGI·사람과 비슷하거나 그 이상 지능) 개발사는 학습과정에 사용한 콘텐츠를 명시하고 EU 저작권법을 준수해야 한다.

광범위한 사이버 공격 등을 막기 위한 조치도 해야 한다. AI 개발사는 딥페이크 영상이나 이미지를 만들면 그 점을 표기해야 한다.

AI가 인간의 편견을 재생산하거나 개인정보·사생활을 침해해서도 안된다. 예를 들어 개인의 특성·행동과 관련된 데이터로 점수를 매기는 ‘사회적 점수 평가’는 안된다.

직장과 학교에서 사람의 감정을 감지하거나 직원 채용 시 입사 지원서를 분류할 때 AI 사용을 하는 것도 할 수 없다. AI를 활용한 실시간 원격 생체인식 식별 시스템 사용은 사실상 금지된다.

다만 강간·테러 등의 중대 범죄 용의자 수색에는 법원의 허가를 받아 예외로 허용된다.

EU는 AI법 위반 시 경중에 따라 세계 매출의 1.5~7%를 과징금으로 부과할 수 있다.

앞서 프랑스와 독일 정부는 이 법에 대해 작년 말 “‘미스트랄 AI’, ‘알레프 알파’와 같은 유럽 AI 스타트업이 국제 경쟁력을 잃을 것”이라며 반대했다.

유럽이 미국과 중국에 비해 AI 투자가 부족한 상황에서 AI 주도권 경쟁에서 밀려난다는 것이다. 하지만 시민단체인 유럽기업관측소는 “AGI에 대한 규제는 대부분 빠졌고 투명성 의무 몇 가지만 준수하면 되는 수준”이라고 지적했다.

티에리 브레통 내부시장 담당 집행위원은 이날 “유럽은 AI 분야에서 신뢰할 수 있는 표준을 제시하게 됐다”고 밝혔다.

고광본 기자