EU, 인종·성차별 금지 담은 AI 윤리지침 초안 마련

(서울=연합뉴스) 이해영 기자 = 유럽연합(EU)이 '인종과 성 차별 금지' 등을 담은 인공지능(AI) 윤리지침 초안을 마련했다. AI 윤리지침 제정을 추진 중인 EU는 전문가회의가 작성한 초안을 토대로 관계자들이 참가하는 전문기구의 심의를 거쳐 연말까지 집행위원회를 통해 최종안을 도출한다는 계획이다.

AI는 금융기관의 융자심사와 채용 등 활용분야가 급속히 확대되고 있으나 인종이나 성별 등에서 편향된 데이터를 읽어 들일 경우 차별적 판단을 하는 사례가 증가할 것으로 우려되고 있다.

AI 이용 관련 규정은 그동안 미국 구글 등 기업들이 주로 추진해 왔다. 국가 차원의 관련 규정제정 추진은 EU가 처음인 것으로 보인다. 이에 따라 EU가 연내에 최종안을 마련할 것으로 기대되는 AI 윤리지침은 다른 나라의 관련 규제와 기업에도 영향을 미칠 것으로 예상된다.

6일 니혼게이자이(日本經濟)신문에 따르면 윤리지침 초안은 유럽의회의 위탁을 받은 전문가회의인 'AI 포 피플'이 곧 발표할 예정이다. 초안에는 ▲AI의 판단과정을 알기 쉽게 설명할 책임을 기업에 부과하고 ▲판단에 어떤 데이터를 사용했는지 등의 정보공개제도 정비 ▲AI의 구조와 운용이 윤리적인지 여부를 심사할 기구 설치 ▲해당AI가 윤리적인지 공증하는 인증제도 마련 등의 내용이 담겼다.

AI의 결함으로 예를 들어 청소 로봇이 사고를 낼 경우 등에 대비해 손해를 커버하기 위한 배상책임보험 가입을 기업에 의무화하는 내용도 포함됐다.

AI활용은 빠른 속도로 확산하고 있다. 금융기관은 고객의 개인정보와 구매이력 등을 분석해 점수화하는 방식으로 융자조건 등을 정하고 있다. 취업희망자의 이력서를 AI가 읽어 들여 채용여부를 판단하는 경우도 많다.

미국과 유럽에서는 "AI가 인종이나 성별 등에 편향된 분석과 판단을 확대시킬 위험이 있다"는 지적이 제기되고 있다. AI는 먼저 인간이 입력한 과거 데이터에서 독자적인 판단기준 등을 학습한 후 점차 스스로 데이터를 수집, 분석결과를 내놓는다. 원래의 데이터에 차별적인 편향성이 있으면 이를 조장할 수 있는 약점이 있다.

예컨대 금융기관의 AI가 특정 인종 고객의 주택융자신청을 거부하거나 인사채용 AI가 남녀 성별에 따라 판단기준에 차등을 둘 우려가 있다.

또 AI 내부의 데이터 분석과정이 복잡해 어떤 지표를 토대로 왜 그런 판단을 했는지 외부에서는 알 수 없는 '불랙박스화'도 문제다. 판단과정을 외부에서 볼 수 없으면 차별적인 분석이 계속돼도 발견되기 어렵고 수정도 어렵다. EU의 윤리지침은 분석과정 투명화를 추진함으로써 이런 문제에 대처하도록 했다.

유럽연합집행위원회는 지난 4월 전문기구를 설치, AI 윤리지침을 연내에 제정하겠다고 발표했다. 전문기구는 전문가회의가 마련한 초안을 토대로 최종안을 작성할 계획이다. 전문가회의의 일부 위원은 전문기구의 위원을 겸하고 있다.

위반시 벌칙 등은 지침에 포함되지 않을 것으로 보이지만 EU 각국은 지침을 참고해 관련 규제법을 제정을 추진할 가능성이 있다. "부당한 AI분석 사례"로 지목되는 기업은 투자가와 소비자로부터 외면당할 가능성도 있다고 니혼게이자이는 지적했다.

lhy5018@yna.co.kr

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지> 2018/11/06 10:30 송고