윤리 딜레마 이제는 자율주행이다 AI 판단

[사설] ③'AI 판단 믿어도 되나' 윤리 딜레마 입력 2020.03.27 09:10 ①'추격자'에서 '개척자'로 진화하려는 한국 ②기술 적용은 '눈앞' 제도 정비는 '먼 미래'

#자율주행차가 갑자기 도로에 뛰어든 사람과 충돌을 삼가고 있다. 어린이와 노인 중 1명의 인명 손실은 불가피하다. 아이를 살려야 하나. 노인을 살려야 하나.

# 벼랑 끝을 달리는 자율주행차 앞으로 5명이 뛰어들었다. 차가 방향을 바꾸면 5명의 목숨을 구하지만 탑승자는 벼랑으로 떨어져 죽는다. 이 차는 어떤 선택을 해야 할까?

자율주행 인공지능(AI) 판단과 관련해 늘 언급되는 '트롤리 딜레마'다.AI가 다수를 살리기 위해 소수를 희생시킬 것인지, 생명의 경중을 어떻게 판단할 것인지 등에 대한 기준은 자율주행 시대를 앞두고 해결해야 할 과제다. 완전 자율주행차 운전자는 사람이 아닌 AI이기 때문이다.

1950년대 사람들이 상상했던 자동 운전차의 모습 위키피디아 자율주행 '도덕적 판단', 인종·국가·성별·계층에 따라 다르다.

2018년 10월 24일 세계적 과학저널 '네이처'에는 미국 매사추세츠공대 미디어랩이 '도덕적 기계(Moral Machine)'로 명명된 온라인 조사 플랫폼을 통해 233개국 230만 명을 대상으로 트롤리 딜레마를 조사·분석한 결과가 실렸다.

도덕적 기계는 2016년 11월부터 2017년 3월까지 3961만 개에 달하는 윤리적 선택의 빅데이터를 수집했다. 자율주행차 AI의 윤리적 문제에 대해서는 역대 최대 규모의 연구다.

연구팀은 탑승자와 보행자의 성별, 숫자, 애완견 동승 등의 조건으로 13종의 시나리오를 작성해 상황에 따른 응답자 선택을 조사했다.

설문조사 결과 대체로 ▲남성보다 여성 ▲성인 남성보다 어린이와 임산부 ▲동물보다 사람 ▲소수보다 다수 ▲노인보다 젊은 사람 ▲무단횡단자보다 준법자 ▲뚱뚱한 사람보다 운동선수를 구해야 한다는 선택이 많았다.

동서양의 응답자 선택 경향이 다른 점도 흥미롭다.

#서구권에서는 인원이 많고 아담한 사람을 찾는 분이 선호되었는데,

동양권에서는 인원수에 관계없이 보행자와 교통규칙을 지키는 것이 안전해야 한다는 선택을 했다.

#남미권은 여성이나 어린이, 사회적 지위가 높은 사람이 더 안전하도록 알고리즘을 설계하는 것을 선호했다.

조선일보 DB AI가 안전 담보 상처"인간처럼 판단하는 AI로 학습시켜야"

안전과 법적 윤리적 측면에서 글로벌 기준이 명확히 갖춰지지 않으면 자율주행차의 완전 상용화가 어려울 것이라는 전망도 있다. AI가 운행하는 차량이 더 안전하다는 믿음 자체가 잘못됐다는 지적이다.

2016년 구글 #웨이모 자율주행차는 차선 변경 도중 옆 차선의 버스가 양보한다고 오판해 충돌사고를 냈다.

테슬라 모델S는 흰색 트레일러를 장애물이 아닌 '밝게 빛나는 하늘'로 인지하면서 브레이크를 밟지 않아 인명사고를 냈다.

잇따른 인명사고에 그동안 선점 경쟁을 벌여온 테슬라 GM 웨이모 등 자율주행사들은 상용화 목표 시기를 늦추는 분위기다. 자율주행 상용화는 운행기술, 교통법규, 소비자 선택이라는 3가지 고비를 넘겨야 하지만 1단계 기술에서 안전성을 더 중시하게 된 데 따른 후속 조치로 보인다. 모건스탠리는 2018년 9월 기술적 지연을 이유로 웨이모의 기업가치를 1년 만에 40% 떨어진 1050억달러(약 1050억달러)로 평가했다.

자율주행 AI의 윤리적 문제는 사회적 합의만 없을 뿐 결국 차를 제조하는 기업이 어떤 알고리즘을 만드느냐에 달려 있다. '딥러닝' 기반 AI가 도덕관을 포함한 판단까지 스스로 학습하면 결국 남의 판단과 다르지 않다는 주장이다.

최강림 KT커넥티드커비즈센터장은 "AI 스스로 윤리적 판단을 내린다는 개념에서 벗어나야 한다"며 "수많은 테스트를 거쳐 대량의 데이터를 확보하고 AI가 사람처럼 판단할 수 있도록 학습시키는 것이 중요하다"고 강조했다.

자율주행차의 윤리적 판단에 따른 사고 발생 시 법적 책임 소재도 해결해야 할 과제다.

2018년 3월 미국의 한 보행자는 우버 자율주행차와 부딪혀 숨졌다. 탑승 직원과 제조업체 볼보 중 누가 책임이 있는지 논란이 됐다.

미 교통안전위원회(NTSB)는 오랜 조사 끝에 사고 원인을 우버, 안전 담당 탑승 운전사, 피해자, 애리조나 주 공동 책임으로 돌렸다. 산업을 제대로 규제하지 못한 미국 연방정부도 이에 대한 책임을 지웠다.

이에 따라 인력조작을 완전히 배제한 레벨5 레벨 자율주행차를 제조사가 상용화하지 않을 것이라는 전망도 나오고 있다.

미국자동차공학회의 분류에 따르면 레벨 1, 2는 운전자 지원 기능이 탑재된 차량이다. 레벨3을 부분자율주행, 레벨4를 조건부 완전자율주행, 레벨5를 완전자율주행으로 구분한다.

자율 주행 업계의 한 관계자는 "탑승자가 운전석에 앉지 않고 자율 주행 차의 운행에 전혀 개입하지 못하면 제조사가 사고의 책임을 그대로 져야 할 입장이 된다"이라며"운전자로부터 제조사에 보험 비용이 전가될 가능성이 있어 또 다른 사회적 합의가 필요하다"고 설명했다.

. NTSB 홈페이지 국토부 #자율주행윤리 가이드라인' 최종안 올해 내 고시

정부는 2019년 12월 자율주행윤리 가이드라인을 발표했다. 국민이 안전하게 느낄 수 있는 자율주행차 도입에 앞서 제작·운행 과정에서 고려해야 할 기본 가치 등이 포함됐다.

가이드라인에서는 자율주행차의 목표로 인간의 안전과 복리증진을 제시했다. 기본가치로서 ▲인간의 안전하고 편리함, 자유로운 이동권 보장 ▲인간의 존엄성 ▲사고로 인한 개인적 사회적 손실 최소화 등을 정의했다.

또한 행위 주체를 설계자·제작자·이용자·관리자·서비스 제공자로 제시했다. 이들이 지켜야 할 행위 준칙으로 투명성, 제어 가능성, 책무성, 안전성, 보안성 등을 언급했다.

국토부는 윤리 가이드라인에 대한 의견 수렴을 거친 뒤 초안을 수정 보완해 올해 안에 최종안을 고시할 예정이다.

김필수 대림대 자동차학과 교수는 윤리적으로 상식적으로 이해할 수 없는 사안이 발생하는 자율주행의 현실에 대한 인식 제고가 필요하다며 해킹 방지는 물론 사고 발생 후 원인을 정확히 밝힐 수 있는 자동차용 블랙박스를 의무 탑재하는 등의 방안도 강구해야 한다고 말했다.

자율주행차 윤리딜레마 인공지능 ai판단 도덕적 판단 트롤리 딜레마 딥러닝 윤리 가이드라인 우버 구글 웨이모 레벨 5

출처 : http://it.chosun.com/site/data/html_dir/2020/03/27