자율주행차와 공중보건학 그리고 윤리적 문제

자율주행차와 공중보건학 그리고 운리적 문제

안전벨트, 에어백과 같은 자동차 안전장치가 강화되면서 교통사고 사망자 수는 계속 줄고 있는 추세이지만 아마도 자율주행차는 가장 획기적으로 교통사고로 인한 부상과 사망을 줄일 수 있을 것으로 예상된다. 자율주행차는 운전과정에서 교통사고 사망의 94%를 차지하는 것으로 추정되는 인간의 실수를 제거함으로서 교통사고 사망자 수를 90% 가량 줄일 수 있다. 2014년 기준 우리나라의 교통사고 사망자 수가 전체 사망자 수의 2.1%5,700명인 것을 감안하면 매년 5,000명 이상의 목숨을 구할 수 있는 셈이니 자율주행차는 어떤 공중보건 조치보다도 강력하고 효과적인 조치가 될 것이다.

자율주행차의 분류는 SAE(Society for Automotive Engineers) International5단계 분류가 일반적인데. Level 0(no automation)는 전적으로 인간이 운전하는 것, Level 1(driver assistance)은 가끔 핸들조작, 가속, 감속 같은 특정 임무를 도와주는 것(예를 들면 크루즈 기능, 차선이탈방지 기능), Level 2(partial automation)는 시스템이 핸들조작과 가속, 감속의 임무를 수행하고 인간은 상황을 모니터하면서 나머지 기능을 담당하는 것(운전대가 스스로 돌아가기 시작 운전자는 핸들과 페달에서 손과 발을 뗄 수 있지만 시선은 전방에 두고 돌발상황에 대비해야 함, 테슬라의 오토파일럿이 여기에 해당), Level 3(conditional automation)은 시스템은 모든 운전 업무를 담당하고 상황을 모니터링도 하고 인간은 시스템이 도움을 요청할 때만 개입하는 것(운전자가 딴 짓을 할 수 있음, 구글의 자율주행기술이 여기에 해당), Level 4(high automation)는 대부분의 상황에서 시스템이 운전을 담당하고 설령 인간이 개입요청에 제대로 반응하지 못해도 시스템이 기능을 수행하는 것, 마지막으로 level 5(full automation)에서는 모든 상황에서 시스템이 운전을 담당하는 것이다. 레벨 1,2는 인간 운전자가 주행환경을 모니터링 해야 한다는 측면에서 상위레벨과 차이가 나는데 보통 자율주행차와 관련된 논의는 SAE level 3,4,5에 대한 얘기라고 할 수 있다. 테슬라의 엘론머스크는 10년 후 생산되는 차 대부분은 자율주행차일 것이고 20년 후에는 차에서 운전대가 사라질 것으로 예측하기도 했다.

자율주행차에서 공중보건의 윤리가 적용되는 지점은 일차적으로 개인 사업자(자율주행차 제조업체)가 혁신적 개발을 추구할 수 있는 자유와 공중의 건강을 지켜야하는 정부와 책임 사이에 균형을 맞추는 일이다. 자율주행차 자체는 교통사고를 크게 줄임으로서 안전에 기여하지만 그로인해 보다 건강한 이동수단인 자전거나 걷기를 덜 하는 부작용이 생길 수 있고 자율주행차에 투자하느라고 대중교통에 대한 투자가 감소할 수도 있다. 또한 안전한 자율주행차를 이용할 수 있는 도시의 부유한 집단과 그렇지 못한 집단 사이에 격차가 발생할 수 있다.

또한 자율주행차는 이용자의 이해(원하는 목적지에 빨리, 싸게, 안전하게 이동하는 것)와 사회의 이해(길은 모든 이용자-자율주행차 승객 뿐아니라 일반 운전자 승객, 자전거, 보행자-에게 안전해야 함) 사이에 이해충돌이 발생할 수 있다.

이런 이슈를 이해하는 데 강제선택(foced-choice) 상황을 가정해서 판단하는게 도움이 되는데 많이 활용되는 방법은 트롤리 문제(trolley problem)이다. 트롤리 문제는 철학자인 Philippa Foot1967년 처음 제기한 사고실험(thought experiment)인데 이후 다른 철학자나 인지과학자들이 많이 인용하면서 유명해졌다

트롤리 문제에는 여러 버전이 있지만 가장 간단한 형태는 철로에서 트롤리의 진행방향에 5명의 사람이 묶여있다. 당신 옆에는 트랙을 바꿀 수 있는 레버가 있는데 이것을 당기면 트롤리가 방향을 바꾸어 다른 트랙으로 가는데 이 트랙에는 한 사람이 묶여 있다. 당신이 아무 일도 안하고 가만히 있으면 5명이 죽고 당신이 레버를 당기면 한 사람이 죽게 된다. 이런 상황에서 자율주행차는 어떤 선택을 하도록 알고리즘을 만들어야 할 까? 공리주의적 관점에서는 희생을 최소화하는 것이 합리적이지만 상황이 이렇게 단순한 것만은 아니다. 예를 들어 승객 1명이 다치거나 보행자 여러 명이 다쳐야 하는 상황에서의 선택은 어떻게 해야 하나? 한 연구에 따르면 연구참여자들은 더 많은 생명을 구하는 쪽으로 선택을 해야 한다고 했지만 정작 차량을 구입할 때는 숭객의 안전을 최우선으로하는 차량을 선호하였다. 하지만 공평성의 측면에서 보면 보행자는 아무 잘못없는 사람인 반면 자율주행차 승객은 본인이 자발적으로 탑승했기 때문에 약간의 위험을 더 감수하는 것이 형평에 맞을 수도 있다. 어쨌든 공리주의적 관점에서 자율주행차의 알고리즘을 설계하면 사람들이 자율주행차의 구입을 꺼려함으로서 보다 안전한 자율주행차의 도입이 미루어지는 역설적 결과를 초래할 수 있는 것이다.

사실 현실에서는 이보다 훨씬 복잡하고 다양한 상황이 발생할 수 있다. 어린이는 노인보다 우선해서 보호해야 할 것인가? 임신한 여성은 2명으로 쳐야하는가? 죽지는 않지만 부상을 당하는 경우에 부상자수뿐 아니라 부상의 심각한 정도, 사고 확률, 부상에 따른 삶의 질까지 알고리즘이 고려해야 하는가? 이런 복잡한 윤리적 문제에 대응하기 위해 자율주행차 개발단계에서부터 공중보건학의 가치에 부합하는 형태로 알고리즘이 만들어져서 자율주행차 설계에 반영되어야 한다.

공중보건학자들은 자율주행차를 생명을 구할 수 있는 혁신으로 환영해야 하고 기술혁신에 발맞추어 자율주행차 운행과 관련된 사회적 논의를 이끌어나갈 책임이 있는데 특히 다음의 4가지 영역에 집중할 필요가 있다. 1) 자율주행차 개발돤계에서부터 강제-선택 알고리즘에 대한 투명하고 협조적인 토론 옹호, 2) 일반 대중들이 자율주행차와 관련한 공중보건 및 윤리적 문제를 인식하도록 홍보, 3) 자율주행차의 운행 시기와 방법에 대해 사회적 합의가 이루어질 수 있도록 함, 4) 자율주행차와 관련한 합리적이고 윤리적으로 정당한 규정들이 개발되도록 함.

 

[트롤리 문제 실습]

문제 1. 각각의 상황에서 자율주행차는 어떤 선택을 하도록 하는 것이 타당한가?

문제 2. 어떤 알고리즘을 탑재한 차를 사겠는가?

A: 여러 명의 횡단보도 보행자 vs 한 명의 인도 보행자

B: 한 명의 인도 보행자 vs 운전자

C: 운전자 vs 여러 명의 횡단보도 보행자


 




by 카이로스 | 2017/10/09 09:54 | 일반 | 트랙백 | 덧글(4)

트랙백 주소 : http://hojangkwon.egloos.com/tb/4419245
☞ 내 이글루에 이 글과 관련된 글 쓰기 (트랙백 보내기) [도움말]
Commented by PFN at 2017/10/09 17:03
이 문제와 그 수많은 변형들을 보곤 했는데 제 선택은 항상 같습니다.
어떤 결과를 초래하든 간에 일단 나와 내 가족 목숨 살리는게 최우선이고
내 목숨과 상관없다면 속편하게 공리주의로 가면 되는 것.
차요? 당연히 저 모든 사람을 다 치더라도 날 살리는 차를 삽니다.
Commented by areaz at 2017/10/10 19:01
그것이 '이기적' 인간의 선택이죠. 그래서 완전자율주행차는 기술 개발이 끝나더라도 실제 보급되는 시기는 매우 늦을 것으로 예상합니다.
Commented by PFN at 2017/10/10 19:40
자기 목숨이 달린 상황에서의 선택을 "이기적"이라고 하는게 마땅하다고 생각하시나요?
대체 얼마나 의로우신 분이라 그걸 이기적이라고 하시는지는 모르겠습니다만
왜 세상은 타인을 위해 희생하는 것을 굳이 숭고하다고 찬양하겠습니까?
당연히 그것이 인간 본성에 거스르는 선택이기 때문이죠.
그리고 인간의 본성을 무시한 정책은 그 어떤 것도 성공한 역사가 없습니다.
그저 자율주행차 보급이 늦어진다 수준이 아니라 아예 사람들이 받아들이지 않을겁니다.
그런 법안을 추진한 정권과 그에 따른 기업을요.
법안은 통과될수 없을 것이고 운전자를 우선 보호하지 않는 차는 시장이 도태시킬겁니다.
Commented by 유빛 at 2017/10/16 22:17
음... 저는 자율주행에 대해서 트롤리 문제처럼 완전히 비실용적인 사고 실험을 적용 하는 걸 보면 솔직히 '왜 저런 말도 안되는 사고 실험을 하지'라는 생각이 들더군요. 실제로 트롤리 문제와 같은 상황이 발생한다면, 알고리즘은 당연히 '모든 보행자를 피한다'를 목표에 두고 가능한 최적의 행동을 할 겁니다. 그 결과로 횡단보도 보행자가 피해를 볼지, 인도 보행자가 피해를 볼지는 솔직히 누구도 모르죠. 실제 환경에 따라 케이스 바이 케이스가 될 것이거든요. 결과가 어찌되었든 알고리즘이 모든 피해를 줄이기 위해서 최적의 선택만을 했을 때, 그리고 그것에 대해서 사람들이 '인간이라도 어쩔 수 없었다'라고 인정하는 상황에서 자율주행차의 트롤리 문제는 종결입니다. 최고의 결과를 위해 최선의 선택만을 했음에도 불구하고 발생한 불가항력적인 피해에 대해서 누가 윤리적인 잣대를 들이댈 수 있겠습니까.

그리고, 자율주행 자동차 회사는 '우리 자동차는 이런 이런 상황에서도 미리 예측해서 급제동을 통해, 혹은 정교한 컨트롤을 통해 피해를 안 낼 수 있을만큼 우수하다'라고 광고를 할 것이고, 소비자들은 그냥 '가장 우수한 상품이라고 판단되는' 자동차를 사면 그만입니다. 트롤리 문제는 윤리적 선택을 보기 위해서 선택권을 제한했지만 현실의 자율주행차는 '모두를 구한다'라는 확률을 최대화 하는 방향으로 마지막까지 노력할 것이니, 사고 실험은 그저 사고 실험일 뿐... 이라고 생각합니다. 즉, 자율주행 알고리즘에 윤리적 선택은 넣을 필요가 없습니다.

:         :

:

비공개 덧글

◀ 이전 페이지          다음 페이지 ▶