자율주행차가 아기를 죽일까?
할머니를 죽여야 할까?
출신 지역에 따라 다릅니다.
2014년에 MIT 미디어 랩(Media Lab)의 연구원들은 모럴 머신(Moral Machine)이라는 실험을 고안했습니다. 그 아이디어는 사람들이 어떻게 자율주행차가 “트롤리 문제”의 다른 변형에서 삶을 우선시해야 하는지에 대한 결정을 내리는 게임 같은 플랫폼을 만드는 것이었습니다. 이 과정에서 생성된 데이터는 다양한 문화의 집단 윤리적 우선순위에 대한 통찰력을 제공하고 있습니다.
글로벌 윤리 연구의 목표는 AI가
자율주행의 “트롤리 딜레마”를
해결하는 것
연구원들은 그 실험이 바이러스와 같은 보급을 전혀 예측하지 못했습니다. 플랫폼을 라이브로 구현한지 4년이 지난 후, 233개국과 지역에 사는 수백만 명의 사람들이 4천만 건의 결정을 내렸고, 이 결정은 세계 도덕적 선호도에 대해 이루어진 가장 큰 연구 중 하나가 되었습니다. 네이처 (Nature)에 발표된 새로운 논문은 그 데이터에 대한 분석을 제시하고 문화, 경제 및 지리적 위치에 따라 교차 문화 윤리가 얼마나 다른지를 보여줍니다.
고전적인 트롤리 문제는 이렇습니다. 달리는 전차가 트랙을 질주하고 있습니다. 다섯 명의 사람들과 충돌해서 사망사고를 만들 것입니다. 당신은 다른 사람이 갑작스러운 죽음을 맞이할 수 있을 때, 다른 트랙으로 트롤리를 바꿀 수 있는 레버에 접근할 수 있습니다. 레버를 당기고 하나의 생명의 희생으로 다섯 명을 살려야 하는가?
Moral Machine은 사람들을 극대화하기 위해 9개의 다른 비교 테스트를 실시했습니다. 자율주행 중인 자동차가 사람보다 애완동물, 보행자보다 승객, 적은 수보다 많은 수, 남자보다 여자, 노인보다 젊은이, 아픈 상태보다 건강한 상태, 낮은 사회적 지위보다 높은 지위, 법을 위반하는 것보다 법에 지키는 상황에서 무엇을 우선시해야 할까요? 마지막으로, 차량이 방향을 전환해야 합니까? 아니면 계속 주행해야 합니까?
그러나, 이 실험은 일대일 비교를 하기보다는, 참가자들에게 자율주행차가 노인 보행자 3명을 죽이기 위해 곧장 앞으로 나아가야 할지 아니면, 젊은 승객 3명을 죽이기 위해 바리케이드로 전환해야 할지 와 같은 다양한 조합을 보여주었습니다.
연구원들은 국가들의 선호도가 크게 다르지만, 또한 문화와 경제와도 높은 상관관계가 있다는 것을 발견했습니다. 예를 들어, 중국이나 일본과 같은 집단주의 문화에서 온 참가자들은 노인들을 존중하는 것에 더 큰 강조를 하기 때문에 아마도 나이 든 사람들보다 젊은 사람들을 덜 아낄 것 같습니다.
자율주행차를 운전하는 국가들의 비교: 만약 이 막대가 1에 가까우면, 응답자들은 젊은이들을 보살핌에 더 큰 중점을 두었고, 만약 이 막대가 -1에 가까우면, 응답자들은 평균적인 노인을 보살핌에 더 큰 중점을 두었다; 0은 전 세계 평균.
마찬가지로, 취약한 제도를 가진 가난한 국가들의 참여자들은 무단 횡단자 보다 합법적으로 횡단하는 보행자에 대해 더 관대합니다. 그리고 경제적 불평등이 높은 국가들의 참여자들은 사회적 지위가 높은 사람들의 대우와 낮은 사람들의 대우 사이에 더 큰 차이를 보여줍니다.
그리고, 무엇이 전차 문제의 본질적인 문제로 귀결되는가 하면, 연구원들은 위험에 처한 사람들의 수가 어느 그룹을 남겨야 할지를 결정하는데 있어서 항상 지배적인 요소는 아니라는 것을 발견했습니다. 그 결과는 영국이나 미국과 같은 개인주의적인 문화에서 온 참가자들이 다른 모든 선택들, 예를 들어 작성자들의 관점에서, 각 개인의 가치에 더 큰 강조를 하기 때문에 더 많은 생명을 두는 것에 더 많은 관심을 기울인다는 것을 보여주었습니다.
자율주행차를 운전하는 국가들의 비교: 만약 이 막대가 1에 가깝다면, 응답자들은 더 많은 생명을 유지하는데 중점을 두었고, 만약 이 막대가 -1에 가까우면, 응답자들은 더 많은 평균적인 생명을 유지하는데 더 적은 중점을 두었다; 0은 전 세계 평균
서로 가까이 있는 국가들 또한 더 가까운 도덕적인 선호를 보였으며, 서쪽, 동쪽, 그리고 남쪽에는 세 개의 지배적인 집단이 있습니다.
연구원들은 연구 참가자들이 스스로 선택하였고, 인터넷에 연결되어 있고, 높은 사회적 지위 및 기술에 익숙한 것을 고려할 때 결과가 왜곡될 수 있다는 것을 인정했습니다. 그러나 자율주행차에 관심이 있는 사람들도 그러한 특성을 가질 수 있을 것입니다.
이 연구는 자율주행차를 현재 시험하는 국가들에게 흥미로운 영향을 미칠 것입니다. 이러한 선호가 그러한 차량의 설계와 규제를 형성하는 데 영향을 미칠 수 있기 때문입니다. 예를 들어, 자동차 제조업자들은 중국 소비자들이 보행자들을 보호하는 차에 더 쉽게 진입할 것이라는 것을 알게 될 것입니다.
이 막대가 1에 가까울 경우 응답자들은 보행자들을 보호하는 것에 더 큰 중점을 두었다. 막대에서 -1에 가까울 경우, 응답자들은 승객을 보호하는 것에 더 큰 중점을 두었다. 0은 글로벌 평균
하지만 이 연구의 저자는 결과가 어떻게 다른 국가 행동을 해야 하는 것을 의미하지 않다고 강조했습니다. 사실, 어떤 경우에, 저자들은 기술자들과 정책 입안자들이 집단 여론을 무시해야 한다고 느꼈습니다. 이 논문의 저자인 에드먼드 아와드(Edmond Awad)는 사회적 지위의 비교를 예로 들었다. “사람들이 낮은 지위보다 높은 지위를 유지하는 것이 상당히 문제가 되는 것 같습니다,”라고 그는 말했습니다. “이봐, 우리는 그것을 수치화할 수 있어.”라고 말하는 대신, 그 결과는 산업계와 정부가 대중의 이해를 위한 다른 결정들을 위한 기반으로서 사용되어야 한다고 그는 말했습니다.
Awad는 이 결과가 기술자들이 자율주행차를 넘어 AI의 윤리성에 대해 더 깊이 생각하는데 도움이 되기를 바라고 있습니다. “우리는 이 데이터를 수집하는 매우 좋은 방법이기 때문에 전차 문제를 이용했지만, 윤리에 대한 논의가 그 주제 내에 머물지 않기를 바랍니다.”라고 그는 말했습니다. “토론은 누가 죽을 것인지 말 것인지 그리고 편견이 어떻게 발생하는지에 대한 것 대신에 누가 더 위험하고 덜 위험한가에 대한 위험 분석으로 옮겨가야 합니다.” 이러한 결과가 어떻게 AI의 윤리적 설계와 규제로 전환될 수 있는지는 그가 미래를 더 많이 공부하기를 바라는 것입니다.
“지난 2, 3년 동안, 더 많은 사람들이 AI의 윤리에 대해 이야기하기 시작했습니다,”라고 Award는 말했습니다. “더 많은 사람들이 AI가 다른 그룹의 사람들에게 다른 윤리적 영향을 미칠 수 있다는 것을 인식하기 시작했습니다. 사람들이 이 일에 관여하는 것을 볼 수 있다는 사실, 저는 그것이 매우 희망적이라고 생각합니다.”
끼어들기
제 글에서 부동의 1위인 트롤리 딜레마에 대한 연구 결과입니다. 제가 처음 시작할 때 ‘들어가는 글’에서 기술적인 부분뿐만 아니라 사회적인 이야기도 자주하겠다는 생각에 작성한 글이 트롤리 딜레마에 대한 것이었습니다. 그 이후 꾸준히 검색하시는 분들이 많더군요. 이유는 다양할 것이라 생각하고… 그만큼 관심이 많으신 걸로 생각합니다. 그 글을 작성한 후, 한 번 업데이트를 했는데, 그것이 MIT에서 진행하고 있는 Moral Machine이라는 프로젝트이었습니다. 얼마나 많은 분들이 참여하셨는지 모르겠지만, 이번 글이 그 프로젝트의 결과 논문에 대한 이야기입니다.
과연 누가 사람의 목숨에
판단을 할 수 있겠는가
자율주행차의 가장 큰 존재 이유가 안전이라는 큰 목적에서 출발을 했다고 해도 과언이 아닐 거라 생각합니다. 그런 안전을 최우선으로 생각하는 물건이기 현재 자동차로 인해 발생하는 안타까운 일들을 막아 보자는 것입니다. 하지만 여기에서 엄청나게 큰 윤리적 딜레마에 빠지게 되었습니다. 흔히 이야기하는 트롤리 딜레마에 대한 문제이었습니다. 과연 누가 사람의 목숨에 판단을 할 수 있겠는가입니다. 이것은 현대의 사람들이 아주 좋아하는 법으로 해결할 수 있는 문제가 아닐 것입니다. 해서 윤리적 문제로 남겨진 상황입니다.
하지만 그 누구도 답을 내릴 수 없는 문제입니다. 이런 상황에서 자율주행차는 조금씩 조금씩 세상을 향해 준비를 하고 있고, 이러한 문제도 점점 더 부각이 될 것으로 생각됩니다. 3월에 발생한 Uber의 사망사고는 자율주행차의 문제를 극적으로 부각시켰으며, 사람들의 뇌리에 자율주행차에 대한 부정적인 이미지를 한 번에 심어주었습니다. 그런 결과로 자율주행차에 대한 설문에서 부정적인 답의 증가하기도 했고요. 이후 미국 정부는 정부에서든 기업에서든 자율주행차에 대한 정확하고, 긍정적인 부분을 홍보하는데에 노력을 하고 있습니다.
제가 예상해보는 자율주행차의 시제품이 세상에 등장할 때의 모습은 여러 종교단체에서 집회가 있고, 과학문명을 옹호하는 단체의 집회가 같이 열리지 않을까 합니다. 제가 무슨 예언자가 된 것 같지만, 그건 아니고요. 대부분의 혁신적인 물건이 세상에 등장할 때의 모습은 비슷했으니까요. 앞선 글에서는 이번 연구의 결과를 무조건 따를 필요는 없다고 하면서 참고를 했으면 하는 의견을 보였습니다. 인간에 본성의 문제에서는 전 세계가 같은 모습을 보일지 모르겠지만, 각자가 가지고 있는 문화와 생활방식에 따라 사고의 방향은 많이 다르기 때문에 앞으로 자율주행차가 세상에 등장했을 때 그런 부분을 염두에 두어야 할 것입니다.
소프트웨어 엔지니어들의 철학 수준이 정말 높아져야 할 것 같네요. 하지만 그 구현 방식에 대해서는 그들만의 생각뿐만 아니라 사회적으로 합의할 수 있는 수준의 그 무엇이 있어야 할 것입니다. 아직은 먼 이야기처럼 들릴지 모르겠지만, 이런 문제는 우리나라와 미국, 그 외의 나라가 각각 가지고 있는 문화가 다르기에 미리 준비하고 논의를 해두어야 이후에 그나마 의견을 수렴하고 합의하기 좋지 않을까 생각해봅니다. 이런 문제는 디지털이 아니니까요.
이번 글은 실제 Nature에 발표한 연구를 요약한 것이고요. 해당 사이트를 들어가 보시면 연구 자료 그래프를 다양하게 받아보실 수 있습니다. 저는 단순히 우리나라의 수치만 보이도록 캡처를 했고요. 한 번 원래의 사이트 방문을 권장해봅니다. 그리고 조금 더 관심이 있으신 분들은 Nature의 발표도 한 번 읽어보셔도 좋고요. 두 곳 다 참고 자료에 첨부해두었습니다. 참고로 Nature의 자료는 무료 자료는 아닙니다. 하지만 읽는 것은 가능하네요.
여러분의 이해를 돕기 위해 제가 이전에 작성했던 트롤리 딜레마 기본적인 내용의 글도 첨부합니다. 트롤리 딜레마에 대한 보다 자세한 정보를 원하시는 분들은 아래 첨부 글을 보시는 것이 좋습니다.
참고 자료
OTV
Over the Vehicle
자율주행차 그 이상의 가치
