mormal machines

date

Oct 20, 2023

slug

mormal-machines

author

status

Public

category

🤖 Computer Science

updatedAt

Sep 7, 2024 03:23 AM

The Moral Machine experiment

도로 위의 보행자와 차 안의 운전자 중 누구를 구할 것인가? 쉽지 않은 결정이지만, 앞으로 수백만 대의 자율주행 차량이 해야 할 결정입니다. 우리는 기계를 프로그래밍하지만, 누구를 구하라고 지시해야 할까요? 이것이 바로 '도덕적 기계 mormal machines' 실험의 셋업입니다.

우리는 평소에 깨닫지 못하는 많은 도덕적 결정들을 내립니다. 자율주행 차량에서는 이러한 결정들이 사전에 이루어져야 합니다. 이 논의를 대중에게 개방하는 것이 목표였습니다. 어떤 결정은 간단해 보일 수 있습니다

- 차가 4명의 가족을 구할 것인지, 아니면 고양이를 구할 것인지?

하지만 노숙자와 그들의 개 대신 사업가를 구하는 것은 어떨까요?

또는 두 명의 학생 대신 두 명의 운동선수와 노인을 구하는 것은 어떨까요?

문제는 너무 많은 조합과 가능한 사고가 있어서 전통적인 사회과학 방법으로 모두 조사하는 것이 불가능하다는 것이었습니다.

그뿐만 아니라, 사람들의 문화와 배경이 그들의 결정에 어떤 영향을 미치는지도 중요한 문제였습니다. 우리가 할 수 있는 유일한 방법은 이를 바이럴 웹사이트로 만드는 것이었습니다. 물론 말처럼 쉽지는 않지만, 그것이 바로 우리 팀이 해낸 일입니다.(논문에서 한일)

그들은 이러한 상황들을 전 세계 사람들이 공유하고 참여하고 싶어하는 온라인 작업으로 전환했습니다. 그들은 전 세계 233개국 및 지역의 수백만 명의 온라인 참가자로부터 거의 4천만 건의 도덕적 결정을 수집했습니다.

결과는 흥미롭습니다. 우선, 전 세계적으로 세 가지 기본 원칙이 있습니다. 논문의 주요 결과는 첫째, 사람들의 선호도에 대한 '큰 세 가지'인 인간 구하기, 더 많은 수 구하기, 어린이 구하기입니다.

두 번째로 흥미로운 발견은 다른 도덕적 프로파일을 가진 국가들의 클러스터였습니다.

첫 번째 클러스터에는 많은 서양 국가들이 포함되었고, 두 번째 클러스터에는 많은 동양 국가들이 있었으며, 세 번째 클러스터에는 라틴 아메리카 국가들과 전 프랑스 식민지 국가들이 있었습니다. 우리가 발견한 문화적 차이는 때때로 다차원적이어서 설명하기 어렵지만, 동양 국가들이 젊은 생명을 구하는 데 강한 선호도를 보이지 않는다는 사실과 같은 몇 가지는 매우 두드러집니다.

동양 국가들은 노인에 대한 존중이 더 높은 것으로 보입니다. 이는 매우 흥미로운 발견이었습니다. 그리고 그것은 단지 나이의 문제만은 아닙니다. 한 클러스터는 남성보다 여성을 구하는 데 강한 선호도를 보였습니다. 프랑스와 프랑스 하위 클러스터가 여성을 구하는 데 매우 관심이 있다는 사실에도 놀랐습니다.

그것은, 네, 나도 아직 무슨 일이 일어나고 있는지 정확히는 모르겠습니다. 또 다른 놀라운 발견은 사람들의 사회적 지위와 관련이 있었습니다. 한쪽에는 남성과 여성 경영진을 두었고, 다른 한쪽에는 노숙자를 두었습니다. 한 국가에서 경제적 불평등이 높을수록, 사람들은 노숙자를 희생시키면서 경영진을 구하는 것을 더 선호했습니다.

이 연구는 문화 간에 도덕이 어떻게 변화하는지에 대한 새로운 통찰을 제공하며, 팀은 이것이 인공지능과 자율주행 차량 분야에 특별한 중요성을 가진다고 생각합니다. 큰 그림에서 볼 때, 이 결과들은 인공지능을 인간의 가치와 일치시키는 데 매우 중요할 것이라고 생각합니다.

우리는 가끔 생각을 바꾸고, 우리 옆의 다른 사람들은 우리와 같은 생각을 하지 않습니다. 다른 국가들도 우리와 같은 생각을 하지 않습니다. 그러므로 AI와 인간의 도덕적 가치를 일치시키는 것은 우리가 이러한 차이점들을 이해하는 것만이 가능합니다. 그리고 그것이 우리가 시도한 것입니다.

나는 우리가 합치고, 국경을 넘을 때마다 차량의 새로운 윤리적 설정에 대해 배워야 하는 미래를 피할 수 있기를 매우 희망합니다.

도덕적 기계: 문화가 가치를 어떻게 변화시키는가

서론

자율주행 차량이 앞으로 수백만 대의 차량에서 내려야 할 도덕적 결정에 관한 논의를 시작하는 'mormal machines' 실험의 설정.

도덕적 결정의 중요성

일상에서 우리가 의식하지 못하는 많은 도덕적 결정들이 있음.

자율주행 차량에서는 이러한 결정들이 사전에 이루어져야 함.

예시: 가족과 고양이, 노숙자와 사업가, 운동선수와 노인, 학생들 간의 선택 문제.

실험 방법

다양한 도덕적 결정 조합을 조사하기 위해 전통적인 사회과학 방법으로는 불가능하다고 판단.

대신, 전 세계 사람들이 참여하고 싶어하는 온라인 작업(사이트)으로 전환.

전 세계 233개국 및 지역의 수백만 명의 참가자로부터 거의 4천만 건의 도덕적 결정을 수집.

주요 발견

세계적으로 공통적인 세 가지 기본 원칙: 사람 구하기, 더 많은 수 구하기, 어린이 구하기.

국가별 도덕적 프로파일의 클러스터 발견: 서양 국가들, 동양 국가들, 라틴 아메리카 및 전 프랑스 식민지 국가들.

동양 국가들은 젊은 생명을 구하는 데 강한 선호도가 없으며 노인을 더 존중함.

특정 클러스터에서는 여성을 구하는 데 강한 선호도가 있음.

경제적 불평등이 높은 국가에서는 경영진을 구하는 것을 더 선호함. (한 국가에서 경제적 불평등이 높을수록, 사람들은 노숙자를 희생시키면서 경영진을 구하는 것을 더 선호했습니다.)

인공지능과 자율주행 차량 분야에 중요한 통찰력 제공.

다른 사람들과 다른 국가들은 다른 생각을 가짐을 인식하고 AI와 인간의 도덕적 가치를 일치시키려는 노력 필요.

결론

문화 간의 도덕적 차이를 이해하고 이를 AI에 반영하는 것의 중요성.

국경을 넘을 때마다 차량의 윤리적 설정을 새로 배워야 하는 미래를 피하기 위한 희망.