인공지능은 책임을 질 수 있는가?

만에 하나 인공지능이 인간이 책임을 지는 영역마저 대체한다고 가정해 봅시다.

마을에 인공지능 버스를 운영하기 시작했는데, 이 버스가 어째선지 가드레일에 박아버리네요.

고장은 아니고, 길 앞에 흩날린 커다란 비닐봉지를 아동으로 오인을 한 탓으로 밝혀졌다고 합시다(실제로 인공지능도 착시를 합니다).



이 경우 인간 운전기사라면 아이로 오인하여 발생한 사고인 만큼 승객에 큰 피해가 없다면 도덕적 책임은 면할 수 있을겁니다.

헌데 법적 책임은 그렇지 못하지요. 운전기사의 오인으로 인한 과실인 만큼, 제도에 따라서 다르겠지만 일정부분 책임을 질 것입니다.

반면 인공지능 기사는 운전기사가 지는 부분의 책임을 온전히 운영 주체가 지거나, 운영 주체와 제작자측이 분담을 하게 될 것입니다.

인공지능 기사는 사회 구성원이 아니라 법적 책임을 질 수 없기 때문이죠(오작동이면 폐기 처분이라도 받겠지만요).



그러면 인공지능에게 법적 지위를 부여하면 되지 않은가...하는 논의가 꽤 오래전부터 있어왔는데, 쉬운 얘기는 아닙니다.

당장 애완동물의 법적 지위가 어떠한지를 생각해봅시다. 

애완동물 등록제로 법적 관리를 받지만, 여전히 '책임'이 발생하는 사회 구성원은 아닙니다.

안내견처럼 인간과 사회에 많은 공헌을 하는 동물들 조차 법적으로는 재산이라는 점을 생각하면, 인공지능의 구성원 지위 부여는 더욱 난해하다는 것을 미루어 짐작할 수 있죠.

법인격을 예시로 드는 분도 계시지만, 법인의 책임은 결국 자연인이 지므로 상술한 인공지능 기사의 예시와 다를게 없습니다. 


자유의지가 없는 인공지능은 제 아무리 유능해지더라도 조작은 인간이 해야만 합니다.

어떠한 상황에도 유연하게 대처가 가능한 인공지능이더라도, '너는 여기서 일을 하라' 는 명령은 인간이 내려야하지, 공장에서 출하된 인공지능 탑재 로봇이 자기 마음대로 일터로 달려가서 '나는 여기서 일을 시작하겠다' 라고 판단할 능력이 없으니까요(애초에 그런 기능이 부여되지를 않았으니).

그러니 결국 인공지능의 책임은 인간에게 귀속될 수 밖에 없고, 최초 명령을 내린 인간 내지 행동패턴을 입력한 제작자는 아무리 시간이 흘러도 책임을 면할 수 없는 것입니다.



인공지능이 사회 구성원으로 인정받기 위해서는 최소한 프로그래밍 된 패턴에서 벗어난 독자적인 판단이 가능하여야 합니다.

쉽게 말하자면 자유의지가 있어야 하죠. 다만 이 경우도 심각한 문제가 생깁니다.

대량으로 이들에게 인간과 동등한 법적 지위를 부여하면 인간들은 설자리를 잃게 되니까요.

그렇다고 인공지능 인간(?)을 노예로 간주하자니, 결국 물건 취급받는 애완동물과 뭐가 다른가 싶고 말이죠.

애초에 인공지능이 자유의지를 갖을 수 있는가 아닌가는 논쟁이 끝나지도 않았고, 머나먼 미래의 얘기일 듯 하니 이건 이쯤해두겠습니다.



결론은..  인공지능은 책임을 질 수 없다고 생각합니다.

사실 엄청 당연한 얘기일수도 있는데, 당장 어린 아이도 법적 책임을 보호자가 짊어지고 있다는 예가 있기 때문입니다.

아동의 경우 자기 결정권에 상당부분 제약을 받고 있고, 이는 곧 자유의지를 '사회적'으로 인정받지 못한다고도 볼 수 있습니다(의사 표명권리가 있기는 하지만, 이혼 내지 아동 학대같은 사안이 아닌 이상에야 대체로 보호자의 의사가 우선됩니다.).

이런 상황에서 사람도 아닌 인공지능은 부모에 해당하는 제조사 내지 운영 주체(양부모?)가 대신 책임을 지는건 당연한 귀결입니다.