자율주행차 시대가 가까워지면서 AI가 도로에서 생명과 안전을 어떻게 다룰지에 대한 질문들이 뜨겁게 논의되고 있어요. 자동차 제조업체들은 자율주행차의 안전성을 강조하며, AI가 사고를 미리 예방할 수 있다고 말해요. 하지만 이러한 기술이 실제 도로에서 사람과 동물, 그리고 다른 차량들과 상호작용할 때 어떤 윤리적 딜레마에 직면하게 될까요?
자율주행차는 어떻게 사람을 인식할까?
도로에서 자율주행차에게 가장 중요한 것은 보행자를 안전하게 보호하는 것입니다. AI는 보행자를 인식하고 이를 피하기 위해 다양한 기술을 활용하죠. 하지만 사람과 닮은 물체, 예를 들어 배달 로봇이나 광고판에 있는 사람의 이미지를 구별하는 것은 여전히 어려운 과제입니다. 더불어 AI의 훈련 데이터가 편향되어 있거나 카메라가 특정 피부색을 인식하는데 어려움을 겪는다면, 이는 특정 그룹의 보행자가 더 위험에 처할 확률을 높이는거죠.
이 문제를 해결하기 위해 차량 간 통신(V2V)과 차량-인프라간 통신(V2I)이 도입될 수 있어요. 이를 통해 자율주행차는 서로 소통하고, 교통신호나 카메라와도 연결되어 더욱 안전하게 운행할 수 있는거죠. 일부 전문가들은 보행자와의 통신(V2P)도 가능할 것이라고 예측합니다. 예를 들어 보행자의 휴대폰에서 발신되는 신호가 자율주행차의 AI에게 인간이 있다는 신호를 보낼 수 있어요. 그러나 이 방법은 개인의 사생활과 자유를 침해할 가능성이 있으며, 휴대폰을 소지하지 않은 사람들은 보호받기 어렵다는 단점이 있어요.
동물에 대한 AI의 판단
AI는 도로에서 동물과의 충돌을 피하려고 노력하지만, 이 과정에서 도덕적 문제가 발생할 수 있어요. 큰 동물, 예를 들어 사슴과의 충돌은 차량과 탑승자에게 큰 위험을 초래할 수 있죠. 반면에 작은 동물, 예를 들면 고슴도치나 새와의 충돌은 상대적으로 위험이 적습니다. 그렇다면 AI는 동물의 크기나 종류에 따라 다르게 대처해야 할까요?
Waymo는 큰 동물과의 충돌을 피하기 위하고 인간의 부상을 최소화하는 것을 우선시해요. 그러나 작은 동물에 대해서는 회피 행동이 오히려 인간에게 더 위험할 수 있다고 판단해서 충돌을 피하기 위한 조치를 하지 않을 수도 있어요. 이러한 판단 기준이 애완동물과 같은 중간 크기의 동물에 대해서는 어떻게 적용되어야 할지도 논의가 필요해요.
최적의 경로 선택: 빠른 길 vs 안전한 길
자율주행차는 가장 빠른 길을 선택하는 것이 최우선일까요? 아니면 안전이 더 중요한가요? 빠른 길을 선택하면 더 많은 승객은 운송할 수 있어서 더 큰 이익을 얻을 수 있지만, 동시에 위험도 증가할 수 있어요. 반면, 안전을 최우선으로 하는 경로를 선택하면, 교통체증을 느낄 수 있죠. 이와 같은 결정은 누구의 이익을 더 우선시할 것인지에 따라 윤리적 문제가 될 수 있어요. 승객, 로봇택시 서비스, 도로 위의 다른 사용자 중 누구의 이익을 우선시할 것인가 하는 질문이 제기될 수 있는거죠.
규칙을 어기는 자율주행차?
테슬라는 자사의 '완전 자율주행' 시스템이 지역 교통법을 위반할 수 있어 일부 차량을 리콜한 바 있어요. 예를 들어, 정지 신호를 완전히 멈추지 않고 통과하는 등이 문제가 있었죠. 이처럼 엄격한 합법성과 관련된 문제는 많은 인간 운전자들이 차선 변경, 좌회전, 정지 차량 회피 등을 할 때도 적용될 수 있어요. 그렇다면 자율주행차는 인간 운전자와 동일한 기준을 적용 받아야 할까요?
Mobieye의 AI 기술은 차량 주변에 위치한 센서 데이터를 기반으로 로컬 운전 스타일을 학습하고, 속도, 차량 간 간격, 회전 우선권 등의 메트릭을 사용하여 시스템을 조정할 수 있어요. 하지만 이는 그 지역의 사람들이 원하는 방식으로 AI를 튜닝할지, 아니면 더 안전하고 효율적인 운전을 위해 새로운 기준을 제시할지에 대한 결정이 필요합니다.
자율주행차의 집단 행동
자율주행차들이 인간과 화물, 음식 등을 운반하기 위해 도로에 대규모로 배치된다면 어떻게 될까요? 이 차량들이 협력하여 효율성을 극대화하거나 혹은 경쟁하며 도로에서 우위를 점하려 할 수 있습니다. 이러한 상황에서 차량들이 동일한 차량군에 속한 차량을 더 우선시할지, 아니면 모든 차량을 공평하게 대할지에 대한 논의도 필요해요.
Mobileye응 모든 차량이 동일한 기준을 적용받아야 하며, 소유주나 제조업체에 따라 다르게 대우해서는 안 된다고 주장하빈다. 그러나 현재로서는 이러한 기준에 대한 규제가 존재하지 않기 때문에, 기업들이 차량군 간의 충돌 시 동일한 차량군을 우선시할지 여부를 결정할 수도 있어요.
결국, 자율주행차 시대를 대비하기 위해서는 도로와 규칙에 대한 광범위한 재고가 필요해요. 현재의 상태를 복제하는 것만으로는 자율주행차 시대의 위기와 도전을 충분히 다루지 못할 거에요. 자율주행차의 윤리적 딜레마는 단순히 기술적인 문제가 아니라, 우리가 도로에서 어떻게 살고, 일하고, 여행할지를 다시 생각하게 만드는 중요한 사회적 이슈에요. 이러한 논의는 우리가 자율주행차 시대를 어떻게 맞이할지, 그리고이 새로운 기술이 우리 삶에 어떤 영향을 미칠지 결정하는데 중요한 역할을 할 듯합니다.
