AI는 인간보다 더 공정할까?
AI는 사람처럼 정말로 감정을 느끼거나 개인적인 경험을 쌓지 못한다. 그래서 사람들은 흔히 AI가 인간보다 더 객관적이고 공정한 판단을 할 것이라고 생각한다. 실제로 사람의 판단에는 개인적인 가치관이나 선입견이 들어갈 수 있지만, AI는 데이터에 기반하여 판단하기 때문에 더 공정하다고 생각하는 사람들도 있다. 그러나 사실 AI가 학습하는 데이터는 결국 모두 인간 사회에서 만들어졌다. 그렇다면 AI는 인간의 편견으로부터 완전히 자유롭다고 할 수 있을까?
공정해 보이는 AI의 차별
그냥 봤을 때 AI는 숫자와 확률만을 다루는 중립적인 기술처럼 보인다. 하지만 현실에서는 그렇지 않은 사례들이 등장하고 있다. 예시로, AI를 활용한 채용 과정에서 발생한 차별 문제가 있다. 한 AI 기반 채용 알고리즘은 55세 이상의 여성과 60세 이상의 남성 지원자의 이력서를 상대적으로 더 자주 탈락시키는 경향을 보였다. 이것은 탈락한 한 지원자가 자신의 나이를 더 젊게 수정해 다시 지원했고, 합격한 사실이 알려지면서, 해당 알고리즘의 문제점이 드러났다. 이는 AI가 편향된 채용 데이터를 그대로 학습한 결과, 특정 집단을 차별하는 판단을 내릴 수 있음을 보여준다.
의료 분야에서도 유사한 문제가 나타났다. 미국의 한 연구에 따르면, 건강 위험이 큰 환자를 선별하도록 설계된 의료 AI 시스템이 흑인 환자에게는 필요한 치료를 덜 추천하는 결과를 보였다. 이 AI는 의료비 지출 데이터를 기준으로 학습했는데, 흑인 환자들은 의료 접근성이 낮아 의료비 지출이 상대적으로 적은 경우가 많았다. AI는 이걸 ‘건강 상태가 양호하다’라는 신호로 잘못 해석했고, 그 결과 더 많은 관리가 필요한 흑인 환자들이 추천 대상에서 배제되는 불공정한 상황이 발생했다. 이 사례 역시 데이터에 이미 존재하던 사회적 편향이 AI를 통해 그대로 재생산된 경우라고 볼 수 있다.
AI는 ‘공정함’을 이해하지 못한다
이러한 문제의 근본적인 원인은 AI가 ‘공정함’이나 ‘차별’이라는 개념을 이해하지 못한다는 데 있다. AI는 무엇이 옳은지 그른지를 판단하지 못하고, 그저 주어진 데이터에서 패턴을 찾아 결과를 예측할 뿐이다. 만약 학습 데이터에서 특정 집단이 반복적으로 특정 특성과 연결되어 있다면, AI는 이를 현실의 규칙처럼 받아들이게 된다. 결국 AI의 판단은 데이터가 담고 있는 사회의 모습을 그대로 반영할 수밖에 없는 것이다.
기술의 문제일까, 사람의 문제일까
AI 차별 문제를 단순히 기술적 한계로만 치부할 수는 없다. 어떤 자료를 수집할지, 어떤 기준으로 학습시킬지, 그리고 AI의 판단을 어디에 활용할지는 모두 인간의 선택이기 때문이다. 이에 따라 최근에는 AI 개발자와 기업의 책임이 더 강조되고 있다. 데이터 구성 단계에서 편향이 존재하지 않는지 점검하고, AI의 판단 결과가 특정 집단에게 불리하게 작용하지 않는지 계속 검토해야 한다는 이야기도 커지고 있다. AI는 스스로 윤리적인 판단을 내릴 수 없기에, 그 책임은 결국 인간에게 돌아온다.
그렇다면 AI가 만들어내는 차별은 어떻게 줄일 수 있을까. 기본적인 방법으로는 AI가 학습하는 데이터부터 점검하는 것이다. 특정 성별, 인종, 연령대가 과도하게 많거나 적게 포함되어 있지는 않은지, 데이터 자체에 차별적인 기준이 숨어 있지는 않은지를 살펴봐야 한다. 또 AI의 판단을 그대로 받아들이기보다, 사람이 중간에서 이를 검토하는 과정도 필요하다. 최근에는 AI 개발 단계에서부터 공정성 지표를 함께 평가하거나, 판단 근거를 설명할 수 있도록 하는 연구도 늘어나고 있다. 무엇보다 중요한 것은 AI를 완전히 객관적인 존재로 믿지 않는 태도일 것이다.
학생기자 이채원(상해중학 10)
About The Author
