기업의 채용 과정에 AI를 도입한 결과,
기존 남성 중심적 데이터를 학습해 여성에게 부당한 감점을 주었고,
미국 범죄 예상 시스템에서는
백인보다 흑인에게 2배 이상 부정적인 범죄 발생 결과를 예측했다고 한다.
AI가 인간의 차별적인 데이터를 학습해
성차별 및 인종차별적인 결과가 나왔다고 한다.
AI도 살아온 인간을 닮는 것이다. 그럼 AI도 공정하지 못한 것인가.
결국 인간이 쌓아온 수많은 데이터를 통해 학습하는 것이 AI이다.
우리의 살아온 모습이 데이터로 AI에 반영되는 것이다.
AI 판사와 변호사가 공정할 것인가 하는 질문은 우리 스스로에게 던져야 한다.
공정하지 아니하고 차별이 많은 사회에선
이를 학습한 AI도 공정하지 않을 가능성이 매우 높다.
AI의 신속함과 공정함은 우리의 미래 세계를
더 편리하고 안전하게 이끌어 주는 도구이다.
우리의 삶을 변화시킬 것이고, 경제적 번영을 줄 수 있다.
하지만 어떻게 만들고 어떤 모양새로 사용할 것인가 하는 숙제는
결국 인간의 책임이다.
AI는 우리를 꼭 닮은 모습이기에 그러하다.
