AI 윤리의 철학적 기초: '공정함'이란 무엇인가? (이론적 딜레마) ⚖️🤔

이전 글에서는 AI 금융 규제가 블랙박스의 불투명성과 편향성 문제를 해결하기 위해 '설명 가능성'과 '공정성'을 핵심 가치로 삼고 있음을 살펴보았습니다. 기술적, 제도적 노력으로 AI의 편향성을 탐지하고 완화하려는 시도가 이어지고 있지만, 우리는 여기서 한 걸음 더 나아가 근본적인 질문에 직면하게 됩니다. 바로 "과연 무엇이 '공정한' AI인가?"라는 질문입니다.

'공정함(Fairness)'이라는 단어는 직관적으로 이해되는 듯하지만, 그 의미를 깊이 파고들면 결코 단순하지 않습니다. 특히 이를 수학적 모델과 데이터에 기반한 AI 시스템에 적용하려 할 때, 우리는 예상치 못한 철학적, 이론적 딜레마와 마주하게 됩니다. 오늘은 기술적 해결책 너머에 있는 AI 공정성의 근본적인 물음과 그 이론적 한계를 탐구해 보겠습니다.

1. '공정함', 하나의 얼굴이 아니다: 다양한 정의들

우리는 일상에서 '공정함'을 여러 맥락에서 사용합니다. 케이크를 똑같이 나누는 것, 기회를 균등하게 주는 것, 노력에 따라 보상하는 것 등 상황에 따라 그 의미는 달라집니다. AI 분야에서도 '공정함'을 정의하려는 다양한 시도들이 있으며, 크게 몇 가지 범주로 나눌 수 있습니다.

• 개인 공정성 (Individual Fairness): 비슷한 개인은 비슷하게 대우받아야 한다는 원칙입니다. 즉, 관련 없는 속성(인종, 성별 등)이 다르다는 이유만으로 비슷한 조건의 개인이 다르게 취급되어서는 안 됩니다. 매우 이상적이지만, '비슷함'을 정의하고 측정하기 어렵다는 현실적 한계가 있습니다.
• 그룹 공정성 (Group Fairness): 특정 보호 집단(인종, 성별, 연령 등) 간에 특정 결과나 통계적 척도가 동등해야 한다는 원칙입니다. 가장 많이 논의되고 수학적으로 정의되는 방식이며, 여러 세부 기준으로 나뉩니다.
  • 인구통계학적 동등성 (Demographic Parity / Statistical Parity): 각 그룹별로 긍정적인 결과(예: 대출 승인, 합격)의 비율이 같아야 합니다. 가장 직관적이지만, 그룹 간 실제 자격 조건의 차이를 무시할 수 있다는 비판이 있습니다. (예: 특정 질병 유병률이 다른 그룹에게 동일한 보험 승인율을 강제하는 것이 타당한가?)
  • 균등 승률 (Equalized Odds): 각 그룹별로 '실제로 자격이 있는 사람 중 긍정적 결과를 받은 비율(True Positive Rate)'과 '실제로 자격이 없는 사람 중 긍정적 결과를 받은 비율(False Positive Rate)'이 같아야 합니다. 결과뿐 아니라 실제 조건까지 고려하여 좀 더 정교합니다.
  • 균등 기회 (Equal Opportunity): 균등 승률의 완화된 버전으로, 각 그룹별로 '실제로 자격이 있는 사람 중 긍정적 결과를 받은 비율(True Positive Rate)'만 같으면 됩니다. 즉, 자격 있는 사람에게는 동등한 기회를 보장하는 데 초점을 맞춥니다.
• 절차적 공정성 (Procedural Fairness): 결과보다는 의사결정 과정 자체가 편견 없이 투명하고 일관성 있게 이루어졌는지에 초점을 맞춥니다. 설명 가능한 AI(XAI)와 밀접하게 관련됩니다.
• 결과적 공정성 (Outcome Fairness): 과정보다는 최종 결과의 분배가 공정한지에 초점을 맞춥니다. 그룹 공정성 지표들이 여기에 해당될 수 있습니다.

2. 아름다운 이상, 그러나 모순되는 현실: 공정성 기준 간의 충돌

문제는 이렇게 다양한 공정성의 정의들이 동시에 모두 충족될 수 없다는 점입니다. 수학적으로 증명된 '공정성 불가능성 정리(Fairness Impossibility Theorems)'들은 특정 조건 하에서 여러 그룹 공정성 기준들이 서로 상충 관계(Trade-off)에 있음을 보여줍니다.

예를 들어, 대출 심사 AI를 생각해 봅시다.

• **인구통계학적 동등성(DP)**을 만족시키려면, 각 인종 그룹별 대출 승인율이 같아야 합니다.
• **균등 기회(EO)**를 만족시키려면, 실제로 상환 능력이 있는 신청자 중에서 각 인종 그룹별 대출 승인율이 같아야 합니다.

만약 두 인종 그룹 간의 실제 상환 능력 분포(기초 비율, Base Rate)가 다르다면, DP와 EO를 동시에 만족시키는 것은 일반적으로 불가능합니다. 즉, 모든 그룹에게 동일한 승인율(DP)을 보장하려다 보면, 실제 상환 능력이 있는 사람들 사이에서는 특정 그룹이 더 높은 승인율을 갖게 되어 균등 기회(EO)를 위반할 수 있습니다. 반대로, 실제 상환 능력이 있는 사람들에게 동등한 기회(EO)를 주려다 보면, 전체 그룹 간의 승인율(DP)은 달라질 수 있습니다.

이는 AI가 편향되었다거나 기술이 부족해서가 아니라, '공정함'이라는 개념 자체가 내포한 다면성과 그 정의들 간의 본질적인 긴장 관계 때문에 발생하는 문제입니다.

3. 기술 너머의 질문: 어떤 '공정함'을 선택할 것인가?

이러한 이론적 딜레마는 우리에게 중요한 질문을 던집니다. 여러 공정성 기준들이 충돌할 때, 우리는 어떤 기준을 우선시해야 할까요?

• 모든 그룹에게 결과의 평등(DP)을 추구해야 할까요? 이는 과거의 차별을 교정하려는 적극적 평등 조치와 유사한 맥락일 수 있지만, 개인의 자격이나 노력을 충분히 반영하지 못할 수 있습니다.
• 자격 있는 사람에게 동등한 기회(EO)를 보장하는 것이 더 중요할까요? 이는 능력주의적 관점에 더 부합하지만, 사회 구조적 불평등으로 인해 애초에 '자격'을 갖출 기회가 달랐던 점을 간과할 수 있습니다.
• 혹은 특정 그룹에게 발생할 수 있는 최악의 결과(예: 부당한 거절 - False Negative)를 최소화하는 데 집중해야 할까요? 아니면 다른 종류의 오류(예: 부적격자 승인 - False Positive)를 줄이는 것이 더 중요할까요?

이 질문에 대한 답은 수학적 계산이나 알고리즘 코드 수정만으로는 나올 수 없습니다. 이는 가치 판단의 문제이며, 해당 AI가 적용되는 사회적 맥락, 역사적 배경, 그리고 우리가 추구하는 사회 정의의 모습에 따라 달라질 수밖에 없습니다.

예를 들어, 신용 평가에서의 공정성과 형사 사법 시스템에서의 공정성, 채용 과정에서의 공정성은 각기 다른 가중치와 우선순위를 요구할 수 있습니다. 어떤 종류의 '불공정함'을 더 심각하게 받아들일 것인지, 어떤 그룹의 권익 보호를 우선할 것인지에 대한 사회적 합의가 필요합니다.

4. AI 윤리, 기술과 철학의 끊임없는 대화

결국 AI의 공정성을 확보하는 것은 단순히 편향된 데이터를 정제하고 알고리즘을 개선하는 기술적 과제를 넘어섭니다. 이는 다음과 같은 근본적인 성찰을 요구합니다.

• 맥락 이해: AI가 적용되는 특정 영역의 사회적, 윤리적 맥락을 깊이 이해해야 합니다.
• 가치 명료화: 해당 영역에서 어떤 '공정함'의 가치를 우선시할 것인지 명확히 정의하고 합의해야 합니다.
• 투명한 논의: 다양한 이해관계자(개발자, 정책 입안자, 시민 사회, 영향을 받는 개인 등)가 참여하여 공정성 기준의 선택과 그 의미에 대해 투명하게 논의하고 결정하는 과정이 필요합니다.
• 지속적 평가와 수정: 한번 정의된 공정성 기준이 영원히 유효한 것은 아닙니다. 사회 변화와 기술 발전에 따라 지속적으로 평가하고 수정해나가야 합니다.

마무리하며: 완벽한 공정함보다 책임 있는 선택을 향해

AI에게 '공정함'을 가르치는 것은 마치 우리 사회가 오랫동안 고민해 온 정의와 평등의 문제를 코드와 데이터의 언어로 번역하려는 시도와 같습니다. 그 과정에서 우리는 '공정함'의 단일하고 완벽한 정의는 존재하지 않으며, 다양한 가치들이 서로 충돌할 수밖에 없다는 현실을 마주합니다.

AI 윤리의 핵심은 이 딜레마를 외면하거나 기술로 완전히 해결할 수 있다고 착각하는 것이 아니라, 이러한 이론적 한계와 상충 관계를 명확히 인식하고, 주어진 상황에서 어떤 가치를 우선하며 어떤 종류의 공정성을 추구할 것인지 책임 있게 선택하고 그 이유를 설명하는 데 있습니다. 이는 기술 개발자, 정책 입안자, 그리고 시민 모두가 함께 고민하고 참여해야 할 지속적인 사회적 대화의 과정일 것입니다. AI 시대를 살아가는 우리에게 '공정함'에 대한 깊이 있는 철학적 성찰이 그 어느 때보다 중요해지고 있습니다.