AI(인공지능) 기술은 주어진 데이터에서 내부의 패턴을 찾아 이를 통해 예측하는 기능을 수행하며, AI(인공지능)의 공정성과 중립성 확보를 위해 세심한 노력이 요구된다.

3장에서 언급된 바와 같이 AI역량검사에서 AI(인공지능) 기술은 기업별 커스터마이징 기능과 소통역량 검사에 사용된다.

기업별 커스터마이징 기능에서 기업의 평가 데이터가 데이터 기반의 학습에 활용되므로 이 평가는 각종 편향으로부터 최대한 자유로워야 하는 동시에 공정성을 확보해야 한다. 이에 대한 이슈는 7장에서 정리한다.

소통역량 검사에서도 데이터를 기반으로 한 학습이 필요하며, 이때 특정 집단에 대한 차별이 발생하지 않아야 한다. AI역량검사는 모델 학습 또는 레퍼런스 데이터 생성 과정에서 차별을 방지하고 객관성과 중립성을 확보하기 위하여 다음의 사항들을 준수하고 있다.

• 성별/학벌, 스펙/출신 지역 등에 대한 객관/중립을 지키고 평가에 반영되지 않도록 함.
• 학습 샘플의 성 비율은 1:1로 유지함.
• 학교/스펙/지역 등에 대한 정보를 알고리즘 학습의 입력데이터(input feature)로 사용하지 않음. 즉, 학습된 모델은 편향을 유발하는 정보에 무관한 결과를 예측함.
• 학교/스펙/지역 등에 대한 정보는 평가단(면접관)에게 일체 전달하지 않음. 평가단은 오직 영상면접(시각/음성 데이터)를 기준으로만 판단하도록 함.