Research

[원본 데이터 공유 없이 라벨 오류 찾아내는 분산 AI 기술 개발]

POSTECH 인공지능대학원·전자전기공학과 김광인 교수 연구팀이 원본 데이터를 열어보지 않고도 문제 있는 데이터를 콕 집어내, 적은 비용으로 AI 성능을 끌어올리는 기술을 개발했다. 이번 연구는 인공지능 분야 국제학회 중 하나인 ’AAAI 2026(The Fortieth AAAI Conference on Artificial Intelligence)‘에 메인 테크니컬 트랙 논문으로 게재됐다.

 AI를 잘 학습시키려면 데이터마다 '고양이', '강아지'라고 알려주는 ‘라벨(label)’이 필요하다. 라벨이 잘못 붙으면 AI는 엉뚱한 규칙을 배워 성능이 떨어진다. 하지만 수많은 라벨을 사람이 일일이 확인하기엔 시간과 비용이 많이 들어, 고쳤을 때 효과가 클 데이터만 골라 재검수하는 '능동 오류 정정(Active Error Correction)' 기술이 최근 주목받고 있다.

 문제는 요즘처럼 데이터를 한곳에 모을 수 없는 환경이다. 병원이나 기업, 개인 기기는 개인정보 때문에 데이터를 밖으로 내보내지 못한 채 각자 가진 상태로 AI 학습에 참여한다. 이때 중앙 서버로 가는 것은 원본이 아니라, "내 데이터로 학습해 보니 이렇더라"는 학습 결과 요약본뿐이다. 서버가 원본도 정답표도 볼 수 없으니, 어느 곳에 잘못된 데이터가 숨어 있는지 짚어내기가 어렵다.

 연구팀은 데이터를 직접 보는 대신, 이 요약본 속 '가중치 기울기(gradient)¹⁾'라는 신호에 주목했다. 이 기울기는 각 데이터가 AI를 어느 방향으로 바꾸려 하는지 보여주는 지문 같은 정보로, 서버는 이것만 비교해도 원본 없이 학습 패턴을 읽어낼 수 있다.

 연구팀은 여기에 ‘가우시안 프로세스(Gaussian Process)²⁾’라는 통계 기법을 적용한 ‘가우시안 프로세스 능동 오류 정정(이하 GPAEC, Gaussian Process Active Error Correction) 알고리즘‘을 설계했다. 원리는 이렇다. 다른 데이터들과 견주어 봤을 때 유독 동떨어진 곳을 '수상한 데이터'로 지목하는 것이다. 반 전체가 비슷한 답을 냈는데 혼자만 엉뚱한 방향으로 간 학생의 답안부터 확인하는 것과 같은 이치다. 실제로 이 '튀는 정도'와 라벨 오류 확률의 상관관계는 0.86으로 잘 들어맞았다.

 또한, ’GPAEC 알고리즘‘은 비슷한 오류끼리 겹쳐 뽑지 않도록 서로 다른 유형을 고르게 선택하고, 각 기관이 보고한 성적이 실제 기울기와 어긋나면, 믿기 어려운 보고로 판단해 걸러낸다. "시험을 망쳤다"라는 학생의 말이 사실인지 답안지로 대조하는 셈이다. 그 결과 논문에 제시된 36개 조건 중 34개에서 가장 높은 평균 정확도를 기록했고, 첫 검수 단계에서 제대로 짚어낸 비율이 88.9%로 무작위 선택(78.6%)이나 성적만 본 방식(42.2%)을 크게 앞섰다.

 이 기술의 가치는 '데이터를 보지 않고 문제를 찾는다'라는 데 있다. 병원들이 환자 정보를 공유하지 않고도 함께 진단 AI를 키우거나, 개인 정보 유출 없이 스마트폰으로 AI를 학습시키는 사례가 늘수록 이 기술의 활용 가치는 더욱 커질 전망이다. 개인정보는 지키면서 더 믿을 수 있는 AI를 만드는 열쇠가 될 것으로 기대된다.

 연구를 이끈 김광인 교수는 "개인정보 보호가 더욱 중요해지는 의료·금융 등 여러 분야에서 신뢰 가능한 AI를 만드는 데 보탬이 되길 바란다"라고 전했다.

 한편, 이 연구는 과학기술정보통신부 재원의 한국연구재단(No. RS-2024-00337559) 사업과 정보통신기획평가원(No. RS-2019-II191906, RS-2022-II220290)의 지원을 받아 수행됐다.

▶️ DOI: https://doi.org/10.1609/aaai.v40i27.39419

1. 가중치 기울기(Weight Gradient): 현재 모델의 예측 오차를 줄이기 위해 신경망의 각 가중치를 어느 방향으로 얼마나 바꿔야 하는지를 나타내는 값이다. 이번 연구에서는 원본 데이터 대신 클라이언트의 학습 특성을 나타내는 대리 정보로 사용했다.

2. 가우시안 프로세스(Gaussian Process): 관측된 값들 사이의 유사성과 불확실성을 확률적으로 추정하는 방법이다. 이번 연구에서는 다른 클라이언트들의 기울기 패턴으로 특정 클라이언트를 얼마나 잘 설명할 수 있는지 계산하는 데 사용했다.