오픈AI, 개인정보 보호 모델 ‘프라이버시 필터’ 공개

[디지털투데이 AI리포터] 오픈AI가 텍스트 안의 개인식별정보를 자동으로 찾아 가리는 오픈웨이트 모델 '프라이버시 필터'를 공개했다.

23일(현지시간) IT매체 아이티미디어에 따르면 이 모델은 AI 챗봇 등에 데이터를 넣기 전에 개인정보를 제거하는 도구로, 허깅페이스와 깃허브에서 아파치 2.0 라이선스로 공개됐다.

'프라이버시 필터'는 15억 파라미터 규모의 경량 모델이다. 로컬 환경의 웹브라우저나 노트북에서도 직접 실행할 수 있어, 마스킹 처리 과정에서 데이터가 기기 밖으로 전송될 위험을 줄일 수 있다.

오픈AI는 개발자가 AI를 더 안전하게 구축할 수 있도록 실용적 인프라를 제공한다는 취지로 이 모델을 내놨다. 개인정보 보호 인프라는 누구나 쉽게 점검하고 실행하고 적용하고 개선할 수 있어야 하며, AI가 개인이 아니라 세계를 학습할 수 있는 환경을 만드는 데 목적이 있다고 설명했다.

기존 규칙 기반 탐지 도구가 문맥 이해에 한계를 보였던 것과 달리, '프라이버시 필터'는 전후 맥락을 고려해 개인식별정보를 탐지하고 높은 처리량을 낼 수 있다고 오픈AI는 밝혔다.

다만 이 모델이 완전한 익명화나 안전성을 보장하는 것은 아니다. 공개된 모델 카드에는 과신할 경우 오히려 개인정보 보호 목적을 해칠 수 있다고 적시됐다. 사전 학습된 라벨 분류에 의존하는 구조여서, 조직별 정책에 맞추려면 모델 파인튜닝이 필요할 수 있다고 매체는 전했다.