[디지털투데이 이윤서 기자] 호주 규제당국(APRA)이 은행 등 금융회사의 인공지능(AI) 도입이 빠르게 확대되는 반면 이를 통제할 거버넌스와 보안 체계는 따라가지 못하고 있다고 경고했다. 

지난달 30일(현지시간) 핀테크 매체 파이넥스트라에 따르면 APRA는 업계에 보낸 서한에서 AI 활용 규모와 속도, 복잡성이 커지는 데 비해 거버넌스, 리스크 관리, 보증, 운영 복원력 체계가 미흡하다고 지적했다.

이번 서한은 APRA가 지난해 말 진행한 표적 감독 점검 결과를 바탕으로 나왔다. APRA는 금융회사들이 AI를 어떻게 도입하고 통제하는지 살펴본 결과, 고도화된 AI 확산이 새로운 재무·운영상 취약점을 만들고 있다고 판단했다. 특히 정보보안 체계가 변화 속도를 따라가지 못하고 있으며, 취약점을 찾아내고 보완하는 속도도 AI가 가속한 위협 수준에 맞춰 더 빨라져야 한다고 봤다.

규제당국은 최전선 AI 모델이 사이버 공격 위험을 더 키울 수 있다고도 짚었다. APRA는 앤트로픽의 클로드 미토스 같은 모델이 악의적 행위자의 취약점 탐색 능력을 높일 수 있다며, 사이버 공격의 발생 가능성과 속도, 규모가 더 커질 것으로 예상했다.

은행 이사회의 준비 부족도 문제로 제기됐다. APRA는 많은 이사회가 AI의 잠재적 이익에는 강한 관심을 보였지만, AI 관련 위험과 감독 문제를 경영진에게 실질적으로 따져 물을 만큼의 기술 이해는 부족한 경우가 많았다고 밝혔다. 테레즈 매카시 하키 APRA 위원은 "이처럼 강력한 기술의 위험성을 외면할 수는 없다"며 그 위험은 조직 내부의 활용뿐 아니라 악의적 의도를 가진 외부 행위자에게도 해당한다고 말했다.

공급망과 운영 측면의 취약점도 확인됐다. 일부 금융회사는 여러 AI 활용 사례에서 단일 공급자에 과도하게 의존하고 있었고, 비상계획에도 공백이 있었다. AI 기능이 더 넓은 소프트웨어 플랫폼이나 개발 도구 안에 포함되면서 모델이 어디서 어떻게 학습되고 업데이트되며 어떤 제약을 받는지 투명성이 떨어진다는 점도 지적됐다. 이 때문에 기업이 위험을 완전히 평가하고 관리하는 데 한계가 생긴다는 것이다.

기존의 관리 체계와 보증관리 방식도 AI에는 충분하지 않다고 봤다. APRA는 현재의 관리 체계가 파편화돼 있어 AI에 필요한 수준의 검증을 제공하지 못할 수 있다고 했다. 매카시 하키 위원은 감독 과정에서 확인한 핵심 문제로 "AI 도입은 계속 빨라지고 있지만 이를 안전하게 통제할 시스템과 프로세스는 따라가지 못하고 있다"고 지적했다. 이어 "기업들이 취약점을 식별하고 패치하는 속도도 AI가 가속한 위협에 맞춰 훨씬 더 빨라져야 한다"고 강조했다.

다만 APRA는 현 단계에서 추가 규제를 도입하겠다는 입장은 내놓지 않았다. 대신 금융회사들이 자신들이 쓰는 기술의 강력한 성능과 이를 감시·통제할 역량 사이의 격차를 상당 폭 줄이는 개선을 기대한다고 밝혔다. 이에 따라 향후 은행권에서는 이사회 차원의 기술 이해 제고, 공급자 집중도 완화, AI 내재화 소프트웨어에 대한 점검 강화가 주요 과제로 떠오를 전망이다.

• "당신은 전문가입니다" 프롬프트, 오히려 역효과…AI 정확도 낮춘다
• 챗GPT는 어떻게 봇을 잡나…턴스타일 작동 원리 공개
• 딥시크 V4 쇼크…돈 몰리는 中 AI 수혜주, 폭등 카운트다운
• GPT-5.5가 제안한 행사 시나리오…샘 알트먼 “이상한 창발 행동”
• 안드로이드 AI 용량 왜 늘었나…구글, AI코어 업데이트 방식 설명