과기정통부, ‘AI와 함께 살아갈 세상, 불안과 희망’ 책자 발간

[디지털투데이 이진호 기자] 과학기술정보통신부가 2024년 기술영향평가 결과를 담은 'AI와 함께 살아갈 세상, 불안과 희망' 책자를 23일 발간했다.

책자는 AI 기술 발전 속 핵심 이슈로 떠오른 '안전성과 신뢰성' 문제를 중심으로 휴머노이드·브레인(BCI)·헬스케어 AI 분야의 주요 이슈와 사회적 영향, 대응 과제들을 정리했다. 전문가와 시민이 함께한 포럼과 설문조사를 통해 다양한 의견을 반영, 이해하기 쉽게 구성했다.

'안전·신뢰 AI'는 기술 정확성, 일관성, 예측 가능성 외에 위험요소에 대한 통제가능성, 책임성까지 포함하는 개념이다. 단순한 기술적 안전성을 넘어 준법적이고 윤리적이며 안전하고 책임성 있는 AI를 통칭한다.

책자는 먼저 사회·산업적 기대감이 높아지는 휴머노이드 로봇의 학습 오류·오작동, 사람과 로봇 간 의사소통 오류, 센싱 기술의 개인정보 침해 등 휴머노이드의 여러 사회적·윤리적 문제를 짚어본다. 브레인 AI 분야에서는 뇌 신호 디코딩과 양방향 뇌-컴퓨터 인터페이스(BCI) 기술의 잠재적 부작용과 위험요소를 살핀다.

헬스케어 AI 분야에서는 빅데이터 수집·활용, 의료 의사결정에서의 책임 소재, 연령·인종·소득에 따른 건강 형평성 문제, 건강 데이터의 상업적 이용, 개인정보 유출, 데이터 편향·의존 등의 문제를 다룬다.

아울러 2024년 기술영향평가 추진과정과 주요 결과를 소개한다. 기술영향평가 당시 전문가와 시민들은 함께 논의해 휴머노이드 AI, 브레인 AI, 헬스케어 AI의 핵심 이슈를 발굴하고 그에 따른 핵심과제를 제안했다.

핵심이슈는 ▲개인정보 위험 ▲사고·오류 책임소재, ▲일자리·사회변화 등이다. 핵심과제는 ▲미래기술 안전성 기본법 ▲윤리안전 가이드라인 ▲민감 정보 기반 기술 거버넌스 ▲미래기술 안전성 R&D 등이 제시됐다.

임요업 과기정통부 과학기술혁신조정관은 "AI 기술의 안전성과 신뢰성 확보는 기술 수용성과 사회 신뢰의 기반"이라며 "앞으로도 전문가와 시민이 함께 참여하는 기술영향평가를 지속적으로 추진할 것"이라고 말했다.