캐나다, 챗GPT 안전성 문제 정조준…오픈AI에 조치 촉구

캐나다 정부가 최근 발생한 총기 난사 사건과 관련해 오픈AI에 안전 조치를 요구했다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 캐나다 정부가 오픈AI에 챗GPT의 안전성 강화를 요구하며 규제 가능성을 시사했다.

25일(현지시간) IT매체 엔가젯에 따르면, 이번 조치는 최근 브리티시컬럼비아주에서 발생한 총기 난사 사건과 관련이 있다. 사건 용의자 계정이 폭력 가능성을 시사했음에도 오픈AI가 이를 당국에 통보하지 않았다는 점이 논란이 됐다.

션 프레이저(Sean Fraser) 법무부 장관은 "오픈AI가 신속히 안전 조치를 강화하지 않으면 정부가 직접 나설 수 있다"라며 강경한 입장을 밝혔다. 캐나다 정부는 과거 두 차례 온라인 유해 콘텐츠 규제 법안을 추진했지만 모두 입법에 실패한 바 있다.

월스트리트저널(WSJ보도에 따르면, 2025년 오픈AI 일부 직원은 총격 용의자 제시 반 루트셀라르(Jesse Van Roetselaar)의 계정에서 폭력 행사 가능성을 시사하는 내용을 확인하고 경영진에 신고 필요성을 제기했다. 그러나 해당 계정은 정책 위반으로 차단됐을 뿐, 경찰에 통보할 수준은 아니라는 회사 방침에 따라 외부 신고는 이뤄지지 않았다.

에반 솔로몬(Evan Solomon) 캐나다 AI 장관은 기업 대표들과의 논의에 앞서 "법 집행기관에 연락하지 않은 것은 심각한 문제"라며 "안전 프로토콜과 경찰 개입 기준을 명확히 설명하라"라고 요구했다.

한편 오픈AI는 챗GPT가 부모 살해를 부추겼다는 소송을 포함해 여러 건의 AI 관련 사망 사건에 연루된 상태다. 이번 사안은 AI 서비스의 위험 감지·보고 체계와 기업의 책임 범위를 둘러싼 논쟁을 더욱 확산시킬 것으로 보인다.