국가 안보에 대한 오픈AI와 앤트로픽의 엇갈린 선택…‘자가당착’ 비판도

AI 발전에 따라 국방 분야의 수요 또한 빠르게 늘고 있다는 점이 논란거리다 [사진: Reve AI]

[디지털투데이 추현우 기자] 샘 알트먼 오픈AI CEO가 1일(현지시간) X(옛 트위터)를 통해 미 국방부와의 AI 계약에 대한 AMA(질의응답)를 진행했다. 오픈AI는 앤트로픽이 국방부 요구를 거부한 후 AI 모델을 제공하기로 했으며, 알트먼은 계약이 급하게 이뤄졌지만 긍정적인 결과를 기대한다고 밝혔다.

비즈니스인사이더 보도에 따르면, 알트먼은 오픈AI가 국방부와 계약을 체결한 이유에 대해 "앤트로픽이 더 많은 운영 통제를 원했던 것으로 보이며, 우리는 계약 언어에 익숙해지면서 빠르게 합의에 도달했다"고 설명했다.

또한, 오픈AI는 AI 모델 사용에 있어 3가지 '레드라인'을 설정했지만, 기술이 발전함에 따라 변경될 수 있다고 덧붙였다. 그는 "챗GPT가 논란이 되는 질문에 답하는 것은 우리가 결정할 수 있지만, 핵폭탄 대응 같은 중대한 윤리적 문제는 정부가 결정해야 한다"고 강조했다.

국방부와의 협력은 몇 달 전부터 비공식적으로 논의됐으며, 최근 들어 기밀 협상으로 전환됐다고 알트먼은 설명했다. 그는 "현재 AI 산업과 정부 간 갈등이 앤트로픽, 건강한 경쟁, 미국 모두에게 위험하다"며 "모든 AI 연구소가 비슷한 조건을 제안받도록 협상했다"고 밝혔다.

AI의 활용 가능성에 대해선 "사이버 공격 방어와 생물 보안 분야에서 큰 역할을 할 것"이라며, 특히 국가 전력망을 마비시키는 사이버 공격과 새로운 팬데믹 대응에 유용할 것이라고 설명했다. 더불어 오픈AI는 “정부가 계약 조건을 위반할 경우 계약을 해지할 수 있다”고 밝혔지만, 그런 상황이 발생할 가능성은 낮다고 덧붙였다

앞서, 미국 국방부는 앤트로픽에 대해서도 AI를 활용한 대규모 감시와 자율 무기 개발을 요구했지만, 앤트로픽이 이를 거부하면서 2억달러 규모의 국방 계약이 취소됐고, 연방기관과의 협업도 금지됐다. 앤트로픽은 법적 대응을 예고했지만, AI 산업이 스스로 만든 덫에 빠졌다는 비판도 나온다고 IT매체 테크크런치가 전했다.

스웨덴-미국계 물리학자이자 MIT 교수인 맥스 테그마크는 AI 기업들이 규제 회피를 선택한 결과가 결국 부메랑이 됐다고 지적한다. 앤트로픽, 오픈AI, 구글 딥마인드 등은 안전성을 강조하면서도, 강력한 규제를 반대해왔다.

하지만 AI 산업이 사실상 무규제 상태로 성장하면서, 오히려 기업들이 정부의 요구를 거부할 수 없는 상황이 됐다는 분석이다. 테그마크는 "AI가 국가 안보를 위협하는 존재로 인식되면서, 이제 AI 기업들도 스스로 만든 위험에 직면하고 있다"고 말했다.

AI 산업은 빠르게 진화하고 있지만, 규제는 이를 따라가지 못하고 있다. AI가 고급 수학 경시대회에서 우승할 정도로 발전했지만, 기업들은 여전히 자율 규제를 주장하고 있다. 그러나 AI가 국가 안보와 직결되면서, 정부의 개입은 불가피해졌다. 테그마크는 "AI 기업들이 자율 규제를 주장하며 정부 개입을 막았지만, 이제는 그 선택이 오히려 기업들의 발목을 잡고 있다"고 강조했다.

이제 AI 기업들이 앤트로픽 사태를 계기로 정부와의 관계를 재정립할지, 아니면 국방 계약을 수용할지 주목된다. 이번 앤트로픽 사태에 대해 구글과 xAI는 침묵을 유지하고 있다.