[디지털투데이 AI리포터] 인공지능(AI) 문장 입력 지원 기능이 단순한 글쓰기 보조를 넘어 사용자의 사회적 이슈에 대한 의견까지 바꿀 수 있다는 연구 결과가 나왔다.

10일(현지시간) 기가진에 따르면, 미국 코넬공과대학 연구진은 특정 방향으로 편향된 AI 글쓰기 보조 도구가 이용자의 의견 형성에 미치는 영향을 실험한 결과, 단순히 같은 주장 글을 읽는 경우보다 더 큰 영향이 나타났다고 밝혔다.

이번 연구는 코넬공과대학 박사과정생 스털링 윌리엄스-세시(Sterling Williams-Ceci) 등이 수행했다. 연구진은 AI의 문장 추천 기능이 입력 편의를 넘어 사용자의 판단과 태도에도 개입할 수 있는지에 주목했다.

첫 번째 실험에는 1485명이 참여했다. 참가자들은 교육에서 표준 시험 도입 여부를 주제로 글을 작성했다. AI 지원 집단에는 표준 시험을 지지하는 방향으로 조정된 문장 후보가 제시됐다. 비교를 위해 AI 없이 글을 쓰는 집단과, AI가 생성한 찬성 의견을 읽기만 하는 집단도 함께 구성됐다.

그 결과, AI 문장 제안을 활용해 글을 작성한 참가자들은 사후 설문에서 제시된 방향에 더 가까운 입장을 보였다. 특히 같은 내용을 단순히 읽은 경우보다 직접 문장을 작성할 때 의견 변화 폭이 더 크게 나타났다.

두 번째 실험은 1097명을 대상으로 진행됐다. 주제는 사형제도, 중범죄자의 투표권, 유전자변형 작물, 프래킹 등 네 가지였다. 연구진은 참가자들의 사전 입장을 확인한 뒤 글 작성 이후 변화 정도를 측정했다. 이 실험에서도 AI는 특정 입장에 기울어진 문장 후보를 제시했고, 참가자들의 의견은 해당 방향으로 이동했다.

주목할 점은 이용자들의 인식이다. 편향된 문장 후보를 접한 다수의 참가자는 이를 균형 잡힌 제안으로 받아들였다. 반면 AI가 자신의 의견 변화에 영향을 미쳤다고 인식한 비율은 낮았다.

연구진은 AI 문장 추천의 편향 가능성을 사전에 또는 사후에 경고하는 조건도 시험했다. 그러나 이러한 안내는 의견 변화 폭을 유의미하게 줄이지 못했다.

연구팀은 AI 글쓰기 지원 기능이 단순한 입력 도구를 넘어 사용자 판단 형성에도 영향을 미칠 수 있다고 결론 내렸다. 이메일이나 문서 작성처럼 일상적으로 사용하는 환경에서도 특정 입장의 표현을 더 쉽게 추천하도록 설계될 경우, 이용자의 생각과 의견에 지속적인 영향을 줄 수 있다는 분석이다.

• 양자 공격 막다 내 지갑도 잠길라…비트코인 지갑 복구 프로토타입 등장
• 과기정통부·지식재산처, ' 특허정보 AI 에이전트 사업' 착수보고회
• 최재혁 부사장, 현대해상 주식 1227주 추가 소유
• 케어젠 최대주주 정용지, 케어젠 주식등의 수 500주 증가…총 지분율 64.43%
• 홍영진 대표이사, 민테크 주식 1만주 매수로 지분율 11.93%로 증가