[디지털투데이 황치규 기자]아마존웹서비스(AWS)가 AI 애플리케이션 개발자들이 거대 언어 모델(LLM)에 보다 쉽게 접근할 수 있도록 LLM 플랫폼인 아마존 베드록(Amazon Bedrock)을 업그레이드했다.

AWS는 미국 라스베이거스에서 개최한 연례 컨퍼런스 리인벤트2024에서 100개 이상 언어 모델들에 접근할 수 있는 아마존 베드락 마켓플레이스를 출시했다.

그동안 AWS는 아마존 베드록을 통해 앤트로픽, 메타, 코히어, AI21 랩스 및 자사가 직접 개발한 타이탄 LLM 등 여러 LLM들을 단일 API로 이용할 수 있는 환경을 제공해왔다.

새 마켓플레이스 출시로 AWS 고객들은 AWS가 새로 선보인 아마존 노바 모델을 비롯해 동영상 AI 모델인 루마(Luma) AI, 풀사이드(Poolside) 등이 제공하는 모델들도 이용할 수 있게 됐다.
사용자가 원하는 모델을 선택하면 베드락은  해당 모델을 학습하고 추론을 실행하는 데 가장 적합한 인프라 설정을 제안한다.

AWS는 베드락 지식 베이스 기능도 확장해 고객들이 LLM을 자체 데이터베이스에 연결할 수 있도록 지원한다. 이를 통해 AI 모델이 기존 정형 데이터베이스에 저장된 데이터에도 접근할 수 있다.

아마존 베드락에는 프롬프트 캐시 기능도 추가됐다. 프롬프트 캐시 기능은 사용자가 입력하는 가장 일반적인 프롬프트들을 캐싱해 비용을 최대 90%, 지연 시간을 85%까지 줄일 수 있도록 지원한다고 회사측은 설명했다.

AWS는  비정형 멀티모달 정보를 정형 데이터로  변환해 분석할 수 있는 '데이터 자동화' 기능을 추가할 예정이다. 이를 통해 기업 데이터 대부분인 비정형 데이터를 분석 도구가 이해할 수 있는 형식으로 빠르게 변환할 수 있다는게 회사측 설명이다.

• 도날드 트럼프, SEC 의장에 암호화폐 친화적인 폴 애킨스 지명
• 크립토닷컴, GCC서 마스터카드 기반 선불 결제 카드 출시...1월 바레인부터
• 글로벌 암호화폐 요충지 '이곳'…절반 이상 우호적
• 호주, 크립토 규제 도입...금융 라이선스 있어야 암호화폐거래소·기업 운영 가능
• 한컴위드, 한컴 지분 추가 매입… 그룹 지배구조 강화