블로그

Feb 04, 2024

Google은 생성 AI 붐에 발맞추기 위해 Vertex AI를 업그레이드합니다.

Fortune과 Deloitte의 최근 공동 조사에 따르면 전 세계 CEO 중 절반 이상이 텍스트, 이미지 및 기타 형태의 데이터를 생성하기 위해 AI를 실험하고 있는 것으로 나타났습니다. 한편, 조직의 3분의 1은

Fortune과 Deloitte의 최근 공동 조사에 따르면 전 세계 CEO 중 절반 이상이 텍스트, 이미지 및 기타 형태의 데이터를 생성하기 위해 AI를 실험하고 있는 것으로 나타났습니다. 한편, McKinsey 보고서에 따르면 조직의 3분의 1은 적어도 하나의 비즈니스 기능에서 생성 AI를 "정기적으로" 사용하고 있습니다.

거대하고 성장하는 것으로 보이는 시장을 고려할 때 Google Cloud가 뒤처지지 않기 위해 매우 열심히 노력하고 있다는 것은 놀라운 일이 아닙니다.

연례 Cloud Next 컨퍼런스에서 Google은 머신러닝 모델 구축, 교육, 배포를 위한 워크플로를 제공하는 클라우드 기반 플랫폼인 Vertex AI에 대한 업데이트를 발표했습니다. Vertex AI는 이제 텍스트, 이미지, 코드 생성을 위한 업데이트된 AI 모델은 물론 Anthropic, Meta 등 스타트업의 새로운 타사 모델과 개발자가 회사 데이터를 통합하고 사용자를 대신하여 조치를 취할 수 있는 확장 기능을 제공합니다.

Google의 클라우드 AI 및 산업 솔루션 담당 부사장인 June Yang은 언론 브리핑에서 "[Vertex를 통해] 우리는 광범위한 생태계 파트너와 협력하여 고객에게 선택권과 유연성을 제공하는 매우 개방적인 생태계 접근 방식을 취하고 있습니다."라고 말했습니다. "우리는 데이터 거버넌스, 책임감 있는 AI 보안 등에 중점을 두고 기업 준비성을 핵심으로 하는 생성적 AI에 대한 접근 방식을 구축했습니다."

모델 측면에서 Google은 Codey 코드 생성 모델을 "대폭" 업그레이드하여 코드 생성을 위한 "주요 지원 언어"의 품질을 25% 향상했다고 주장합니다. (안타깝게도 Google은 이 기자에게 제공된 자료에서 그 모호한 측정 기준을 확장하지 않았습니다.) 또한 생성된 이미지의 품질을 향상하고 고객이 이미지를 생성할 수 있는 스타일 조정을 지원하기 위해 이미지 생성 모델인 Imagen을 업데이트했습니다. 단 10개의 참조 이미지를 사용하여 "브랜드에 맞게 조정"합니다.

다른 곳에서는 Google의 PaLM 2 언어 모델이 새로운 언어(일반 가용성에서는 38개, 미리 보기에서는 100개 이상)를 이해하고 확장된 32,000개의 토큰 컨텍스트 창을 갖습니다. 토큰(예: 텍스트의 원시 비트)으로 측정되는 컨텍스트 창은 추가 텍스트를 생성하기 전에 모델이 고려하는 텍스트를 나타냅니다(32,000개의 토큰은 약 25,000단어 또는 약 80페이지의 텍스트, 이중 간격).

PaLM 2의 컨텍스트 창은 가장 크지 않습니다. 이러한 구별은 100,000개의 토큰 컨텍스트 창을 가진 Anthropic의 Claude 2에 적용됩니다. 이는 원래 PaLM 2와 GPT-4 크기의 3배 이상입니다. 그러나 Vertex AI의 제품 리더인 Nenshad Bardoliwalla는 32,000개의 토큰을 선택하기로 한 결정은 "유연성"과 "비용"을 염두에 두고 이루어졌다고 말했습니다.

Bardoliwalla는 브리핑에서 "우리 고객은 대규모 모델로 수행할 수 있는 모델링의 유연성과 추론 비용 및 미세 조정 기능을 통해 생성할 수 있는 시나리오의 균형을 맞추기 위해 노력하고 있습니다"라고 말했습니다. “각각에는 투자 금액에 따라 특정 계산 비용과 인적 비용이 발생합니다. 그래서 우리는 시장의 진화를 고려할 때 우리가 수행한 평가를 바탕으로 32,000개의 토큰에 대한 결과가 상당히 인상적이라고 느꼈습니다. 우리는 이것이 새로운 기능과 시장에서 경쟁력 있는 가격 대비 성능 비율을 제공하는 것 사이에서 적절한 균형을 이루고 있다고 느꼈습니다.”

모든 고객이 동의하는 것은 아닙니다. 그러나 두 가지 방식을 모두 갖기 위해 Google은 기업의 요구 사항에 맞게 맞춤 설정할 수 있는 사전 구축된 모델 및 도구 모음인 Vertex AI의 Model Garden에 Claude 2를 포함한 타사 모델을 추가했습니다. Model Garden에 합류한 다른 모델로는 Meta가 최근 출시한 Llama 2와 Technology Innovation Institute의 오픈 소스 Falcon LLM이 있습니다.

새로운 모델 추가는 AI21 Labs, Anthropic 및 Stability AI를 포함한 스타트업의 사전 훈련된 모델을 통해 생성적 AI 기반 앱을 구축하는 방법을 제공하는 Amazon이 최근 출시한 AWS 제품인 Amazon Bedrock의 활판을 가로지르는 장면입니다. Bedrock의 험난한 출시를 감안할 때 Google은 관리형 모델 서비스의 초기 시장에서 발판을 마련할 기회를 볼 수 있습니다.