GSP1166

개요

Vertex AI의 Model Garden을 사용하면 Google과 Google 파트너가 제공하는 다양한 모델을 한곳에서 검색, 탐색하며 이와 상호작용할 수 있습니다. Model Garden은 Vertex AI에서 제공되며 Google Cloud 콘솔을 통해 액세스할 수 있습니다.

이 실습에서는 Model Garden을 살펴본 후 Vertex AI Studio를 사용해 프롬프트를 만들고 실험해 볼 수 있는 사용 사례를 제공합니다.

목표

이 실습에서 살펴볼 내용은 다음과 같습니다.

• Vertex AI의 Model Garden으로 사용 사례에 적합한 모델 찾기
• Model Garden의 Vertex AI 모델 유형

사용 사례

부동산 회사에서 마케팅 분석 업무를 담당한다고 가정해 보겠습니다. 이 회사에서는 대규모 언어 모델(LLM)을 사용해 구매자가 관심을 보이는 여러 주택에 대한 간단한 텍스트 설명과 주택담보대출 정보를 반환하는 기능을 구현하고자 합니다.

이를 위해 부동산 사이트에 있는 장문의 주택 설명을 요약 텍스트로 정리해 주는 프롬프트를 만드는 업무를 맡게 되었습니다. 주택 설명은 Google Cloud Storage 버킷에 파일로 저장됩니다.

먼저 시간 절감을 위해 Model Garden을 사용하여 사전 빌드된 모델을 탐색하고 최대한 빠르게 솔루션을 구현해야 합니다.

Vertex AI

Vertex AI는 머신러닝 및 생성형 AI 프로젝트를 관리할 수 있는 Google Cloud의 통합 인공지능 플랫폼입니다.

Model Garden

Vertex AI의 Model Garden은 머신러닝 모델의 빌드 및 배포 프로세스를 간소화하도록 설계된 선행 학습 머신러닝 모델 및 도구 모음입니다.

모델의 유형과 크기는 다양합니다. Model Garden은 비전, 대화, 코드 생성, 코드 완성 전반에 걸쳐 Google의 멀티모달 모델과 같은 퍼스트 파티 모델 또는 다양한 엔터프라이즈 지원 오픈소스 모델을 제공합니다.

Model Garden은 모델 사용에 도움이 되는 도구도 다양하게 제공합니다.

• 모델 카드: 모델 카드는 각 모델의 정확성, 성능, 학습 데이터를 포함한 자세한 정보를 제공합니다.
• 프롬프트 설계: 프롬프트 설계를 통해 간단한 UI로 모델과 상호작용하고 자체 데이터로 모델을 튜닝할 수 있습니다.

Cloud Natural Language API는 Model Garden에서 제공하는 모델 중 하나입니다. Cloud Natural Language API를 사용하면 텍스트에서 항목을 추출하고, 감정 및 문법 분석을 수행하며, 텍스트를 카테고리로 분류할 수 있습니다.

Vertex AI Studio

Vertex AI Studio는 생성형 AI 모델을 빠르게 프로토타입 제작하고 테스트하기 위한 Google Cloud 콘솔 도구입니다. 샘플 프롬프트를 테스트하고 고유 프롬프트를 설계하고 파운데이션 모델을 맞춤설정하여 애플리케이션의 요구사항을 충족하는 태스크를 처리할 수 있습니다. 수행할 수 있는 작업은 다음과 같습니다.

• 프롬프트 샘플을 사용하여 모델 테스트
• 나만의 프롬프트 설계 및 저장
• 파운데이션 모델 튜닝
• 음성 및 텍스트 간 변환

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머에는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지 표시됩니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 직접 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학생 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간---실습을 시작하고 나면 일시중지할 수 없습니다.

참고: 계정에 추가 요금이 발생하지 않도록 하려면 개인용 Google Cloud 계정이나 프로젝트가 이미 있어도 이 실습에서는 사용하지 마세요.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 팝업이 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 패널이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 패널에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 패널에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스 목록이 있는 메뉴를 보려면 왼쪽 상단의 탐색 메뉴를 클릭합니다.

API 사용 설정

1. Google Cloud 콘솔의 탐색 메뉴()에서 제품 더보기를 클릭한 후 인공지능 섹션에서 Vertex AI를 선택합니다.

2. Vertex AI 대시보드에서 모든 권장 API 사용 설정을 클릭합니다.

작업 1: Model Garden 살펴보기

사용 가능한 Vertex AI 및 오픈소스 파운데이션 모델, 튜닝 가능한 모델, 작업별 모델의 목록을 보려면 Model Garden 페이지로 이동합니다.

• Vertex AI 대시보드의 왼쪽에 있는 도구 창에서 Model Garden을 클릭합니다.

Model Garden에서 제공하는 모델 카테고리는 다음과 같습니다.

카테고리	설명
파운데이션 모델	선행 학습된 대규모 멀티태스크 모델로, AI Studio, Vertex AI API, Vertex AI SDK for Python을 사용해 특정 작업에 맞게 튜닝하거나 맞춤설정할 수 있습니다.
파인 튜닝 가능한 모델	커스텀 노트북이나 파이프라인을 사용하여 파인 튜닝할 수 있는 모델입니다.
작업별 솔루션	이와 같이 사전 빌드된 모델은 대부분 즉시 사용 가능하며 자체 데이터를 사용하여 맞춤설정할 수 있는 경우가 많습니다.

Vertex AI Model Garden 페이지에 모델 카드가 나열됩니다. 각 카테고리의 모델 카드를 살펴보세요. 예를 들어, 제공된 텍스트를 검사하고 텍스트 내의 전반적인 감정을 식별하는 작업 감정 분석 모델을 살펴봅니다. 부동산 회사에 대한 Google 리뷰의 감정을 분석하여 고객 만족도를 추적하는 데 도움이 될 것입니다.

AI Studio의 모델

1. Vertex AI 대시보드의 왼쪽에 있는 도구 창에서 Model Garden을 클릭해 Model Garden 기본 페이지로 돌아갑니다.
2. 파운데이션 모델 섹션에서 모두 표시를 클릭한 후 PaLM 2 Text Bison 모델 카드의 세부정보 보기를 클릭합니다.

세부정보 페이지에서는 모델 설명, 잠재적 사용 사례 소개, 모델 문서 등 텍스트용 PaLM 2 모델의 개요를 확인할 수 있습니다.

프롬프트 설계 열기 버튼을 누르면 모델과 상호작용하고 실험할 수 있는 AI Studio 언어 인터페이스가 열립니다. AI Studio는 Vertex AI에서 제공하는 기능으로서, 텍스트, 채팅, 코드 생성을 위한 프롬프트를 직관적으로 간단하게 작성하고 튜닝할 수 있습니다.

3. 프롬프트 설계 열기를 클릭하여 AI Studio 언어 인터페이스에서 텍스트용 PaLM2를 엽니다.

이제 이 모델을 살펴보며 프롬프트에 어떻게 응답하는지 확인하면 됩니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다.

Model Garden 살펴보기

작업 2: 모델 유형 살펴보기

Model Garden을 사용하면 한곳에서 파운데이션 모델과 인기 오픈소스 모델을 탐색하고 이와 상호작용할 수 있습니다. Model Garden에는 사용 가능한 여러 엔터프라이즈 지원 모델이 있으므로 사용 사례, ML 전문 지식, 예산에 맞는 모델을 선택할 수 있습니다.

Model Garden에서는 다음과 같은 다양한 워크플로를 사용할 수 있습니다.

• 모델을 API로 직접 사용
• AI Studio에서 모델 튜닝
• Vertex AI Workbench를 통해 Jupyter 노트북에서 바로 모델 사용
• 모델 학습 파이프라인 배포 지원

이 실습에서는 이러한 워크플로 중 몇 가지를 살펴보겠습니다.

Jupyter 노트북의 모델

1. 왼쪽에 있는 도구 창에서 Model Garden을 클릭하여 Vertex AI Model Garden 페이지로 돌아갑니다.
2. 파운데이션 모델 섹션 하단에서 모두 표시를 클릭하여 전체 파운데이션 모델 목록을 펼칩니다.

왼쪽 창에 여러 가지 다양한 모델 그룹 유형이 표시되므로 구체적인 니즈에 맞는 모델을 필터링할 수 있습니다. 비전 및 감지와 관련된 모델만 표시해 보겠습니다.

3. 형식에서 비전을 클릭합니다.
4. 작업에서 감지를 클릭합니다.

이제 파운데이션 모델 섹션에 몇 가지 모델만 나열됩니다. OWL-ViT 모델은 하나 또는 여러 개의 텍스트 쿼리로 이미지를 쿼리할 수 있는 제로샷, 텍스트 조건부 객체 감지 모델입니다.

5. OWL-ViT 모델 카드의 세부정보 보기 링크를 클릭합니다.

Vertex AI OWL-ViT 페이지에 JupyterLab 노트북을 열 수 있는 노트북 열기 링크가 있습니다.

6. 노트북 열기를 클릭하여 새 탭에서 OWL-ViT Colab을 엽니다.

Colab 노트북을 검토합니다. 실행할 필요는 없습니다.

이 Colab 노트북에서는 온라인 예측을 위해 선행 학습된 OWL-ViT 모델을 Vertex AI에 배포하는 방법을 보여줍니다.

Colab 노트북에 대해 자세히 알아보려면 Google Colaboratory 홈페이지를 방문하세요.

7. Colab 노트북을 탭을 닫아 Cloud 콘솔 탭으로 돌아갑니다.

파인 튜닝하려는 모델이 있는 경우 Vertex AI의 Model Garden에서 쉽게 시작할 수 있습니다.

모델 학습 파이프라인에 포함된 모델

1. 왼쪽에 있는 도구 창에서 Model Garden을 클릭하여 Vertex AI Model Garden 페이지로 돌아갑니다.

2. 아직 선택 취소하지 않았다면 형식 및 작업에서 필터 선택을 선택 취소합니다.

3. 모델 검색 검색창에서 'bert'를 입력하고 검색 목록에서 BERT 모델을 선택합니다.

   참고: BERT 모델 카드를 보려면 브라우저 너비에 따라 모두 표시를 클릭하거나 창을 펼쳐야 할 수 있습니다.

4. 필요한 경우 BERT 모델의 세부정보 보기 링크를 클릭합니다.

5. 파인 튜닝을 클릭해 bert-fine-tuning Vertex AI 파이프라인을 엽니다.

파이프라인을 검토합니다. 실행할 필요는 없습니다.

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다.

모델 유형 살펴보기

모델을 파인 튜닝하고 배포할 때 사용할 수 있는 템플릿으로 연결됩니다. 이 템플릿에서 실행할 파이프라인의 다양한 구성요소를 볼 수 있습니다.

자체 프로덕션 환경에서 파이프라인 만들기를 클릭하고 필요한 정보를 입력하거나 확인한 후 제출을 클릭합니다. 이렇게 하면 코드를 작성하지 않아도 파이프라인이 배포됩니다.

수고하셨습니다

Model Garden과 AI Studio를 사용하여 다양한 생성형 AI 사용 사례에 맞는 프롬프트를 만들고 실험해 보았습니다. AI Studio UI도 살펴봤습니다.

다음 단계/더 학습하기

• Vertex AI 시작하기 동영상
• 머신러닝 용어집을 참고하여 용어 이해하기
• Vertex AI Studio 공식 문서 읽기
• Vertex AI의 Model Garden 자세히 알아보기:
  • Vertex AI의 Model Garden 웹사이트
  • Model Garden 문서
  • AI 및 머신러닝 블로그(Model Garden 블로그 게시물을 보려면 아래로 스크롤)

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2024년 3월 5일

실습 최종 테스트: 2024년 3월 5일

Copyright 2024 Google LLC All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.