GSP1210

개요

Gemini는 Google DeepMind에서 개발한 생성형 AI 모델 제품군으로, 멀티모달 사용 사례를 위해 설계되었습니다. Gemini API를 통해 Gemini Pro Vision 및 Gemini Pro 모델에 액세스할 수 있습니다. 이 실습에서는 주로 Gemini를 활용할 수 있는 다양한 멀티모달 사용 사례를 살펴보고, Vertex AI Gemini API를 사용해 텍스트와 이미지, 동영상 프롬프트에서 텍스트를 생성하는 방법을 알아봅니다.

멀티모달리티

Gemini Pro Vision의 멀티모달리티는 텍스트 전용 LLM보다 더 다양하고 새로운 사용 사례에 활용할 수 있습니다.

텍스트와 이미지를 입력으로 하는 사용 사례 예시:

• 사진에서 객체 감지
• 화면 및 인터페이스 이해
• 그림 및 추상화 이해
• 차트 및 다이어그램 이해
• 사용자 선호도를 바탕으로 이미지 추천
• 여러 이미지의 유사성, 이상치, 차이점 비교

텍스트와 동영상을 입력으로 하는 사용 사례 예시:

• 동영상 설명 생성
• 동영상 전반에서 객체의 태그 추출
• 동영상의 하이라이트/메시지 추출

목표

이 실습에서 학습할 내용은 다음과 같습니다.

• Vertex AI Gemini API를 사용해 텍스트와 이미지, 동영상 프롬프트에서 텍스트를 생성합니다.

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머에는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지 표시됩니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 직접 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학생 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간---실습을 시작하고 나면 일시중지할 수 없습니다.

참고: 계정에 추가 요금이 발생하지 않도록 하려면 개인용 Google Cloud 계정이나 프로젝트가 이미 있어도 이 실습에서는 사용하지 마세요.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 팝업이 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 패널이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 패널에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 패널에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스 목록이 있는 메뉴를 보려면 왼쪽 상단의 탐색 메뉴를 클릭합니다.

모든 권장 API 사용 설정

1. Google Cloud 콘솔의 탐색 메뉴에서 Vertex AI를 클릭합니다.

2. 모든 권장 API 사용 설정을 클릭합니다.

작업 1. Vertex AI Workbench에서 노트북 열기

1. Google Cloud 콘솔의 탐색 메뉴에서 Vertex AI > Workbench를 클릭합니다.

2. 인스턴스를 찾아 JupyterLab 열기 버튼을 클릭합니다.

Workbench 인스턴스의 JupyterLab 인터페이스가 새 브라우저 탭에서 열립니다.

작업 2. 노트북 설정하기

1. 파일을 클릭합니다.

2. 커널 선택 대화상자에서 사용 가능한 커널 목록 중 Python 3을 선택합니다.

3. 노트북의 시작하기 및 라이브러리 가져오기 섹션을 통해 실행합니다.

   • 프로젝트 ID로는 를 사용하고, 위치로는 을 사용합니다.

참고: Colab만 해당이라고 되어 있는 노트북 셀은 건너뛰어도 됩니다.

다음 섹션에서는 노트북 셀을 실행하여 Vertex AI Gemini API를 Vertex AI SDK for Python과 함께 사용하는 방법을 알아봅니다.

작업 3. Gemini Pro Vision 모델 사용하기

Gemini Pro Vision(gemini-pro-vision)은 멀티모달 프롬프트를 지원하는 멀티모달 모델입니다. 프롬프트 요청에 텍스트, 이미지, 동영상을 포함하고 텍스트 또는 코드 응답을 얻을 수 있습니다.

이 작업에서는 노트북 셀을 실행하여 Gemini Pro Vision 모델을 사용하는 방법을 알아봅니다. 학습 목표를 완료하면 여기로 돌아와서 진행 상황을 확인하세요.

여러 이미지를 통한 이미지 이해

Gemini의 기능 중 하나는 여러 이미지를 통해 추론이 가능하다는 것입니다. 이 예시에서는 과일 이미지와 가격표를 사용해 Gemini로 식료품의 전체 가격을 계산해 봅니다.

노트북의 여러 이미지를 통한 이미지 이해 섹션을 통해 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 여러 이미지를 통한 이미지 이해

화면 및 인터페이스 이해

Gemini는 가전 제품의 화면, UI, 스크린샷, 아이콘, 레이아웃에서 정보를 추출할 수도 있습니다. 이 예시에서는 Gemini를 사용하여 스토브에서 정보를 추출해 사용자가 UI로 이동하고 다양한 언어로 응답할 수 있도록 합니다.

노트북의 화면 및 인터페이스 이해 섹션을 통해 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 화면 및 인터페이스 이해

기술 다이어그램에서 항목 관계 이해

Gemini는 다이어그램을 이해하고 최적화 또는 코드 생성 등 실행 가능한 단계를 진행할 수 있도록 하는 멀티모달 기능을 갖추고 있습니다. 이 예시에서는 Gemini가 어떻게 항목 관계(ER) 다이어그램을 해독하고, 테이블 간 관계를 이해하며, BigQuery와 같은 특정 환경에서 최적화에 필요한 요건을 파악하고, 해당하는 코드까지 생성할 수 있는지 알아봅니다.

노트북의 기술 다이어그램에서 항목 관계 이해 섹션을 통해 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 기술 다이어그램에서 항목 관계 이해

여러 이미지를 기반으로 추천

Gemini는 이미지 비교와 추천 제공이 가능합니다. 이러한 기능은 전자상거래 업종과 소매 업종 등에서 유용하게 쓰일 수 있습니다. 이 예시에서는 Gemini를 사용하여 계란형 얼굴에 어떤 안경이 더 잘 어울리는지 추천합니다.

노트북의 여러 이미지를 기반으로 추천 섹션을 통해 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 여러 이미지를 기반으로 추천

유사성/차이점

Gemini는 이미지를 비교하고 객체 간의 유사성이나 차이점을 식별할 수 있습니다. 이 예시에서는 Gemini를 사용해 동일한 장소의 두 가지 이미지를 비교하고 차이점을 파악합니다.

노트북의 유사성/차이점 섹션을 통해 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 유사성/차이점

동영상 설명 생성

Gemini는 동영상에 대한 설명을 생성할 수 있습니다. 이 예시에서는 Gemini를 사용해 지중해 연안에 대한 내용이 담긴 동영상의 설명을 생성합니다.

노트북의 동영상 설명 생성 섹션을 통해 실행합니다.

동영상 전반에서 객체의 태그 추출

Gemini는 동영상 전반에서 태그를 추출할 수도 있습니다. 이 예시에서는 Gemini를 사용해 사진 촬영에 관한 동영상 전반에서 객체의 태그를 추출하고 해시태그를 생성합니다.

노트북의 동영상 전반에서 객체의 태그 추출 섹션을 통해 실행합니다.

동영상에 관한 추가 질문

Gemini는 동영상에 관한 질문에 답변할 수 있습니다. 이 예시에서는 Gemini를 사용해 동영상에 관한 질문에 답변하고 JSON 응답을 반환합니다.

노트북의 동영상에 관한 추가 질문 섹션을 통해 실행합니다.

동영상 내용 이외 추가 정보 검색

Gemini는 동영상 내용 이외 추가 정보를 검색할 수도 있습니다. 이 예시에서는 Gemini를 사용해 동영상에 나와 있지 않은 추가 정보를 검색합니다(예: 기차 노선에 관한 구체적인 질문).

노트북의 동영상 내용 이외 추가 정보 검색 섹션을 통해 실행합니다.

수고하셨습니다

실습을 완료하셨습니다. 이 실습에서는 Vertex AI Gemini API를 사용해 텍스트 및 이미지 프롬프트에서 텍스트를 생성하는 방법을 알아보았습니다.

다음 단계/더 학습하기

• Vertex AI의 생성형 AI 문서 참조하기
• Google Cloud Tech YouTube 채널에서 생성형 AI 자세히 알아보기
• Google Cloud 생성형 AI 공식 저장소
• Gemini 노트북 예시

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2024년 10월 8일

실습 최종 테스트: 2024년 10월 8일

Copyright 2024 Google LLC All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.