Generative AI Studio 소개

목차

1. 소개 to Generative AI Studio Course
2. Generative AI란?
3. AI가 새로운 콘텐츠를 생성하는 방법
4. Google Cloud의 Vertex AI 소개
5. Generative AI Studio를 사용하여 어떤 일을 할 수 있는지
6. Generative AI Studio에서 언어를 사용하는 방법
   • 프롬프트 디자인
   • 대화 생성
   • 모델 튜닝
7. 프롬프트 디자인의 팁과 주의사항
8. 프롬프트 갤러리
9. 모델 매개변수 조정
10. Parameter Efficient Tuning 소개
11. Generative AI Studio의 기능 요약
12. 더 많은 자료와 학습 자료

Generative AI Studio를 소개합니다

Generative AI Studio는 Generative AI Studio 커리큘럼의 소개 영상입니다. 이 영상에서는 Generative AI Studio가 무엇인지 알려주고, 사용할 수 있는 옵션을 설명합니다. 또한, Generative AI Studio의 언어 도구를 직접 데모합니다.

Generative AI란?

Generative AI는 사용자를 위해 콘텐츠를 생성하는 인공지능의 한 종류입니다. 이를 통해 텍스트, 이미지, 오디오 및 비디오 등 다양한 종류의 콘텐츠를 생성할 수 있습니다. 사용자가 프롬프트나 요청을 제공하면, Generative AI는 문서 요약, 정보 추출, 코드 생성, 마케팅 캠페인 생성, 가상 어시스턴스 및 콜센터 봇 등 다양한 작업을 수행하는 데 도움을 줄 수 있습니다. 이는 일부 예시에 불과합니다!

AI가 새로운 콘텐츠를 생성하는 방법

AI는 많은 양의 이미 존재하는 콘텐츠로부터 학습합니다. 텍스트, 오디오 및 비디오와 같은 콘텐츠를 학습하는 과정을 훈련이라고 부릅니다. 이를 통해 "foundation model"이 생성됩니다. 크기가 큰 언어 모델(Large Language Model, LLM)인 Bard와 같은 챗봇을 구동하는 기반이 대표적인 foundation model의 예입니다.

이 foundation model은 콘텐츠를 생성하고 문서 추출 및 요약과 같은 일반적인 문제를 해결하는 데에 사용될 수 있습니다. 또한, 새로운 데이터셋으로 해당 분야에서 특정 문제를 해결하도록 모델을 추가로 훈련할 수도 있습니다. 이를 통해 특정 요구에 맞는 모델이 생성됩니다.

Google Cloud의 Vertex AI 소개

Google Cloud는 인공지능과 기계 학습 배경이 있든 없든 프로젝트에서 Generative AI를 사용할 수 있도록 여러 사용하기 쉬운 도구를 제공합니다. 그 중 하나가 Vertex AI입니다. Vertex AI는 Google Cloud에서 제공하는 엔드 투 엔드 기계 학습 개발 플랫폼으로, 기계 학습 모델을 빌드, 배포 및 관리하는 데 도움을 줍니다. Vertex AI를 사용하면 앱 개발자나 데이터 과학자이고 애플리케이션을 빠르게 프로토타이핑하고 사용자 지정할 수 있습니다. 또한, Model Garden에서 제공되는 것과 같이 응용 프로그램 개발자나 ML 개발자는 모델을 자동화하고 관리하는 데 사용할 수 있는 기초 모델 및 타사 오픈 소스 모델과 상호작용할 수 있습니다.

Generative AI Studio를 사용하여 어떤 일을 할 수 있는지

Generative AI Studio는 언어, 비전 및 음성을 지원합니다. 이 커리큘럼을 배우는 동안 이 목록은 계속해서 늘어납니다. 언어의 경우 사용자지정 작업을 수행하고 언어 모델을 조정하기 위해 프롬프트를 디자인할 수 있습니다. 비젼의 경우, 프롬프트에 기반한 이미지를 생성하고 이미지를 편집할 수 있습니다. 스피치의 경우 음성에서 텍스트를 생성하거나 그 반대로 할 수 있습니다. 이 문서에서는 언어를 Generative AI Studio에서 사용하는 방법에 중점을 둡니다.

구체적으로 언어에서는 다음 작업을 수행할 수 있습니다.

1. 비즈니스 사용 사례를 고려한 작업에 대한 프롬프트 디자인
2. 모델이 어떻게 응답해야 하는지를 지시하는 문맥을 지정하여 대화 생성
3. 특정 사용 사례에 더 적합한 모델을 조정하고 이를 엔드포인트에 배포하여 예측을 얻거나 프롬프트 디자인에서 테스트

이 세 가지 기능을 자세히 알아보겠습니다.

👁️‍🗨️ 프롬프트 디자인

시작하기 전에 프롬프트 디자인에 대해 알아보겠습니다. 대규모 언어 모델(Large Language Model, LLM)이나 안내되는 질문, 지침과 같은 입력 텍스트입니다. 원하는 입력 텍스트를 모델에 입력으로 전달하여 응답을 얻을 수 있습니다. 단순한 지시사항을 다음과 같이 제공하는 것이 한 가지 디자인 방법입니다. 예를 들어, Joshua Tree National Park에서 캠핑 여행을 위해 필요한 항목 목록을 생성해 주세요. 이 텍스트를 모델에 전달하면 캠핑 트립에 떠나기 전에 꼭 가져가야 할 유용한 아이템들의 목록을 얻을 수 있습니다. 이와 같이 LLM이 특정 동작을 수행하기 위해 특정 동작을 작성하는 작업을 zero shot prompting이라고 합니다.

일반적으로 LLM의 응답을 원하는 방식으로 응답을 조정하는 방법은 세 가지가 있습니다.

1. Zero-shot prompting: LLM에게 수행할 구체적인 작업에 대한 추가 데이터를 제공하지 않고 해당 작업을 설명하는 프롬프트만 제공하는 방법입니다. 예를 들어, LLM에게 질문에 대한 답변을 원한다면 "프롬프트 디자인이란 무엇인가요?" 라고 질문할 수 있습니다.
2. One-shot prompting: LLM에게 수행할 작업에 대한 단일 예시를 제공하는 방법입니다. 예를 들어, 만약 LLM에게 시를 쓰도록 요청하고 싶다면 단일 예시 시를 제공할 수 있습니다.
3. Few-shot prompting: LLM에게 수행할 작업에 대한 일부 예시를 제공하는 방법입니다. 예를 들어, LLM에게 뉴스 기사를 작성하도록 요청하고 싶다면 몇 개의 뉴스 기사를 제공할 수 있습니다. 구조화된 모드를 사용하여 Few-shot prompting을 디자인할 수 있습니다. 여기에는 몇 가지 다른 구성 요소가 있습니다. 먼저 문맥(context)이 있습니다. 이는 LLM이 응답해야 하는 방법을 지시합니다. 사용할 수 있는 단어, 주제, 피해야 할 특정 응답 형식을 지정할 수 있습니다. 문맥은 모델에 요청을 보낼 때마다 적용됩니다. 예를 들어, 배경 텍스트에서 기반으로 하는 질문에 대답하기 위해 LLM을 사용하려면 배경 텍스트를 문맥으로 지정하고 이 텍스트에서 나올 수 있는 질문 예시에 대한 답변을 추가해야 합니다. 그러면 디자인한 프롬프트를 테스트할 수 있습니다. 이렇게 간단한 프롬프트 디자인으로 기초적인 Q&A 시스템 프로토 타입을 몇 분 안에 만들 수 있습니다. 프롬프트 디자인에 대한 몇 가지 팁과 주의사항이 있습니다. 명확하고 구체적이며 명확하게 정의된 내용을 작성하고, 한 번에 한 작업을 요청하고, 생성적인 작업을 분류 작업으로 변환하는 것입니다. 예를 들어, 어떤 프로그래밍 언어를 배워야 할지 물어보는 대신 프로그래밍 초보자에게 Python, Java 또는 C가 더 적합한지 묻는 것입니다. 또한, 예시를 추가하여 응답 품질을 향상시킬 수 있습니다. 여러 구조, 형식 및 예시를 실험하여 가장 적합한 프롬프트를 작성하려면 다양한 방법을 사용해야 합니다. 자세한 내용은 텍스트 프롬프트 디자인을 확인해주세요.

💬 대화 생성

대화 생성을 위해서는 대화 문맥을 지정해야 합니다. 대화 문맥은 모델에게 어떻게 응답할지에 대한 지시입니다. 예를 들어, 모델이 "질문하면 항상 'Have you tried turning it off and on again?'로 응답하도록 지정할 수 있습니다. 이때, 대화 문맥을 조정하는 매개변수를 조정하면됩니다. 이 기능을 사용하면 chat box에 "컴퓨터가 느립니다"라고 입력하면 "Have you tried turning it off and on again?"라는 응답을 정확히 얻을 수 있습니다. Google은 애플리케이션을 빌드하는 데 도움이되는 API 및 SDK를 제공합니다. SDK를 사용하여 프로그래밍 언어(예: Python, Curl)에 맞는 지원을 다운로드 한 다음, 이 코드를 애플리케이션에 삽입하는 방식으로 작업할 수 있습니다.

🎛️ 모델 튜닝

LLM 프로토 타입을 만든 후 응답 품질을 개선하려면 단순한 프롬프트 디자인 이상의 조치가 필요할 수 있습니다. 이를 위해 모델을 튜닝하는 방법과 Generative AI Studio에서 지원하는 모델 튜닝에 대해 알아보겠습니다. 예를 들어, 클라우드 상태에서 튜닝 작업을 시작하면 작업의 상태를 모니터링할 수 있습니다. 튜닝 작업이 완료되면 조정된 모델을 Vertex AI Model Registry에서 확인하고 서빙을 위해 엔드포인트에 배포하거나 Generative AI Studio에서 테스트할 수 있습니다.

프롬프트 디자인의 팁과 주의사항

프롬프트 디자인을 할 때 몇 가지 팁과 주의사항이 있습니다. 간결하고 구체적이며 명확하게 정의된 내용을 작성하는 것, 한 번에 한 작업을 요청하는 것, 생성적인 작업을 분류 작업으로 변환하는 것, 예시를 추가하여 응답 품질을 향상시키는 것 등이 있습니다. 하지만 프롬프트를 작성하는 가장 이상적인 방법은 여전히 없습니다. 다른 구조, 형식 및 예시를 실험해야 하는 경우가 있습니다. 여태까지 최적의 프롬프트를 작성하기 위해 다양한 방법을 사용해 왔습니다. 사용 사례에 가장 적합한 프롬프트를 찾으려면 다양한 구조, 형식 및 예시로 실험해야 할 수도 있습니다. 자세한 내용은 텍스트 프롬프트 디자인을 읽어보세요.

프롬프트 갤러리

💡 프롬프트 갤러리란?

프롬프트 갤러리는 다양한 사용 사례에서 작동하는 샘플 프롬프트를 보여주는 컬렉션입니다. 배운 내용을 토대로 개발 사례를 참고할 수 있습니다.

💡 프롬프트 갤러리 사용 방법

주어진 사용 사례 또는 과제에 가장 적합한 프롬프트를 찾아보고 사용하면 됩니다.

모델 매개변수 조정

모델 매개변수를 조정해서 응답 품질을 개선할 수 있습니다. 모델의 종류를 선택할 수도 있고, 온도, 상위 P, 상위 K를 지정할 수 있습니다. 이러한 매개변수는 응답의 무작위성을 조절하여 단어 선택을 제어합니다. 프롬프트를 모델로 전송하면 다음에 올 가능성 있는 단어에 대한 확률 배열이 생성됩니다. 이 배열에서 어떤 단어를 선택할지 결정하기 위해 일련의 전략이 필요합니다. 매 재기에서 가장 가능성 있는 단어를 선택하는 단순한 전략을 사용할 수 있습니다. 하지만 이 방법은 흥미로운 답변과 가끔 반복되는 답변을 도출할 수 있습니다. 무작위로 모델이 생성하는 것을 허용하여 예상치 못한 답변과 창의적인 답변을 얻을 수 있습니다. 온도, 상위 K, 상위 P와 같은 모델 매개변수를 조정하여 무작위성의 정도를 제어할 수 있습니다. 온도는 무작위성의 정도를 조절하는 데 사용되는 수입니다. 낮은 온도는 높은 확률로 발생할 단어를 선택하는 경향이 있는 반면, 높은 온도는 저확률 단어를 선택하는 경향이 있습니다. 상위 K는 가능한 단어 목록에서 상위 K개의 단어 중에서 무작위로 단어를 선택하도록 허용합니다. 상위 P는 가능한 단어 집합에서 무작위로 하나의 단어를 선택하는 방식입니다. 이러한 매개변수를 통해 모델의 응답을 개선할 수 있습니다.