[책] Amazon Bedrock으로 시작하는 실전 생성형 AI개발 서평후기

 

 

책의 본문을 읽기에 앞서 머릿말부터, 추천사, 감사의말까지 하나하나 꼼꼼히 살펴봤다.

다른 책이였다면 목차만 후루룩 보고 넘어갔을테지만..작가님(?)으로부터 직접 제공받은 책이라 그런지 살짝 기대가 되었다.

책 집필에 몰두하며 소중한 가족들과 친구들에게 소홀히 했다는 작가님의 집필후기 글을 봐서 그런지

마지막에 가족에게 감사의 인사까지 전하는 모습이 인상적이였다. 뭐랄까 책을 펴내기 위한 노고와 진심이 느껴졌다..!!

 

이번 글에서는  <Amazon Bedrock으로 시작하는 실전 생성형 AI개발> 책에 대한 리뷰와 후기 위주의 서평글을 남겨보려고 한다. 

https://www.yes24.com/product/goods/140049541

Amazon Bedrock으로 시작하는 실전 생성형 AI 개발 - 예스24

 

아래 책을 구매하기에 앞서 간단하게 내용과 구성을 살펴보는데 도움이 될 것 같다.

 

목차는 아래와 같이 구성되어 있다.  각 파트가 짧아서 간단하게 후루룩 읽기 좋다. 

 

목차에 따라서 간단하게 내용을 요약하고,(0장부터 4장까지..)

중간중간 읽으면서 좋았던점과 아쉬웠던 점에 대해서 리뷰를 남겨보려고 한다. 

참고로 이 책을 읽고 Amazon Bedrock을 직접 사용해보면서 알게 된 내용은 다음글을 참고하면 좋을것 같다. 

 

0. AWS 계정 준비하기 

AWS 가입부터 안내해주다니..이렇게 극도로 친절한 책은 정말 오랜만에 본다.

액세스 키까지 발급하고, aws cli를 통해 로컬PC에 자격증명 설정까지 진행할수 있도록 아주 자세하게 나와있다.

 

전체적으로 AWS 관련한 이론적인 설명이 정말정말x10000 자세하다.

캡쳐 하나하나 설정 하나하나가 직접 안해봐도 이해가 되고 상상이 될 정도이다. 역시나 MSP 업계의 솔루션 아키텍쳐이셨다.

사실 나도 잠깐 MSP 업계에서 일한적이 있었는데 뭔가 그때 같이 일하던 동료와 비슷한 느낌이 들었다.

 

1. 생성형 AI란 무엇인가

1-1 . 생성형 AI 정의

생성형AI는 새로운 콘텐츠를 창초해내는 능력을 가진 AI이다.

예를들어 기존AI는 이미지를 인식하고 분류하기에 그쳤다면 생성형AI는 새로운 이미지를 만들어낼수 있다. 

 

그리고 1950년대로 거슬러 올라가는 생성형AI의 역사를 설명한다.. (사실 실무자로써 이론적인 역사?..하품이슈...)

책이 작성된 2024년, 통용되고 있는 생성형 AI모델은

GPT, BERT (버트), Claude(클로드), Llama(라마) 정도이다. 

그리고 책을 통해서 처음 듣게 된 모델은

DALL-E(달리), Stable Diffusion(스테이블디퓨전),Midjourney (미드저니), MuseNet(뮤즈넷)  정도 있다. 

 

각각 자세한 설명은 리뷰2편을 참고하길 바란다. 

 

1-2 . AWS 생성형 AI 전략 

AWS에서 생성형 AI를 직접 다루는 서비스, Sagemaker랑 Bedrock 

- Sagemaker: 머신러닝 서비스. JumpStart 기능은 사전구축된 모델을 모아둔 머신러닝 허브. 바로 사용해서 배포할수 있다.

- Bedrock : 완전관리형 생성형AI 플랫폼. 완전관리형이라 별도 인프라 구축 필요 없이 바로 클라우드 환경에서 운영가능

 

1장은 생성형AI에 대한 기본적이면서 추상적인 내용이였다. 

난생처음 생성형 AI를 접하는 독자들에게는 어디에서도 들어보지 못한 유용한 개념일 것 같다.

나도 책을 통해서 처음 듣는 모델들과 특징까지 알게 되었다...!

약간 AWS SAA 자격증 시험을 보기위한 기본 개념공부 느낌이 들었다

 

2. Amazon Bedrock  시작하기

2-1 . 주요 Bedrock 기반 모델

크게 텍스트 생성모델, 이미지 생성모델, 임베딩 모델로 나뉜다.  

• 텍스트 생성 모델 : Amazon Titan Text 모델 , Anthropic Claude 모델 , Meta Llama 모델
• 이미지 생성 모델 : Amazon Titan Image Generator, Stability AI 
• 임베딩 모델 : Cohere Embed, Amazon Titan Embeddings, Amazon Titan Embeddings V2

 

각각 자세한 설명은 리뷰2편을 참고하길 바란다. 

 

2-2 . Bedrock 사용하기 

임베딩 모델은 문서 전체 맥락과 의미를 포착하여 텍스트나 이미지 등의 데이터를 고차원된 숫자 벡터로 변환한다.

임베딩 모델이 텍스트와 이미지에 비해 생소할수 있는 개념이지만, 친절하게 잘 설명되어 있어서 좋았다.

 

바로 사용가능한 다른 AWS서비스와 다르게

Bedrock은 모델을 사용하기 위해 원하는 모델을 선택하고 활성화하는 작업이 필요하다. 

 

모델 엑세스 구성

콘솔 왼쪽 아래 Bedrock Configurations에  Model Acees 탭이 있었다. 

사실 이미지만 보고 왼쪽 하단에 있다는걸 놓쳐서 한참 찾았다..

 

Bedrock PlayGround

콘솔에서 바로 사용 가능. 코드를 작성하거나 터미널에서 명령어를 실행하지 않고도 모델을 테스트 가능 

이렇게 버튼 하나하나 설명하다니..! ㄷㄷ

 

토큰(Token)

언어모델에서 텍스트를 처리하는 기본단위. 입출력 토큰에 대해 각각 다른 과금 체계 적용.

구성(Configuration)

추론 매개변수로 무작위성과 다양성 조정하는 값으로, 온도값, 상위K값, 상위P값

온도값이 높을수록 무작위적인 응답이 출력.

상위K값은 가장 가능성 높은 후보의 수.10이라면 다음 답변 출력시

상위P값은 가낭 높은 후보의 백분율. 0.5라면 다음 토큰이 될수 있는 확률분포 상위50%

 

맥OS클라이언트

API형태로도 제공되지만 맥전용 클라이언트도 제공한다.  (오 신기한데)

https://github.com/aws-samples/amazon-bedrock-client-for-mac

GitHub - aws-samples/amazon-bedrock-client-for-mac: A sleek and powerful macOS client for Amazon Bedrock, bringing AI models to

 

 

Bedrock 서비스가 궁금하고 사용해보고 싶어서 2장이 기대가 됐다. 아마 본격적으로 사용하는 방법이지 않을까 싶다. 

하지만 섣불리 바로 Bedrock을 실행해보지 못했다.

다름 아닌 비용이슈 때문이였다.

어떤 모델을 액세스 해야할지에 대한은 고민은 둘째 치고, 

모델에 대한 액세스를 요청했을때 비용이 발생하지 않을까에 대한 우려가 먼저 들었다. 

그래서 개인적으로 비용적인 측면이 나중에 설명하는게 조금 아쉬웠다. 

심지어 직접 찾아보니 Bedrock 비용은 토큰기준으로 청구되는데 토큰 관련 파트에서 설명해주면 좋았지 않았을까 싶다..! 

 

그래서 리뷰2편에서 Bedrock비용 관련 내용을 포함하여 <2장. Bedrock 사용하기> 부분을 직접 사용해본 글을 작성하려고한다.

 

3. 프롬프트 엔지니어링 

3-1. 프롬프트 엔지니어링의 개념과 중요성

프롬프트 엔지니어링은 LLM과 효과적으로 상호작용하고 원하는 결과를 얻는 과정.

잘 설계된 프롬프트는 LLM의 성능을 크게 향상시킬수 있다.

 

3-2. 효과적인 프롬프트 작성법

• 제로샷 프롬프팅(Zero-shot-prompting)
• 퓨샷 프롬프팅(Few-shot-prompting)
• 생각의 사슬(Chain of Thought, CoT) 프롬프팅

3-3. 프로프트 엔지니어링 with Claude

• 안내 프롬프트(Guide prompt)
• 구조화된 프롬프트 (Structed Prompt)
• 시스템 프롬프트 (System Prompt)

3-4. 프로프트 템플릿 예시

• 요악 작업
• 번역 작업
• 코드생성 작업 

 

3장에서는 프롬프트 예시가 잔뜩 나와 있다. 그래서 어떤 프롬프트인지 이해하기가 쉬웠다.

그런데 프롬프트 템플릿 예시 파트에서는 그냥 냅다 이런 프롬프트만 나와버려서 또 후루룩 넘겨버렸다..

 

 

4. RAG 구현하기

4-1. RAG개념

RAG: Retrieval-Augmented Generation, 검색증강생성.

LLM 성능을 크게 향상시키는 기술. 외부의 신뢰할수 있는 지식 저장소를 참조하여 정보를 보강하는 과정.

 

모델이 자체적으로 보유한 파라미터 기반 지식과 외부 저장소에서 검색된 비파라미터 지식을 통합하여 더욱 명확한 응답 생성.

• 유연성 및 비용 효율성 : 모델 재학습 없이 검색문서 교체만으로도 지식 업데이트 가능
• 정확성 신뢰성 향상 : 전문지식을 효과적으로 통합하고, 최신정보 활용가능

4-2. 벡터 데이터베이스

다양한 유형의 데이터를 고차원 벡터로 볕환하여 효율적으로 저장,검색,처리하기 위한 데이터베이스 시스템.

데이터가 벡터로 인코딩 되면, 벡터 데이터베이스에서 인덱싱하여 유사한 벡터 쿼리가능.

• OpenSearch Service: AWS에서 제공하는 완전관리형 오픈서치 서비스
• pgvector: 벡터유사도 검색을 지원하는 pgvector 확장기능. 기존 PostgreSQL활용

4-3. LangChain으로 RAG구현 

RAG 직접 구현하는 방식. 아래 모든 과정을 하나의 파이프라인 형태로 묶는 LangChain.

• 벡터 디비에서 관련문서를 검색하고, 포맷팅
• 사용자 질문을 그대로 전달
• 검색된 문서와 질문을 미리 정의된 프롬프트 템플릿에 적용
• 생성된 프롬프트 언어모델 입력하여 응답 생성
• 생성된 응답을 문자열로 파싱

RAG를 구축한 상태에서 Claude모델에게 질문하면 정확한 정보 제공.

 

4-4. 관리형 서비스로 RAG구현: Knowledge base for bedrock

LLM이 질문에 사실과 다른 답변을 하는것을 환각현상. 이것을 줄이기 위해 RAG기법 도입. 

그런데 RAG를 구현하기 위해 문서수집, 텍스트분할, 임베딩, 벡터DB구축 일일이 개발 번거로움

 

번거로움을 해결하기 위한 Knowledge base for bedrock.

S3에 원문 pdf 파일을 올려두고, 베드락을 통해 질문답변을 할수 있다. 

• 오픈서치 서버리스 방법으로 베드락 지식기반 생성하는 방법
• Aurora Serverless v2 베드락 지식 기반 생성하는 방법 (오픈서치보다 비용이 8배 저렴하다!)

베드락 지식기반 API로 호출하기.

KB(Knowledge base) ID 명시필요. 

• retrieve() : 질문생성
• retrieve_and_generate():답변생성.

벡터 데이터베이스 없이 RAG사용하기.

24년 4월 추가된 Chat with your document 기능.

단일 문서에 대해 질문할수 있음. 단일 문서에 대해 질문가능.

10MB미만 PDF, TXT,DOc,CSV,HTML확장자를 가진 단일 파일 지원

 

4장에서 베드락 지식 기반을 생성하는 방법은 정말 화면 하나하나 설명하는게 굉장히 자세했다.

몰입해서 읽으면 마치 상상속으로 화면 하나하나 누르고 직접 해보는 느낌이 들 정도였다.

다음에 오로라 서버리스로 한번 테스트해보려한다!! 

 

그리고 비용 관련해서, 오로라는 최소 용량을 0으로 설정할수 있다는 24년 기준 최신정보까지 반영되어 있다.

 

그런데 요기 부분에서 편집과정에 있어서 오류인지 같은 문장이 반복되는걸 발견했다! p.118-119부분인데 같은 내용이 반복된다.   

 

---

 

전체적으로 AWS Bedrock 콘솔에 대한 설명이 굉장히 자세하다.

따로 콘솔에 들어가서 눈으로 직접 해보면서 익힐까 했는데, 그렇게까지 안해도 될 정도로 캡쳐 하나하나가 디테일 했다. 

 

그리고 최신정보들까지 반영이 되어 있다는게 정말 좋은것 같다.

24년 11월 정보까지 있다니..! 덕분에 새로 알게 된 내용들도 많았다. 

지금도 생성형AI 관련해서 계속해서 발전하고 있기 때문에 모든 최신성을 반영할순 없지만,

최대한 최신성을 담고자 하는 정성과 진심이 느껴졌다. 

 

다만 아쉬운점은 아무래도 책이다보니까 약간 AWS 자격증 시험을 위한 개념설명이 있다. 

그래서 약간 실용적인 정보라기보단 뭔가 와닿지 않고 추상적인 느낌의 설명들이 많아서 개인적으로 딱딱하게 느껴졌다. 

 

그래도 아예 생성형AI를 처음 접하는 사람이나 

나처럼 AWS Bedrock에 대해서 이제 막 알아보고 싶어하는 사람들에게는 꽤 유용한 책이 될 것 같다. 

비록 아직 4장까지 밖에 못 읽어봤지만..AWS Bedrock에 대한 기본적인 개념을 잡고 싶다면 추천하는 책이다!