[Google AI Webinar] 'LLM이 물처럼 흐르는 서비스와 콘텐츠 만들기' 웨비나 요약 및 주요 내용 정리
[Google AI Webinar] 'LLM이 물처럼 흐르는 서비스와 콘텐츠 만들기' 웨비나 요약 및 주요 내용 정리
오늘 Google Cloud에서 진행한 <LLM이 물처럼 흐르는 서비스와 콘텐츠 만들기> AI 웨비나에 참여하여 유용한 내용들을 들어보았습니다.
1. 작은 팀의 AI Transformation을 돕는 구글 클라우드 (오심인)
💡 기업에서 AI를 도입할 때 주요 아이템들
내부 생산성 향상 툴
- 코드리뷰 자동화
- 법률 검수 자동화
- 매출 예측, 트렌드 분석
- 마케팅 컨텐츠 생성 Agent
서비스
- 검색 개선 모델
- 개인화 콘텐츠 생성
- 제품 카탈로그 확장, 가상 시착,
- 글로벌 유저 자동 번역
자체 모델/연구 개발
- AI Ops/ML Ops
- 모델 커스터마이징
- 모델 구축/트레이닝
- 데이터셋 제착
✨ Gemini의 장점
- 학습부터 멀티모달(텍스트, 영상, 이미지, 음성 등..) 데이터를 통해 학습
- 전체적인 맥락을 통한 답변
- 영상 모델:
📋 Gemini 적용 Use Cases
- 자연어/멀티모달 검색
- Airbnb에서 기존 위치/특성선택 검색이 아닌 자연어 혹은 다양한 멀티모달 데이터로 검색 (예:
"첨부한 비디오의 느낌과 비슷한 숙소 찾아줘","하이킹을 하기 좋은 오두막 집 찾아줘") - 멀티모달 임베딩을 활용한 미디어 검색 (예:
(이미지 혹은 비디오 첨부) + 용감한 개구리가 등장하는 영상 찾아줘)
- Airbnb에서 기존 위치/특성선택 검색이 아닌 자연어 혹은 다양한 멀티모달 데이터로 검색 (예:
- 상품/미디어 메타 데이터 생성
- 프롬프트를 통해 상품 설명 작성하기. 단, 원하는 답변을 얻기 위해서는 프롬프트 엔지니어링이 꽤 필요함
- 영상 분석/고객 반응 분석
- 유튜브 영상을 분석 (예: 빠니보틀의 여행동영상을 분석해서 장소의 이름과 시간을 JSON 타입으로 추출)
- STT/TTS/번역/미디어 요약
- 미디어 요약/분석 제공
- 영상 내 노출되는 브랜드를 찾아서 AI를 통해 블러처리, 욕설 등 다양하게 활용 가능
- Imagen 활용 콘티 제작
- 프롬프트를 통해 장면에 대한 묘사를 자연어로 입력하여, 이미지 스토리 보드로 제작
- 이미지 편집 기능 제공
- 이미지에서 특정 부분 지우기, 생성하기 등..
- 상업 이미지 하나를 통해 배경 생성
- 이미지를 비디오로 생성
- 고객을 위한 시착 이미지
- 드레스사진 + 프롬프트 => 드레스를 입고있는 모델의 사진 생성
2. 채널톡의 다양한 생성형 AI 기능을 책임지는 Gemini 활용 방법 (정민규)
채널톡은 어떤 서비스?18만개의 회사에서 이용 중인 AI 챗봇!
- CS의 미래
- 2-3년 내에 AI 상담 퀄리티가 사람을 뛰어넘을 것으로 예상
상담 효율화
채널톡이 제공 중인 서비스
- ALF: AI 에이전트 상담원, 대화의 맥락 이해, 알맞은 답변 제공
- 번역
- 요약
- 어시스턴트
3. TPU 사용을 통한 데이터 생성으로 자체 LLM 구축 후기 (이준법)
Magpie 방법론
- LLM을 통해 Instrunction을 뽑아보자!
- LLM이 사용자의 프롬프트를 통해 의도를 파악하여 질문을 생성하고, 생성된 질문을 가지고 답변을 생성해준다.
- 이를 통해 질문<->답변 set을 무한으로 생성할 수 있다!
KoMagpie란?
Hugging Face : https://huggingface.co/datasets/channelcorp/KoMagpie-raw
- 한국어 전용 Magpie! (기존 맥파이는 영어만 지원하였음)
- ExaOne3.07B모델을 통해 한국어 Instrunction + Output 데이터셋 생성!
4. Gemini 쉽고 다양하게 사용하기 (백인기)
Gemini 2.0 모델 설명
- Gemini Pro: 코딩, 추론, 복잡한 프롬프트 해결 가능
- Gemini 2.0 Flush
- Gemini Flush Lite: 빠르고 저렴
장점
- 멀티모달 Output: 이미지, 오디오 출력
- Google AI Studio -> Vertex AI Studio: 프로덕션 레벨의 Gemini 서비스 연동 가능
개인 소감
이번 웨비나에서는 "LLM은 전기, 물과 같은 존재"라는 말이 반복적으로 나왔습니다. 즉, 어떤 서비스든 LLM이 고객의 편의를 도울 것이다! 라는 말이죠.
작년 같이 일하던 동료분께서 더 이상 서비스에 “AI OOO” 이렇게 붙지 않을 것이라고 얘기해주셨었는데, 그 생각이 들었습니다.
이제는 AI가 서비스에 포함된 것이 너무 당연해서 어필 포인트가 되지 않는 미래가 가까워져오는 것 같아요 🤔 !
이번 웨비나는 큰 사이트를 얻을 수 있다기 보다는 Gemini2.0 데모&시연 부분이 길어서 좀 아쉬웠습니다.
질의응답 시간도 거의 없어서 그냥 Gemini2.0 홍보영상 같아서 좀 아쉬웠어요. 🥲
Gemini가 다른 상용 LLM에 비해 어떤 장점을 가지고 있는지, 혹은 자사 모델에 비해 어떤 것이 업그레이드되었는지에 대한 설명도 좀 부족했던 것 같아요.
그렇지만 Gemini를 활용한, 즉 LLM을 활용한 기업에서의 UseCase에 대해 다양한 예제를 설명해주어 나름 의미있던 시간이었습니다!
채널의 경우
ROI 를 잘 계산하는 전략을 세운다!
- 저렴한 LLM을 선택
- AI 상담 해결에 따라 과금하는 형태로 LLM 호출 사용량에 따른 비용을 받아서 LLM API 사용 비용의 부담을 줄인다.
- 완전히 1:1 비례는 아니지만, AI 상담 해결을 했으면 과금하는 형태로 제공
- AI 상담 해결을 했으면 과금