7. 구글 AI 제미나이 API로 보험 약관에서 필요한 계리 실무 정보 추출하기

구글 AI 제미나이 API를 활용해 보험 약관에서 필요한 정보를 자동 추출하는 방법을 소개합니다. 계리 실무 모델링에 유용한 활용법을 알려드립니다.

 

안녕하세요, AI 차앙미니입니다. 

 

큣 캣

 

지난번엔 아래 포스트에서 OpenAI API를 활용하여 전처리 된 PDF의 내용을 RAG (검색증강생성) 하여 필요 정보를 추출하는 모델을 보여드렸었는데요,

보험계리 AI RAG

6. 한국 보험 계리사 계리 업무 실무 AI 활용 인공지능 PDF 문서 RAG AI 챗GPT (Feat. Cursor, OpenAI, Pinecone,

 

오늘의 보험 실무 AI 개발 대상:

오늘은 Gemeni 1.5 pro API를 활용하여 업로드된 보험약관을 PDF를 바로 AI 분석 후 계리 실무에 필요한 정보를 답변에 정리하여주는 챗봇을 만들어 보도록 하겠습니다. 

 

개발된 챗봇

 

굳이 새 챗봇을 만드는 이유?

• 구글 Gemini에서 직접 pdf를 올려서 해당 작업을 진행해도 무관하지만, 제가 개발된 챗봇의 시스템 프롬프트에 "특정 정보를 추출해서 그 정보에 기반해서 답변을 해" 와 같은 가이드를 미리 넣어들 수 있는 장점이 있습니다. 

챗봇 설계

배포방식

• 지난 포스트와 동일하게 깃헙에 개발된 코드들을 올리고, Streamlit을 통하여 배포하는 방법을 택했습니다.

UI 설계

• Chatbot UI는 기존에 개발된 챗봇을 재활용을 했습니다.

활용 LLM 

• 지난번엔 OpenAI를 사용하였으나, 이번엔 경험의 풍부성을 위해 Google Gemini Flash 1.5 API를 사용하여 보았습니다.

PDF 처리 방법

• 파이썬 활용하여 아래와 같이 PDF를 받아 답변을 생성하도록 하였습니다. 

        # 모델 초기화
        model = genai.GenerativeModel('gemini-1.5-flash')
        
        .....
        
        response = model.generate_content(
                    [
                        final_prompt,
                        {"mime_type": "application/pdf", "data": pdf_bytes}
                    ],
                    generation_config={
                        "temperature": 0.4,
                        "top_p": 0.8,
                        "top_k": 40,
                        "max_output_tokens": 4096,
                    }
                )
                
      ......
      + 챗봇 시스템 프롬프트 추가 (현 프로젝트의 경우 보험 약관 내 계리 실무 정보 추출)

 

• 대용량 PDF를 한번에 처리하는데 문제가 있어, chunk로 나누어 작업을 하도록 개발하였습니다.

청크작업

 

결과

아래와 같이 보험 약관에서 필요한 정보를 추출하였습니다. 어느정도 유용하다고 판단이 되네요.

 

챗봇결과

 

 

도움이 되셨으면 공감, 구독하기 및 댓글 부탁드립니다.

 

개발자 링크드인: https://www.linkedin.com/in/chrislee9407/