대규모 언어모델 미세조정을 통한 건설안전지침 생성 AI 프로토타입 개발

초록

중소 규모의 건설현장에서 안전규정을 준수하지 않아 많은 사고가 발생하며, 사망 사고로 이어지기도 한다. 이러한 배경에서 본 연구는 대규모 언어모델을 활용하여 작업 조건과 작업 환경에 따라 적절한 안전지침을 내용을 생성하는 건설안전지침 챗봇을 개발하는 것을 목표로 한다. 본 연구는 한국산업안전보건공단에서 발행한 건설안전지침을 바탕으로 질문 답변 데이터셋을 생성하고 데이터셋을 활용하고 언어모델을 미세조정하였다. 미세조정과정에서의 연산량을 효율적으로 관리하기 위해 PEFT (Parameter-Efficient Fine-Tuning) LoRA (Low Rank Adaptation) 방식을 활용하였다. 미세조정된 모델은 건설안전 정보 제공에 있어 정확하고 구체적인 응답을 제공하도록 구축되었다. 미세조정된 모델의 검증은 정성적, 정량적 평가 지표를 사용하여 수행되며 초대규모 언어모델의 응답과 비교하여 평가하였다. 미세조정된 모델은 GPT-4, Palm2, KoAlpaca와 같은 대규모 언어모델에 비해 건설안전 지식에 대해 구체적이고 정확한 정보를 제공했다. 또한, 정량적 평가측면에서 미세조정된 모델은 GPT-4 모델에 비해 BLEU Score에서 7.5% 높은 점수를 보여주었으며, BERT Similarity 점수에서도 7.21% 높은 점수를 보여주었다. 이러한 점수는 미세조정된 언어모델이 건설현장 안전관리에 기여할 수 있음을 보여주며 건설현장환경에서 발생할 수 있는 다양한 상황과 문제에 효과적이고 신속하게 대응할 것으로 기대된다.

키워드