[API] OpenAI API 가지고 놀기 2탄: 개체명 인식 (NER)

이번 포스트에서는 InstructGPT를 활용해서 개체명 인식 작업을 해보도록 하겠습니다. InstructGPT의 설치 및 OpenAI API키 발급 관련해서는 이전 포스팅을 참고 부탁드리겠습니다:

2023.01.17 - [💻 파이썬] - [API] ChatGPT Python으로 사용해 보기 (수정)

[API] ChatGPT Python으로 사용해보기 (수정)

 

개체명 인식 (Named Entity Recognition)

개체명 인식이란 비정형 텍스트에서 사전에 정의된 카테고리, 분류의 개체를 가져오는 작업입니다. 사전에 정한 카테고리를 바탕으로 필요한 개체명을 가져옴으로써 비정형 데이터를 정형화시키는 일종의 전처리 작업입니다. 아래의 예를 보시면 좀 더 이해가 수월할 것 같습니다:

개체명 인식 예시

여기서 사전에 정의된 카테고리는 [인물, 날짜, 이벤트, 기업, 금액] 이며, 추출된 개체명은 "철수", "어제", "CES 2023", "삼성전자" "100만 원"입니다. 개체명 인식 작업을 통해 비정형 데이터를 아래와 같은 정형화된 데이터로 전처리할 수 있습니다:

카테고리	인물	날짜	이벤트	기업	금액
개체명	철수	어제	CES 2023	삼성전자	100만원

보통 개체명 인식을 위해서는 Pororo와 같은 Python 패키지를 사용하거나, Konlpy와 같은 한국어 토크나이저에 사용자 사전을 추가하기도 합니다. 학습데이터를 사용해서 DL 모델을 돌리기도 하는데 성능이 크게 좋은 편은 아닙니다...

그럼 InstructGPT를 활용해서 NER을 해보도록 하겠습니다

 

소스코드

import os
import openai

openai.api_key = 'OpenAI API Key'

def get_keywords(corpus, max_tokens=100):  
    
    if type(corpus) != str:
        raise TypeError
    else:
        pretext = "A table with extracted named entities from the document below:\n\n" 
        table = "\n\n| Event | Company | Product | Person | Date |"
        corpus =  pretext + corpus + table
        response = openai.Completion.create(
              model="text-davinci-003",
              prompt=corpus,
              temperature=0,
              max_tokens=max_tokens,
              top_p=1.0,
              frequency_penalty=0.0,
              presence_penalty=0.0
            )

        return table+ "\n" + response['choices'][0]['text'].strip()

 

테스트 결과

블룸버그에서 가져온 기사의 일부를 발췌하여 진행한 내용입니다. 아래와 같이 나쁘지 않은 성능의 테스트 결과를 보여줍니다.

InstructGPT NER 테스트 결과

이벤트의 경우에는 애매한 부분이 있지만 틀리지는 않다고 볼 수 있고, 회사도 잘 가져오는 것 같습니다. 다만 줄임말은 잘 알아듣지 못하는 것으로 보입니다. TSMC와 같은 부분은 Ticker카테코리로 설정을 해야 하나 싶습니다. 제품 또한 잘 가져오는 것으로 보입니다. Baseline 모델의 성능 자체는 훌륭하니 fine-tuning만 시킨다면 우수한 NER 모델이 될 수 있는 가능성이 보입니다.