[ACEAI] 백엔드 개발자 JAMAL님 인터뷰

ACEAI 개발에 힘을 써주신 챗자말님

1. AceAI AI POC와 뉴스 요약 서비스 백엔드 개발을 담당하면서 가장 핵심이 되었던 기술에 대해 소개해주세요!

AceAI의 두 가지 서비스를 제작하면서 가장 핵심이 되었던 기술은 ‘prompt engineering(프롬프트 엔지니어링)’입니다. 프롬프트 엔지니어링은 언어 모델의 응답을 최적화하기 위해 입력 문장을 조정하는 기술입니다. 다양한 프롬프트 메세지를 주어 최적의 응답을 받을 수 있는 메세지를 찾기 위해 노력했습니다. 프롬프트 엔지니어링을 통해 GPT-4 모델 사용의 효율성과 정확성을 높이는 데 집중했습니다.

2. 개발하면서 특별히 신경을 쓴 부분이 있으신가요?

아무래도 정확성을 높이기 위해 신경을 많이 썼습니다. 다양한 prompt engineering을 시도하면서 사용자가 질문을 했을 때 원하는 답변을 얻을 수 있도록 노력했습니다. 다양한 문서를 참고했는데 그중 Brex’s prompt engineering guide 라는 사이트가 유용했습니다. 기계가 어떻게 하면 a라는 질문에 대한 b로 답변을 유도하는 방법에 대해서 알려줍니다.

3. 이번 서비스의 추후 활용 계획에 대해서 알려주세요!

’기업의 임원들을 위한 정보 전달 서비스’이기 때문에 다양한 기업들과 미팅을 하면서 서비스를 홍보할 예정입니다.

기타 궁금한 점??

Q1. 글머리 수의 개수에 맞게 요약해 주는 서비스는 어떤 로직으로 구현 되어 있나요? 총알 수를 3개로 설정하면 프롬프트 메세지가 ~을 세 문장으로 요약해 줘. 로 설정됩니다. 이런 메세지로 문장 수를 설정할 수 있습니다.

Q2. 뉴스 요약 서비스에 코난테크놀로지 로고가 들어가는 이유가 있을까요? 요약된 뉴스 기사를 읽어주는 api를 코난테크놀로지에서 제공합니다.

Q3. 뉴스 사이트 선정 기준이 있을까요? 미국에서 사용자가 많고 신뢰도가 높은 서비스 위주로 선정했습니다.

Q4. 뉴스 분석 평가의 accuracy, comprehensiveness, conciseness 등의 평가는 어떻게 이루어지나요? 질문과 산출된 답변을 가지고 GPT에게 해당 항목들에 대한 점수를 부여해달라고 요청하는 방식으로 점수가 매겨집니다.

이번 포스팅은 자말님과 가벼운 인터뷰를 기반으로 제작되었습니다. 더 궁금한 점이 있으시다면 언제든 질문 남겨주시면 답변드린다고 합니다~!