top of page
최신 기술 콘텐츠


LLM 기술의 신뢰성의 핵심: LLM 결과 평가
본 글은 AssistAce 를 이용하여 영문에서 한글로 번역되었습니다. Large Language Models (LLM)의 기술적 발전은 텍스트 생성, 번역, 챗봇 등 다양한 분야에서 핵심 기술로 자리매김하게 하였다. 맥락 이해와 자연어 생성 능력의 향상, 세밀 조정 API와 플러그인의 지원은 개인의 창의성과 학습에 큰 이익을 가져다준다. 하지만, 그들의 출력물의 품질 평가는 여전히 중요한 도전 과제로 남아있다. 이 포스트에서는 LLM 결과의 평가의 중요성, LLM 평가와 LLM 기반 시스템 평가의 차이, 그리고 LLM 결과 평가의 유형, 방법, 지표에 대해 설명한다. LLM 결과 평가의 중요성 LLM 결과를 평가하는 것은 여러 가지 이유로 중요하다: LLM 성능 개선 : LLM 결과를 평가함으로써 LLM 모델의 장점과 약점을 파악하고 이를 활용하여 성능을 향상시킬 수 있다. 평가 결과는 모델 학습 접근법, 데이터셋 구성, 하이퍼파라미터 조정의 개


2024 AI 주도 UX 디자인 트렌드: 기술 혁신으로 UX의 미래를 창조하다
본 글은 AssistAce 를 이용하여 영문에서 한글로 번역되었습니다. 2024년이 시작되면서, UX 디자인의 세계는 AI의 진보에 힘입어 혁명적인 변모를 겪고 있습니다. AI와 UX 디자인의 결합은 전통적인 접근방식을 넘어서, UX를 구상하고 제공하는 방식에 근본적인 변화를 가져오고 있습니다. 이는 더욱 동적이고 AI 중심의 방식으로의 전환을 의미합니다. 디지털 환경을 재형성하며, 혁신적인 해결책과 더욱 향상된 UX를 선사하는 AI 주도 UX 디자인의 주요 다섯 가지 트렌드를 종합적으로 살펴보겠습니다. 예측 분석을 활용한 맞춤형 UX: AI가 주도하는 예측 분석은 UX 디자인에서 새로운 수준의 개인화를 가능하게 합니다. 이 알고리즘들은 사용자의 행동, 취향, 그리고 과거 상호작용을 분석하여 미래의 행동을 예측합니다. 이 트렌드는 상품 추천을 위한 전자상거래 플랫폼과 콘텐츠 제안을 위한 스트리밍 서비스에서 널리 보이며, 개인의 선호에 맞춰 UX를


기업들이 온디바이스 AI에 주목하는 이유와 미래 전망
온디바이스 AI란? 인공지능(AI) 기술이 빠른 속도로 발전하면서 우리 일상에 많은 변화를 가져오고 있다. 이러한 변화의 한 축을 이루는 '온디바이스 AI'는 2024년에 크게 주목받는 혁신 기술 중 하나이다. 이 기술은 사용자의 기기 내에서 AI 연산을 직접 수행함으로써, 개인정보 보호, 낮은 지연 시간, 인터넷 연결 의존도 감소 등의 이점을 제공한다. 클라우드 기반 AI와 대비하여 온디바이스 AI는 기기 내에서 데이터를 실시간으로 처리하는 강점을 지니고 있다. 이러한 강점 덕분에, 이 기술은 스마트폰부터 웨어러블 기기, 가정용 스마트 기기 등 다양한 분야에 활용되며, 이를 통해 사용자 경험을 더욱 풍부하게 하고 기기의 자율성을 높일 것으로 기대된다. 특히 온디바이스 AI의 발전은 개인 정보 보호와 데이터 보안이 중요해진 현재의 디지털 환경에서 큰 의미를 가진다. 사용자 데이터가 기기 내에서만 처리되기 때문에, 보안과 프라이버시 측면에서 상당한


AI: 웹 3.0의 혁명을 주도하는 힘
본 글은 AssistAce 를 이용하여 영문에서 한글로 번역되었습니다. 질문: Web 3.0은 AI에 의해 구동되는가? 네, Web 3.0이 부분적으로 AI에 의해 구동된다고 말할 수 있습니다. AI는 Web 3.0의 많은 측면에서 중요한 추진력이며, 그것의 능력을 향상시키고 더욱 지능적이고 반응적인, 개인화된 웹의 실현을 가능하게 합니다. 그러나, Web 3.0은 AI만을 포함한 것이 아닌 웹의 다면적인 진화라는 것을 인식하는 것이 중요합니다. 그것은 블록체인, 분산 네트워크, 사물인터넷(IoT) 등의 기술을 통합하여 Web 3.0 패러다임을 공동으로 정의합니다. 디지털 혁신의 다이나믹한 풍경에서, 인공 지능(AI)은 웹 3.0의 발전을 추진하는 중추적인 역할을 하는 것으로 등장하였습니다. 이 최신 버전의 인터넷은 종종 Semantic Web으로 알려져 있으며, 보다 상호 연결되고, 지능적이며, 사용자 중심의 온라인 경험으로의 변혁적인 도약을
![[Project Log] AI 인프라 구축 사례: NVIDIA H100 SXM5](https://static.wixstatic.com/media/2ea07e_2cd726d30ca2444d9e3f7585ee4672f5~mv2.webp/v1/fill/w_444,h_250,al_c,q_30,blur_30,enc_avif,quality_auto/2ea07e_2cd726d30ca2444d9e3f7585ee4672f5~mv2.webp)
![[Project Log] AI 인프라 구축 사례: NVIDIA H100 SXM5](https://static.wixstatic.com/media/2ea07e_2cd726d30ca2444d9e3f7585ee4672f5~mv2.webp/v1/fill/w_300,h_169,al_c,q_90,enc_avif,quality_auto/2ea07e_2cd726d30ca2444d9e3f7585ee4672f5~mv2.webp)
[Project Log] AI 인프라 구축 사례: NVIDIA H100 SXM5
배경 AI산업이 급성장함에 따라, 온프레미스 AI 인프라 구축사례가 지속 증가하고 있습니다. 저희 테크에이스는 컴퓨팅 솔루션 전문 기업 에이맥스와의 파트너쉽을 통하여, 엔비디아의 고성능 텐서 코어 장비인 H100, A100 모델 등을 정부기관 및 산업체에 공급 하고 있습니다. 특히 고사양 HPC의 경우 발주부터 설치까지의 리드타임이 최대 52주 이상 발생되는 상황이지만, 저희 테크에이스는 미국 워싱턴에 본사를 두고 20년이상 영업망을 구축하고 있기에, 보다 빠르게 제품을 확보하여 적기에 공급하고 있습니다. 아울러 AI 인프라 구축시 수반되는 물류 관리, 전력 및 공간을 포함한 환경셋업, 스펙 및 기능점검, 클러스터링, 모니터링 등 설치 및 운영 작업에 대한 전문적 컨설팅과 기술 지원까지 제공하고 있습니다. 이번 아티클에서는 H100 장비의 주문, 배송 및 설치 작업이 어떻게 진행되는지에 대한 실제 고객납품 사례를 바탕으로 설명해 드리고자 합니다.
![[Case Study] 사용자 데이터 기반 파인튜닝 방식을 활용한 기업용 전문 번역 모델 생성](https://static.wixstatic.com/media/2ea07e_3d825a58a1cd4746b16020db9a487dfa~mv2.webp/v1/fill/w_444,h_250,al_c,q_30,blur_30,enc_avif,quality_auto/2ea07e_3d825a58a1cd4746b16020db9a487dfa~mv2.webp)
![[Case Study] 사용자 데이터 기반 파인튜닝 방식을 활용한 기업용 전문 번역 모델 생성](https://static.wixstatic.com/media/2ea07e_3d825a58a1cd4746b16020db9a487dfa~mv2.webp/v1/fill/w_300,h_169,al_c,q_90,enc_avif,quality_auto/2ea07e_3d825a58a1cd4746b16020db9a487dfa~mv2.webp)
[Case Study] 사용자 데이터 기반 파인튜닝 방식을 활용한 기업용 전문 번역 모델 생성
개요: TecAce는 AI 기술을 활용하여 업무 생산성을 향상시킬 수 있는 AI 서비스 개발을 선도하고 있습니다. 우리는 생성형 AI를 사용하여 문서를 원하는 형태로 변환하고 요약하는 기술과 이를 번역에도 적용하여 전문 영역에서의 번역 서비스를 제공하고 있습니다. 또한 생성형 AI의 결과물을 평가하고 분석하는 자체 기술을 통해, 기업과 전문 분야에서 신뢰할 수 있는 서비스를 제공하는 전문 AI 기술 개발 업체입니다. 도전: 최근 다양한 고객사로부터 번역과 관련된 요청을 다수 접하고 있습니다. 고객들은 생성형 AI를 활용하여 보다 빠르고 효율적인 결과를 기대하고 있습니다. 하지만, ChatGPT, Bard, Naver Clova 등을 직접 사용해본 결과, 전반적으로 만족스럽지만 업무에는 적용이 어렵다고 입을 모읍니다. 특히 전문 분야에서 잘못된 번역이 기업의 신뢰성에 부정적인 영향을 미칠 수 있기 때문에, 생성 AI의 잠재력을 인식하고 있음에도 불구
![[ACEAI] 백엔드 개발자 JAMAL님 인터뷰](https://static.wixstatic.com/media/2ea07e_8f2115f4b7f2455a80b96633b4026d7f~mv2.webp/v1/fill/w_444,h_250,al_c,q_30,blur_30,enc_avif,quality_auto/2ea07e_8f2115f4b7f2455a80b96633b4026d7f~mv2.webp)
![[ACEAI] 백엔드 개발자 JAMAL님 인터뷰](https://static.wixstatic.com/media/2ea07e_8f2115f4b7f2455a80b96633b4026d7f~mv2.webp/v1/fill/w_300,h_169,al_c,q_90,enc_avif,quality_auto/2ea07e_8f2115f4b7f2455a80b96633b4026d7f~mv2.webp)
[ACEAI] 백엔드 개발자 JAMAL님 인터뷰
ACEAI 개발에 힘을 써주신 챗자말님 1. AceAI AI POC와 뉴스 요약 서비스 백엔드 개발을 담당하면서 가장 핵심이 되었던 기술에 대해 소개해주세요! AceAI의 두 가지 서비스를 제작하면서 가장 핵심이 되었던 기술은 ‘prompt engineering(프롬프트 엔지니어링)’입니다. 프롬프트 엔지니어링은 언어 모델의 응답을 최적화하기 위해 입력 문장을 조정하는 기술입니다. 다양한 프롬프트 메세지를 주어 최적의 응답을 받을 수 있는 메세지를 찾기 위해 노력했습니다. 프롬프트 엔지니어링을 통해 GPT-4 모델 사용의 효율성과 정확성을 높이는 데 집중했습니다. 2. 개발하면서 특별히 신경을 쓴 부분이 있으신가요? 아무래도 정확성을 높이기 위해 신경을 많이 썼습니다. 다양한 prompt engineering을 시도하면서 사용자가 질문을 했을 때 원하는 답변을 얻을 수 있도록 노력했습니다. 다양한 문서를 참고했는데 그중 Brex’s prompt e


2023 AI 박람회 관람
오늘 제 6회 AI EXPO KOREA2023에 다녀왔다😎😎 이번 박람회의 목적은 AI산업에 대한 조사 및 이해도 높이기📈📊 아침부터 사람이 많았는데 오후에 나올 때쯤엔 사람이 더 많았다 2-3주 전에 월드IT쇼에 다녀왔던 기억이 새록새록 났다 (같은 기업들이 두 번 다 참여하는 곳들이 몇 군데 있었던 것 같다) PDF로 전자책이나 학습자료를 올리면 툴을 가지고 원하는 공간에 질문을 만들 수 있고 채점 기준표도 직접 제작할 수 있다. 그리고 원하는 위치에 동영상도 넣는 기능이 있다. 너무너무너무 유익해보였다🥰🥰 그리고 이 회사에서 음성 인식 기술도 꽤나 높은 정확도를 갖고 검사하고 있어서 아래와 같이 영어 문장 발음 학습도 가능했다. I think you should go to the dentist. ↗️↘️↗️↗️↘️ 음성 인식을 바탕으로 경찰청에서 취조실에서 녹음기 기능을 켜 두면 피고인과 경찰 사이의 대화가 다른 목소리로 분류되는
SECURE YOUR BUSINESS TODAY
bottom of page