LATEST TECH ARTICLES

백서 AI 산업의 안정성과 위협에 대한 보완 방안: 독립적인 AI 감리 기관 도입의 필요성 한창환, 김성진, 이은석, 이한수, 김융 2024년 7월 8일 목차 서론 AI 기술의 불확실성과 비신뢰성 문제 건설 산업의 시공사-감리사 모델 독립적인 AI 감리 기관의 필요성 AI 감리 기관의 역할과 책임 정책적 보완 방안 적용 가능 사례 연구 결론 서론 AI 기술이 빠르게 발전하면서 다양한 산업에서 혁신적인 변화를 주도하고 있습니다. 그러나 AI 시스템의 불확실성과 비신뢰성은 그 자체로 큰 위협이 되고 있습니다. 본 백서에서는 이러한 문제를 해결하기 위해 독립적인 AI 감리 기관의 도입 필요성을 제안합니다. 이를 통해 AI 기술의 안정성과 신뢰성을 확보하고, AI 산업의 지속 가능한 발전을 도모하고자 합니다. AI 기술의   불확실성과   비신뢰성   문제 AI 시스템은 복잡한 알고리즘과 대규모 데이터에 기반하여 작동합니다. 이러한 특성으로 인해 다음과

A white paper on the Enhancing AI Industry Stability and Mitigating Threats: The Necessity of Independent AI Supervision Institutions Author: Chang Han, Sungjin (James) Kim, Eun Seok Lee, Hansoo Lee, and Yung Kim Date: July 8, 2024 Table of Contents Introduction Issues of Uncertainty and Unreliability in AI Technology Construction Industry's Contractor-Supervisor Model The Need for Independent AI Supervision Institutions Roles and Responsibilities of AI Supervision Institutio

The following text has been translated from Korean to English using AssistAce . Sungjin (James) Kim, Ph.D. | LinkedIn  | YouTube Case Study of Translation LLM Fine-Tuning Introduction The technology of Large Language Models (LLMs) is advancing rapidly. There are various ways to utilize LLMs, including prompting, embedding, and fine-tuning. In this article, we will focus on fine-tuning, which requires a significant amount of GPU computing resources. While it is possible to sec

Sungjin (James) Kim, Ph.D. | LinkedIn  | YouTube 번역 전문 LLM 파인튜닝 사례 들어가기 거대언어모델 (Large Language Model; LLM) 기술이 날로 발전하고 있다. LLM을 활용하는 방법은 여러가지가 있으며 활용하기 위한 기본 방법으로는 프롬프팅, 임베딩, 파인튜닝 등이 있다. 이 글에서는 이 중에 GPU 컴퓨팅 리소스를 많이 필요로 하는 파인튜닝 방법을 다루고자 한다. 고성능 컴퓨팅 리소스는 디바이스로 확보해서 사용할 수도 있지만 클라우드 환경에서 사용한다면 좀 더 번거러움을 줄일 수 있는 장점이 있다. 이런 상황에 맞추어 클라우드에서 AI 학습과 추론을 편하게 할 수 있는 특화된 클라우드 서비스들이 많이 나오고 있다. Vessl은 그 중의 하나로 LLM을 비롯한 생성AI를 다루는 부분도 기본적으로 고려되고 있는 서비스이다[1]. 이 글에서는 LLM 중의 하나인 M2M100 모델을 Vessl

최근 LLM을 활용한 AI 솔루션 중 가장 쉽게 도움을 받을 수 있는 기능 중 하나는 단연 요약 (Summary) 기능입니다. 긴 문서나 이해하기 어려운 문서를 짧고 이해하기 쉬운 내용으로 요약할 수 있다는 점에서 매우 유용합니다 . 이 기능은 이미 널리 활용되고 있으며, 뉴스, PDF문서, 웹페이지 등 다양한 형태의 문서 요약에 쉽게 접근할 수 있습니다. Challenge 요약에 대한 고객들의 피드백을 통해 알 수 있듯, 요약기능에도 고개의 다양한 기대가 있음을 알 수 있었습니다. 일부 고객은 뉴스 요약을 원하고 다른 고객들은 기술 문서나 수 많은 제품 리뷰 등을 간단히 정리하길 원합니다. 또한 요약본이 누구에 의해 읽히느냐, 어떤 목적으로 사용되느냐 에 따라 요약본의 만족도를 상대적으로 평가할 필요가 있습니다. 정리하자면 아래의 요소들에 의해 요약본은 다르게 생성되어야 합니다. 문서의 종류 ex) 기술문서, 뉴스, 제품 리뷰, 인터뷰(회의록),

The following text has been translated from Korean to English using AssistAce . One of the easiest AI solutions to help with LLM...

The following text has been translated from Korean to English using AssistAce . What is RAG? The importance of data in the business environment is growing. Companies face many challenges in effectively managing vast data and making strategic decisions based on it. In this situation, the Retrieval-Augmented Generation (RAG) technology is attracting attention. RAG is a form of machine learning that combines data retrieval and information creation to provide more accurate and re

RAG란? 비즈니스 환경에서 데이터의 중요성이 갈수록 커지고 있다. 기업들은 방대한 데이터를 효과적으로 관리하고, 이를 기반으로 전략적 결정을 내리는 과정에서 많은 도전에 직면한다. 이런 상황에서 검색 증강 생성(Retrieval-Augmented Generation, RAG) 기술이 눈길을 끌고 있다. RAG는 데이터 검색과 정보 생성을 결합하여 사용자의 질문에 대한 보다 정확하고 관련성 높은 답변을 제공하는 머신 러닝의 한 형태다. 자연어 처리(NLP) 분야에서 특히 주목받는 RAG는 기존의 모델이 학습한 정보에만 의존하는 대신, 관련 정보를 검색해 모델 입력에 추가하는 방식으로 작동한다. 이 방식을 통해, 모델은 새로운 질문이나 문제에 대응할 때 외부에서 검색한 정보를 참조함으로써 더 정확하고 다양한 답변을 생성할 수 있다. 대규모 언어 모델(Large Language Models, LLMs)의 기능을 특정 도메인이나 조직의 내부 지식 베이스

Sungjin (James) Kim, Ph.D. | LinkedIn  | YouTube 목차 들어가며 트랜스포머 구조와 동작 원리 인코더 동작 디코더 동작 트랜스포머 기반 LLM의 종류와 활용 Encoder 단독 방식 Decoder 단독 방식 Encoder-Decoder 방식 최신 방식들 시사점 들어가며 생성형 인공지능 (Generative AI; GenAI) 중의 한가지인 거대언어모델 (Large language model; LLM)은 트랜스포머 구조가 발표되면서 많은 발전이 있어 왔다[1]. 트랜스포머 구조는 2017년 구글이 발표한 "Attention is All You Need" 논문에서 처음 소개되었다. 이 구조는 이전의 시퀀스-투-시퀀스(Sequence-to-Sequence) 모델들과는 다르게, 전체 시퀀스를 한 번에 처리할 수 있는 '어텐션(Attention)' 메커니즘을 중심으로 설계되어 있다 [1, 2, 3]. 이후 GPT가 기본

Sungjin (James) Kim, Ph.D. | LinkedIn Table of Contents Introduction The Structure and Operating Principle of the Transformer Encoder Operation Decoder Operation Types and Applications of Transformer-based LLMs Encoder-Only Approach Decoder-Only Approach Encoder-Decoder Approach Latest Methods Implications Introduction Generative AI (GenAI), including Large Language Models (LLMs), has seen significant advancements since the introduction of the transformer architecture[1]. Int

본 글은 AssistAce 를 이용하여 영문에서 한글로 번역되었습니다. Large Language Models (LLM)의 기술적 발전은 텍스트 생성, 번역, 챗봇 등 다양한 분야에서 핵심 기술로 자리매김하게 하였다. 맥락 이해와 자연어 생성 능력의 향상, 세밀 조정 API와 플러그인의 지원은 개인의 창의성과 학습에 큰 이익을 가져다준다. 하지만, 그들의 출력물의 품질 평가는 여전히 중요한 도전 과제로 남아있다. 이 포스트에서는 LLM 결과의 평가의 중요성, LLM 평가와 LLM 기반 시스템 평가의 차이, 그리고 LLM 결과 평가의 유형, 방법, 지표에 대해 설명한다. LLM 결과 평가의 중요성 LLM 결과를 평가하는 것은 여러 가지 이유로 중요하다: LLM 성능 개선 : LLM 결과를 평가함으로써 LLM 모델의 장점과 약점을 파악하고 이를 활용하여 성능을 향상시킬 수 있다. 평가 결과는 모델 학습 접근법, 데이터셋 구성, 하이퍼파라미터 조정의 개

The technological advancements in Large Language Models (LLM) have established them as a cornerstone technology in various fields such as text generation, translation, and chatbots. Improvements in context understanding and natural language generation abilities, along with the support of fine-tuning APIs and plug-ins, significantly benefit individual creativity and learning. However, the quality evaluation of their outputs remains a critical challenge. This post discusses the

Status In the AI realm, the GPU landscape is starkly divided. The technological landscape is increasingly being divided into two distinct categories: 'GPU rich' and 'GPU poor'. This division, predominantly seen in the AI industry, is creating a significant gap in capabilities and advancements between different companies and regions. This gap is primarily due to the unequal distribution and accessibility of Graphics Processing Units (GPUs). Giants like Google, Microsoft, and M

Graphics processing units (GPUs) are specialized hardware devices that are designed to perform complex calculations for rendering graphics, such as 3D models, animations, and video games. GPUs are also used for other applications that require high-performance computing, such as artificial intelligence, machine learning, and cryptocurrency mining. However, in recent years, the demand for GPUs has far exceeded the supply, leading to a global shortage that has frustrated many co

Artificial intelligence (AI) is a fast-growing and influential field of technology that can transform various industries and enhance human capabilities. Many companies are investing in AI research and development, aiming to create innovative products and services that can solve complex problems. Here are 10 of the most promising AI companies in 2023, based on their innovation, funding, valuation, and impact. OpenAI OpenAI is a non-profit research organization that aims to cre

In the recent case study discussion , we deliberated on numerous concepts and innovative strategies. Out of those, one stood out exceptionally, leading us to our next innovative journey. Today, we proudly unveil the culmination of our efforts: the proof of concept (PoC) for AssistAce News Summary. Initially conceptualized to fulfill a specific request from a distinguished client, the vast potential of the tool became evident to us. As valued contributors to our growing commun

Introduction As we venture further into the digital age, the significance of Generative AI, specifically the LLM, in a multitude of...

안녕하세요🥰 오늘은 ACE AI 프로젝트 PM LUKE님의 인터뷰를 가져왔습니다. 저희 팀장님을 하나의 키워드로 소개하자면, 따뜻한 마음을 가진 로봇 이라고 소개할 수 있을 것 같습니다🤖 저희 프로젝트의 개요에 대해 재미있게 풀어보려고 노력했으니까 집중해서 읽어주세요.☺️☺️ Stay focused  👋 오늘의 인터뷰는 여기서 마무리합니다. 다음 편은 개발팀 인터뷰 로 이어집니다. 많관부😎 ✏️ 테크에이스 채용은 원티드로 https://www.wanted.co.kr/company/30097 https://tecace.com/work

Paper Quilling /imagine prompt: a man on a rock looking out at the planets, paper quilling —v 5.2 Clay Render /imagine prompt: a man on a rock looking out at the planets, clay render —v 5.2 Bone Carving /imagine prompt: a man on a rock looking out at the planets, bone carving —v 5.2 Paper Cut /imagine prompt: a man on a rock looking out at the planets, paper cut —v 5.2 Stained Glass /imagine prompt: a man on a rock looking out at the planets, stained glass —v 5.2 Marble Statu

We live in an era overflowing with new information and knowledge. Among them, the ability to find and utilize information that we’re curious about or need is increasingly establishing itself as a crucial competitive advantage. Until recently, we relied on web searches, but now, with the emergence of chatbots based on large language models like ChatGPT (LLM-chatbots), the way we seek information is changing. This is because you can now directly ask LLM chatbots in natural lang