본문 바로가기

전체 글

공부/AI 2024. 7. 6. [LLM] 다양한 LLM Provider 정리 및 선택 가이드 (ChatGPT, Claude, Gemini, HyperCLOVA, LLaMA 등) 🗒️ LLM Provider 정리 및 선택 가이드(ChatGPT, Claude, Gemini, HyperCLOVA, LLaMA 등)  📌 개요  ChatGPT, Claude, Gemini, HyperCLOVA, LLaMA 등 수많은 고성능의 LLM이 등장하면서 모델 선택지가 넓어졌다. 그러나 동시에 어떤 모델을 써야할 지 고민이 되는 것도 사실이다. 모델마다 태스크 퍼포먼스, 응답 속도, 비용 등이 다르기 때문에 용도나 가용 자원에 맞는 LLM을 고르는 것이 중요하다. 그래서 이번 포스팅에서는 LLM 플래그쉽 모델들을 위주로 비교하여 설명하고자 한다.  📌 어떤 모델을 선택할까?✔ 기준LLM 성능 수준 비교, 특징 및 장단점, 비용, 토큰수, 사용 가능한 툴(인터넷 액세스, 코드 인터프리터, 이미지..
공부/AI 2024. 5. 21. [LLM Evaluation] LLM 성능 평가 방법 : Metric, Benchmark, LLM-as-a-judge 등 🤖 LLM 성능 평가 방법 정리  📌 개요 LLM의 성능을 제대로 측정하는 작업은 모델의 개발 과정뿐만 아니라 수많은 LLM 중 어떤 모델을 선택할 것인지 결정하는 상황에서도 매우 중요하다. 즉, LLM 평가는 개발과 사용 측면에서 모두 중요한 작업이므로 이번 포스팅에서는 LLM 성능 평가 방법에 대하여 포괄적으로 정리해보고자 한다. 이 때, LLM 성능 평가 방식을 크게 Performance Metrics, Benchmarks, Human Evaluation , Model-based Evaluation, Evaluation Frameworks 5가지로 나누어 살펴볼 것이다.  📌 목차 1. LLM 성능 평가 방식(1) : Performance Metrics    1) 통계적인 방식: BLEU, R..
공부/AI 2024. 5. 12. [회고] 글또 9기 : 개발자 글쓰기 모임을 통해 어떤 것을 얻었을까? 📝 글또 9기 회고 : 개발자 글쓰기 모임을 통하여 얻은 것 📌 목차 1. 글또 소개 및 참여 계기 2. 글또 활동을 하면서 쓴 글 돌아보기 3. 글또 활동을 통해 어떤 것을 얻었을까? - 네트워킹(커피챗, 반상회, 모각작, 모각코 등) - 2024년 2월 네이버 Nclouder - 내가 하고 싶은 일에 대한 정의 - 지속적으로 글을 쓰고 공유하는 것의 가치 4. 마무리 📌 글또 소개 및 참여 계기 ‘글쓰는 또라이가 세상을 바꾼다(이하 글또)’는 개발 및 AI, 데이터 직군에 있는 사람들이 2주에 한번씩 기술 블로그에 글을 쓰며, 좋은 영향을 주고 서로 같이 자랄 수 있는 커뮤니티이다. 나는 지난 2023년 12월부터 2024년 4월까지 5개월간 글또 9기에 참여하였다. 9기에는 총 450명이 참여하였다..
공부/AI 2024. 4. 4. [Project] 프롬프트 엔지니어링 사이드 프로젝트 개발기 🚀 Prompt Enhancer (프롬프트 엔지니어링 자동화 AI 툴) 사이드 프로젝트 개발기 얼마 전에 사이드 프로젝트로 프롬프트 엔지니어링을 자동화할 수 있는 툴을 개발해보았다. 그래서 사이드 프로젝트를 진행하면서 문제 정의와 해결 과정, 앞으로 추가적으로 보완하고 싶은 점들에 대한 회고를 해보고자 한다. 📌 프로젝트 소개, 깃허브 및 링크 프로젝트 깃허브 : https://github.com/lim-hyo-jeong/Prompt-Enhancer ⭐ 프로젝트 링크 : https://prompt-enhancer.streamlit.app/ Prompt Enhancer는 최신 논문 연구 결과에서 검증된 프롬프트 엔지니어링 스킬들을 곧바로 사용해볼 수 있는 프롬프트 엔지니어링 자동화 툴이다. 또한 사용자가 ..
공부/AI 2024. 3. 11. [논문리뷰] Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4 (2024) 📚 효과적인 프롬프트 엔지니어링의 26가지 원칙 최근 발표된 프롬프트 엔지니어링 관련 논문 'Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4'에 대하여 리뷰해보면서, 논문에서 제시된 효과적인 프롬프트 엔지니어링의 26가지 원칙과 각 원칙별 프롬프트 예시를 소개하고자 한다. 📌 목차 1. 논문 요약 2. 프롬프트 엔지니어링 26가지 원칙 3. 프롬프트 엔지니어링 26가지 원칙별 예시 (feat. ATLAS 벤치마크) 4. 프롬프트 엔지니어링의 효과 (실험 결과) 📌 논문 요약 프롬프트 엔지니어링 26가지 원칙 제시 이 논문에서는 프롬프트 엔지니어링을 통하여 GPT, LLaMA 등의 대형 언어모델의 잠재력을 최대한 끌..
공부/AI 2024. 2. 18. [Prompt] 프롬프트 엔지니어는 어떤 일을 할까? 나의 업무 소개 프롬프트 엔지니어링이란? 프롬프트 엔지니어의 업무 📌 개요  나는 현재 LLM 프롬프트 엔지니어로 근무하고 있다. 프롬프트 엔지니어라는 직무가 비교적 최근에 생긴 일이고 아직 많은 기업에서 채용하는 포지션이 아니다보니, 링크드인 메시지나 이메일 등으로 ‘프롬프트 엔지니어는 어떤 일을 하는지’에 대한 질문을 해주시는 분들이 꽤 계셨다. 그리고 우리 회사에서는 매달 technical review라는 기술 공유 발표를 하는데, 나는 지난 12월에 technical review에서 프롬프트 엔지니어링에 대한 발표를 했었기 때문에 그 때 작성한 자료들을 기반으로 프롬프트 엔지니어의 업무에 대하여 궁금하신 분들에게 답변이 될만한 포스팅을 작성해보고자 한다.  📌 목차 1. 프롬프트 엔지니어링의 이해..
공부/AI 2024. 2. 2. [해커톤] 포텐데이 x 네이버 클로바 스튜디오 : 고민에 대한 답을 시로 써주는 <곰곰시인> AI 서비스 개발 🍀 비사이드 포텐데이 해커톤 후기, 네이버 하이퍼클로바 X 기반 AI 서비스 개발지난 12월 10일~19일까지 열흘동안 포텐데이 x 클로바 스튜디오 해커톤에 참여했다. 정말 재미있게 참여했고 우리 팀원들과 사용자의 고민에 시 또는 N행시로 답변해주는 이라는 AI 서비스를 기획, 개발 및 배포하였다. 벌써 한달이 넘게 지났는데 뒷북 후기를 작성해본다. 📌 프로젝트 깃허브, 노션 및 배포 링크프로젝트 깃허브 : https://github.com/potenday-project/GomGomPoet 프로젝트 노션 : https://shell-allosaurus-876.notion.site/8c60e6d4f5654fc0a11f272428a6f581 ⭐ 프로젝트 링크 : https://gomgom-poet.co.kr..
공부/AI 2024. 1. 19. [chatGPT] 커스텀 GPTs : actions 활용하여 GPT에 외부 API 연결하는 방법 (구글 스프레드 시트 연동) GPTs actions 활용하여 외부 API 연결하는 방법, GPT에 구글 스프레드 시트 연결하여 주식 포트폴리오 분석해보기 이번 포스팅에서는 GPT를 커스터마이징할 때 action 기능을 사용하여 외부 API에 연결하는 방법을 다루고자 한다. 참고로 코드 없이 프롬프트만으로 나만의 커스텀 GPTs 만드는 방법은 지난 포스팅에서 다루었다. 📌 목차 1. 주식 포트폴리오 스프레드 시트 만들기 2. Sheety API (구글 스프레드 시트를 연동할 수 있는 외부 API) 사용 방법 3. 주식 포트폴리오를 분석할 GPT configuration 4. GPTs의 actions 기능을 통해 외부 API를 연결 (OpenAI schema 설계) 5. 나만의 GPT로 주식 포트폴리오 분석하기 📌 주식 포트폴리오 스프..

티스토리툴바