본문 바로가기

반응형

practical AI/ChatGPT

(5)
[chatGPT Prompting] 데이터 구조화하기 [chatGPT Prompting] 데이터 구조화하기 chatGPT를 사용하는 방법 중 하나는 데이터를 테이블로 정리하는 것이다. 예를 들어, 비즈니스 리포트나 뉴스 기사들을 요약해서 스프레드시트나 데이터베이스에 넣는 작업을 chatGPT를 이용해 빠르게 할 수 있다. In a recent business report presentation, the CEO of Zana Corp. highlighted their remarkable growth in the past fiscal year. She shared that the company experienced a 15% increase in revenue, reaching $50 million, with a 12% profit margin ($6 mill..
[chatGPT Prompting] LLM 세팅 [chatGPT Prompting] LLM 세팅 LLM의 결과가 얼마나 랜덤할지는 설정 하이퍼 파라미터의 영향을 받는다. 설정 하이퍼 파라미터는 Temperature, Top p, frequency, presence penalties 등이 있다. chatGPT의 경우 API를 별도로 사용하지 않는 한, 설정 하이퍼파라미터를 수정할 수 없다. Temperature 답변의 랜덤성을 조절하는 설정 하이퍼 파라미터 temperature가 높을수록 예측 불가능하고 창의적인 결과를 낸다. Top p 핵 샘플링 확률의 한계를 설정하고 그 누적 확률을 초과하는 토큰만을 선택한다 선택한 토큰들을 이용해 랜덤한 답변을 생성한다. 예를 들어 top p = 0.9인 경우, 모델은 90%의 확률을 달성하는 가장 가능성 높은 단..
chatGPT(LLM)의 한계점 chatGPT(LLM)의 한계점 1. 답변의 출처를 알 수 없다. 그래서 답변이 틀렸을 수도 있고 맞았을 수도 있다. 탐색증강된 LLM(인터넷 검색이 가능한 LLM)을 이용하면 해당 문제를 해결할 수 있다. 2. 편향 LLM에는 세이프 가드가 있음에도 불구하고 성적, 인종적, 동성애차별적 답변을 할 수 있다. 따라서 고객 대응을 위해, 연구를 위해 LLM을 사용할 경우 주의해야 한다. 3. 환각 LLM이 잘 모르는 것에 대해 질문할 경우 거짓된 답변을 자신있게 대답한다. 4. 수학 LLM은 수학을 못한다. 이 문제는 증강된 LLM을 통해 해결할 수 있다. 5. 프롬프트 해킹 유저가 원하는 답변을 하도록 LLM을 유도할 수 있다. 출처 https://learnprompting.org/ko/docs/basi..
[ChatGPT Prompting] 챗봇을 더 잘 활용하는 법: 프라이밍(점화) 프롬프트 [ChatGPT Prompting] 챗봇을 더 잘 활용하는 방법 GPT3는 메모리가 없는 LLM으로 사용자의 이전 질문을 기억하지 못하지만, ChatGPT와 같은 챗봇은 대화 내역을 기억한다. 챗봇의 진정한 가치는 좋은 프롬프트를 사용할 때에만 접근할 수 있다. 그렇다면 어떻게 해야 챗봇을 더 잘 활용할 수 있을까? 챗봇을 더 잘 활용하는 방법은 크게 프롬프트 수정, 프라이밍 프롬프트가 있다. 1. 프롬프트 수정하기 스타일 가이드 AI에게 특정 스타일로 말하도록 요청하는 것. 스타일 안내가 없을 경우 chatGPT는 몇 단락 형태의 답변을 한다. 필요한 경우 프롬프트 끝에 답변 스타일 관련 내용을 추가해서 더 나은 응답을 하도록 할 수 있다. 어조를 요청할수도 있고, 글머리 기호 목록 등을 요청할 수도 ..
[chatGPT Prompting] Prompting basics 프롬프트 작성법 [chatGPT Prompting] Prompting basics 프롬프팅의 가장 기본적인 내용들을 정리하였다. prompting? AI에게 일을 지시하는 일련의 과정 AI에게 프롬프트(지시)를 제공하여 AI가 일하게 한다. 프롬프트는 간단하게는 하나의 문장, 복잡하게는 여러 줄의 문단이 될 수 있다. 프롬프트를 통해 우리는 뉴스 기사 요약이나, 수학 문제를 해결할 수 있다. 그러나 같은 문제더라도 어떤 프롬프트를 사용하느냐에 따라 chatGPT의 답변이 달라진다. 예를 들어서 What is 965*590?라는 프롬프트를 사용하면 틀린 정답을 말하지만, Make sure your answer is exactly correct. What is 965*590? Make sure your answer is e..

반응형