1. LLM은 학습 데이터 기반 패턴 예측으로 답변 생성. 2. LLM 작동 방식: ● 입력 텍스트를 토큰화하여 모델에 전달. 토큰은 단어, 구두점, 또는 단어의 일부분일 수 있음. ● 모델은 입력된 토큰을 벡터 임베딩으로 변환하여 텍스트의 의미와 문맥 파악. ● 어텐션 메커니즘을 사용하여 문장 내 단어 간의 관계 분석 및 장거리 의존성 파악. ● 디코딩 전략을 통해 다음에 올 단어 예측 및 텍스트 생성. 다양한 디코딩 전략 존재: - Greedy Search: 가장 확률이 높은 단어 선택. - Beam Search: 여러 가능한 단어 시퀀스 고려. - Top-k Sampling: 상위 k개 확률이 높은 단어에서 샘플링. ● 생성된 텍스트는 문맥에 맞춰 일관성 있는 결과물을 생성. 3. 학습 과정: ● 대량의 텍스트 데이터책, 기사, 웹사이트 등를 사용하여 사전 훈련. 데이터 과학자는 오류, 중복, 불필요한 콘텐츠 제거를 위해 데이터 정제 및 전처리 진행. ● 모델은 unsupervised learning을 통해 단어 간의 통계적 관계와 문맥 학습. ● 특정 작업번역, 요약 등에 맞게 labeled 데이터로 fine-tuning 진행. ● Reinforcement learning from human feedback RLHF를 사용하여 모델 출력을 개선. 4. 샘플링은 LLM이 텍스트를 생성하는 핵심 과정이며, 확률 분포를 기반으로 다음에 올 단어토큰를 선택. 모델은 입력 분석 후 어휘집의 각 단어에 대한 점수 목록인 로짓 벡터를 계산. 점수는 softmax 함수를 거쳐 확률로 변환되고, 모델은 이 확률을 기반으로 다음 토큰을 선택. 5. LLM은 텍스트 생성 시 다양한 기술 활용: ● Transformer 모델: self-attention 메커니즘을 사용하여 단어 간의 관계와 문맥 이해. ● Autoregressive 모델: 훈련 데이터에서 얻은 예측을 기반으로 응답에 가장 적합한 단어 결정. ● Deep learning: neural networks를 사용하여 훈련 데이터에 대한 자체 응답을 분석하고 더 나은 답변을 제공하는 방법 학습. 6. LLM은 방대한 텍스트 데이터에서 패턴을 학습하고, 학습된 패턴을 기반으로 다음에 올 단어나 아이디어를 예측하여 답변을 생성. LLM은 정보를 암기하는 대신, 언어 자체에 내재된 패턴을 학습하고 단어 간의 연결, 아이디어 구성 방식 등을 학습. 7. LLM의 한계: ● Hallucination: 모델이 거짓 또는 오해의 소지가 있는 정보 생성. ● Bias: 훈련 데이터에 존재하는 편향 반영. ● 높은 계산 비용. 8. 텍스트 생성 종류: ● Open-ended 텍스트 생성: 주어진 프롬프트를 기반으로 새로운 텍스트 생성. ● 요약: 긴 텍스트의 축약 버전 생성. ● 번역: 한 언어에서 다른 언어로 텍스트 변환. ● Question Answering: 질문에 대한 답변 생성.