[SKN FAMILY AI CAMP]/주간

🐉 SKN FAMILY AI CAMP 13기 11주차 후기 (2025.06.02 ~ 2025.06.05)

ki-june 2025. 6. 5. 19:44

📍 간단 후기

 

 

 

🏷️ 수업

 

허깅페이스와 Langchain에 대해 학습을 진행했다. 이번 주차는 사실 API KEY를 다루는 수업을 주로 하다 보니, 기존의 이론 수업 보다는 실전에 가까운 수업을 했다고 생각이 들었다.

 

 

🏷️ 코딩 테스트 스터디

 

부득이하게 월요일이 아닌 목요일에 스터디를 진행했다. 시간적 여유가 있었기에 문제 난이도를 조금 높여보았다. Greedy Algorithm과 DFS나 BFS를 이용하여 풀 만한 문제를 배부했다. 나도 풀면서 해당 알고리즘을 다시 찾아보면서 풀어볼 수 있는 시간이 되어 좋았다.

 

 

 

 


 

📍 좋았던 점

 

 

  • API KEY의 활용

API KEY 확인 예시

 

API KEY나, Access Token 값들은 개인정보와도 같은 중요하게 관리해야 될 값들이다. 이에 따라 .env파일을 생성해 그곳에 Key-Value 형태의 값으로 입력한다. .env 파일을 읽어주기 위해서 dotenv라는 라이브러리를 사용하는 것이다. 위 이미지를 보면 알 수 있듯이, 해당 값이 True로 나와야 정상적으로 .env 파일의 값을 인식하는 것이다.

 

 

활용 예시

 

우리 과정에서는 OpenAI를 사용했다. OpenAI는 유료버전이라, $20를 결제했다.(해당 금액은 지원받는다는 점!)

결제를 하고 API KEY를 받아 ChatOpenAI라는 함수를 통해 model의 이름을 지정한다. 이후 invoke 모듈을 통해 질문하고 답변받는 형태로 실습을 진행했다.

 

 

prompt를 통한 답변 생성

 

단순히 model 이름만 지정하는 것이 아닌, temperature와 max_token과 같이 변수를 지정해주어 해당 모델에게 어떤 형식으로 대답하라고 지정하는 방법도 존재한다.

 

 

 

이번 LLM을 학습하며 소개받은 플랫폼은 다음과 같다.

  • OpenAI - GPT_4o
  • Anthropic - Claude
  • Hugging Face - 자료 다운 및 활용
  • Ollama - llama3.2
  • Google - Gemini

위 플랫폼의 모델들에서도 같은 과정을 반복하면서 활용해보는 작업을 진행했다.

 

 

 


 

📍 부족한 점

 

 

  • 전이 학습

Fine Tunig의 3가지 전략

 

크게 보면 Pre-trained model의 사용방식은 크게 3가지로 나뉜다.

  • Zeroshot Transfer Learning : 추가학습 없이 pre-trained 문제 해결 시 사용
  • Tranfer Learning : pre-trained 모델의 일부분을 재학습한다. 주로 출력 Layer를 학습
  • Fine Tuning : pre-trained 모델을 초기 parameter로 사용하여 새롭게 학습

위 이미지는 Fine Tuning의 3가지 전략 예시 이미지이다. 전이학습은 Classifier는 학습 진행 시 새로운 Classfier로 교체되지만, Feature Extractor(위에서 FE로 표시)는 그대로 전달된다. (이를 Frozen이라고 부른다.)

그러나 Fine Tuning은 Feature Extractor를 얼마나 학습시키는지에 따라 크게 3가지로 나뉜다. 데이터셋의 크기, class간의 유사도에 따라 선택되는 전략이 다르다.

 

 

 

 


 

📍 성찰 및 마무리

 

 

11주차는 총 3일의 시간이 있었다. 그러나 API활용하면서 좀 재밌었던 시간이었다.  개념도 개념이지만, 직접 프롬프트 엔지니어링에 대한 개념까지 정립하면서 활용해보니까 뜻깊었다. 앞으로 LLM을 활용함에 있어 좀 더 재미를 가지고 임할 수 있을 것 같다.

 

코딩 테스트 스터디는 자료구조부터 시작하려 한다. 따라서 다음 스터디의 주제는 '자료구조'이다. 카테고리를 정해놓고 시작해야 개념정립도 차근차근된다고 생각한다.

 

나중에 훨씬 더 발전할 나의 모습을 상상하며 이번 주차도 마무리해본다.