🐉 SKN FAMILY AI CAMP 13기 21주차 후기 (2025.08.11 ~ 2025.08.14)

 

 

📍 간단 후기

 

 

🏷️ 최종 프로젝트

 

최종 프로젝트의 중간발표가 끝났다. 아직 제대로 완성된 결과물이 없어 목업(Mock-up) 데이터로만 시연 영상을 찍었다. 그래도 나름 심사해 주시는 분들께 길을 알려드리는 느낌이 나서 다행이었다. 이제 앞으로 제대로 완성시키기 위해 부단히 노력할 필요가 있다.

중간발표는 생각보다 긴장이 더 됐다. 물론 내가 발표하지 않았지만, 팀원이 발표해도 이렇게 긴장되는 경우는 처음이었다. 그래도 다른 팀들이 발표하는 걸 보다 보니, 다들 중간발표 때까지는 제대로 완성된 결과물 없이 과정을 설명하는 입장이라 위안이 됐다.

앞으로 문서 작업 및 기능 구현에 최선을 다해야 될 것 같다. 또 사용자의 입장에서 어떻게 기능을 구현하면 좋을 지 다시 한번 생각해 봐야겠다.

 

 

 

---

 

 

📍 좋았던 점

 

 

• sLLM 파인튜닝

 

 

 

저번주에 sLLM 파인튜닝 시 고려한 내용은 아래와 같다.

 

1. 하이퍼 파라미터 튜닝
2. system prompt 정교화
3. 데이터 QA쌍에 context값까지 붙여 정제

위 3가지 방법을 다 적용시켜서 파인튜닝한 결과 BertScore 중 F1 Score가 0.18밖에 오르지 않았다. 이는 성능이 향상은 됐지만, 큰 폭은 아니라는 점이다. 그러나 성능이 올라 기분은 좋았다.

그래서 sLLM 성능을 올리기 위해 CoT를 적용시켜볼 예정이다. 이는 Train 데이터인 QA쌍의 A에 reasoning을 포함해 답변을 길게 늘어뜨려 학습을 진행시키는 방식으로 진행한다.

 

예시

• Q: 현대자동차가 지속가능성을 추구하는 이유는?
• A: 지속가능성은 현대자동차의 핵심 철학 중 하나입니다.  
  이는 친환경 기술 개발, 전기차 플랫폼(E-GMP), 탄소 배출 저감 전략과 연결됩니다.  
  따라서 지속가능성은 브랜드 가치와 기술 혁신을 동시에 반영합니다.  
  정답: 친환경 기술과 브랜드 철학 때문입니다.

 

**CoT(Chain of Thought): LLM이 인간과 유사한 방식으로 단계적이고 논리적으로 생각해 결론을 도출하는 방법

 

 

 

• Stable-Diffusion 파인튜닝

 

 

 

이미지 생성 모델인 Stable-Diffusion 모델은 순항 중이다. 품질에 대해 큰 폭으로(sLLM에 비해) 향상 중이다. 이는 Train 데이터 셋을 1800여 개 중 100개만 먼저 해 본 결과다. 그래서 SD에 대해서는 그대로 파인튜닝을 진행할 예정이다.

 

 

 

---

 

 

 

📍 부족한 점

 

 

• sLLM 파인튜닝

 

 

 

처음 파인튜닝했을 때의 결과는 위와 같았다. 처음엔 많이 놀랐다. 무척 좋은 성능이 나왔기 때문이었다. 하지만 아래 결과를 보면 이유가 나온다.

 

 

위 이미지를 보면 알 수 있듯이, 단순 QA로만 프롬프트 텍스트를 만들면 평가가 제대로 되지 않는다. 따라서 test 데이터 셋에 있는 형식에 맞도록 평가를 진행해야 한다. 아래는 개선된 정량평가 결과이다.

 

 

(살짝 보기 힘들지만, 양해 바란다.) 위와 같은 결과가 나왔다. 이때 '아, 이게 맞겠구나!' 싶었다. 이런 결과로 CoT도 고려해보고, 더 나아가 다른 LLM 모델도 고려해봐야 할 필요성을 느꼈다.

 

 

 

• 기능 개선

 

 

중간 발표 피드백 중 Asset Library의 내용이 prototype lab에 연동되었으면 좋겠다는 의견이 나왔다. 이런 생각은 안 해봤다. 우리가 Asset Library를 사용하는 이유는 단지 블로그와 같이 각 개인의 정보 전달 페이지였다. 이를 챗봇에 적용시켜 활용한다면 더 큰 시너지가 일어날 수 있을 것이라는 생각이 들었다.

또 다른 기능을 어떻게 개선하면 좋을 지 또 판단하면서 프로젝트를 진행해 볼 필요성을 느꼈다.

 

 

 

---

 

 

📍 성찰 및 마무리

 

 

중간발표가 끝났지만, 급한 불을 끈 느낌이다. 좀 찝찝한 느낌이라는 것이다. 이는 기능 개선 및 구현이 완벽하게 되지 않아서일지도 모른다. 그렇지만 중간이다. 중간발푠데 너무 욕심이 과해서 이런 찝찝함이 남은 것이라는 생각을 해봤다. 앞으로의 계획과 문서 작업, 기능 개선 등 구체적으로 확인해보며 프로젝트를 진행해 봐야겠다.

 

이번 주는 딱 2일만 나왔다. 2일은 휴가를 써서 총 5일 동안 여름휴가를 즐겼다. 휴가 갔다 온 만큼, 정신 붙잡아서 남은 기간 열심히 달려봐야겠다!