AI

Kyeong6's Journey
[EATceed] CH07. AWS Lambda와 Slack을 활용한 데이터 파이프라인 구축기
·Project/EATceed
들어가며 이전 포스팅에서 언급했듯이 EATceed 서비스는 AI 영양사와 푸드렌즈 기능을 제공하고 있다. 이러한 기능이 안정적으로 동작하기 위해서는 정확하고 신뢰할 수 있는 음식 데이터가 필수적으로 요구된다. 특히, 공공데이터 포털에서 제공하는 전국통합식품영양성분정보(음식)표준데이터는 서비스의 핵심 기반이 되는 정보로, 이를 정기적으로 갱신하고 관리하는 작업은 매우 중요하다.  초기에는 데이터를 수작업으로 수집하고 내부 저장소(관계형 데이터베이스, 벡터 데이터베이스)에 직접 적재했지만, 시간이 지날수록 다음과 같은 문제들이 발생했다.새로운 데이터가 등록되었는지 매번 공공데이터 포털에서 수동으로 확인해야하는 모니터링 부담영양 성분 단위 변환 등 반복적 작업에서 발생하는 사소한 실수지속적인 운영 리소스 낭비..
[EATceed] CH06. LLM 응답의 품질 검증과 안정적인 운영을 위한 Fallback 패턴
·Project/EATceed
들어가며이전 포스팅에서는 실서비스 운영을 고려한 성능 최적화에 대해 다뤘다. 물론 빠른 응답 속도와 정확도도 중요하지만 실제 사용자에게 AI 기반 서비스를 제공할 때 가장 중요한 요소는 신뢰할 수 있는 품질의 응답을 일관되게 제공하는 것이다. EATceed의 AI 영양사 기능은 사용자의 건강에 직접적인 영향을 주는 정보를 제공하기 때문에 응답의 정확성과 안정성은 곧 서비스의 핵심 경쟁력이라고 볼 수 있다. 하지만 현실적으로 LLM 기반의 응답은 품질이 항상 일정하지 않고, OpenAI와 같은 외부 API에 대한 높은 의존도 역시 시스템 안정성을 위협할 수 있는 요소이다. 이를 해결하기 위해 두 가지 전략을 도입하게 되었다. Testing ChainLLM이 생성한 답변을 스스로 평가(G-Eval)하고 기준..
[EATceed] CH05. 실서비스를 고려한 성능 최적화
·Project/EATceed
들어가며EATceed의 AI 기능은 음식 이미지 판별인 푸드렌즈 기능과 식습관 분석, 일명 AI 영양사 기능을 핵심으로 삼고있다. 유저 관점에서 생각했을 때 보다 정확하고 빠른 서비스를 제공하기 위해 내부적으로 여러 가지 성능 최적화와 안정성 개선을 위해 작업을 진행했는데, 이번 포스팅에서 작업에 대한 과정을 중심으로 어떻게 테스트·구현했는지 공유하고자 합니다. 푸드렌즈: 성능 최적화 푸드렌즈 기능은 사용자가 업로드한 음식 사진을 인식해 정확한 음식명을 찾아주는 것이 핵심이다. 본 서비스에서는 편의성을 위해 음식명에 따른 영양성분 정보도 함께 제공해야 하므로 AI 모델이 탐지한 음식명과 DB에 사전 적재해둔 음식명 같의 불일치 문제가 발생한다. 예를 들어, AI 모델은 "김치"라고 탐지했는데 DB에는 "..
[EATceed] CH04. 돌고 돌아 마침내 정식 출시까지
·Project/EATceed
최종 출시 버전 여러 번의 수정과 방향 전환을 거쳐 2월 8일에 드디어 EATceed 서비스를 구글 플레이스토어에 정식 출시했다!👏이전 글에 작성했듯이 EATceed는 기존 시장 트렌드인 체중 감량과는 반대로, 저체중 사용자를 위한 체중 증가 앱이라는 독특한 목표로 시작했다. 사실 이는 팀원 모두가 체중 증량에 관심이 있었기에 “우리가 직접 사용해보자”라는 의도로 기획이 이루어졌다. 초기 Version 1에서는 챗봇 중심의 음식 추천을 구현했고, 이를 위해 GPT-3.5-turbo 모델에 Fine-Tuning까지 시도했는데 동아리 발표회 후 얻은 사용자 피드백과 팀원들과의 의논 끝에 서비스에서 “현재 서비스와 챗봇이 잘 어울리지 않는다”라는 결론에 도달했다.  이후 Version 2에서는 음식 이미지 ..
인프런 판교 퇴근길 밋업 #09 AI Dev 참여 후기
·Activity
신청 계기인프런에서 정기적으로 진행하는 행사인 "판교 퇴근길 밋업"에 선정되어 참여하게 되었다! 학부생 신분이다보니 선발되기 어렵겠다라고 판단했는데.. 운이 좋았다🙃 이번 밋업에 지원한 이유는 동아리 프로젝트인 EATceed에서 AI 기능 개발(LLM Product)을 맡아 진행하고 있기 때문이다. 프로젝트를 진행하며 내가 선택한 개발 방식과 흐름이 맞는지 과연 적절한지 스스로 의문이 들 때가 있었는데, 이번 밋엇을 통해 현업에서는 어떤 방식으로 문제를 해결하는지, 어떤 기술을 사용하는지, 그리고 그 기술을 왜 도입했는지 등 실무적인 인사이트를 얻고 싶었다.  인턴 과정에서 프로젝트를 진행했을 때에도 비슷한 어려움을 겪은 적이 있다. 이때는 Google Machine Learning Bootcamp(5..
Kyeong6
'AI' 태그의 글 목록