코딩에서 살아남기

저희 팀의 파이널 주제는 "LLM 활용 대화형 상품 추천 시스템"입니다.이러한 주제에 맞춰서 뮤지컬, 전시회를 추천해 주는 시스템을 개발하고자 합니다.개발에 앞서 추천 모델에 관하여 Deepfm 모델을 추천을 받았는데요.오늘 글에서는 이 모델에 대한 논문 리뷰와 분석을 적어보고자 합니다.1. DeepFM: A Factorization-Machine based Neural Network for CTR Prediction 리뷰2. 적용해 볼 과제 리뷰할 논문:"DeepFM: A Factorization-Machine based Neural Network for CTR Prediction" ○ 클릭률(CTR, Click-Through Rate)은 추천 시스템에서 매우 중요    ● So, 여러 추천 시스템에서..

SpringBoot와 관련하여 매니저님에게 강의를 추천받아 해당 강의를 듣고 정리했습니다.https://www.inflearn.com/course/%EC%8A%A4%ED%94%84%EB%A7%81-%EC%9E%85%EB%AC%B8-%EC%8A%A4%ED%94%84%EB%A7%81%EB%B6%80%ED%8A%B8 [지금 무료] 스프링 입문 - 코드로 배우는 스프링 부트, 웹 MVC, DB 접근 기술 강의 | 김영한 - 인프김영한 | 스프링 입문자가 예제를 만들어가면서 스프링 웹 애플리케이션 개발 전반을 빠르게 학습할 수 있습니다., 스프링 학습 첫 길잡이! 개발 공부의 길을 잃지 않도록 도와드립니다. 📣 확www.inflearn.com이 강의 내용과 강사님의 자료를 종합해서 보니 어느정도 SpringBo..

Validation(유효성 검사): 서비스의 비즈니스 로직이 올바르게 동작하기 위해 사용되는 데이터에 대한 사전 검증  즉, Input 데이터에 대해 의도한 형식의 값이 제대로 들어오는지 체크하는 과정(역시 이렇게만 봐도 Gradle이 편하다)// Gradleimplementation 'org.springframework.boot:spring-boot-starter-validation'// Maven org.springframework.boot spring-boot-starter-validation ○ 일반적인 유효성검사    ● 간단한 검증을 하더라도 검증관련 로직이 길어지는 경향이 有    ● 검증 로직이 중복으로 여러 Layer(Controller, Service, DAO 등)에 존재  ..

저희 프로젝트에서 서버는 SpringBoot로 열기! 가 결정되었습니다.... 그래서 다시 Java 공부를 해야 하는 상황에서 강사님의 자료가 있어서 그 자료로 실습을 하면서 익혀보고자 합니다.Maven으로 빌드하고자 했던 파일은 Gradle로 변경했습니다.(강사님 : 이건 제가 현직에 있을 때나 쓰던 건데요...? 새로운 게 나오면 새로운 걸 써야죠!)Gradle: 오픈소스 빌드 자동화 툴로, 거의 모든 타입의 소프트웨어를 빌드할 수 있음○ 특징    ● High Performance : 실행시켜야 하는 task만 실행하고 build cache를 통해 이전 실행 task output을 재사용함    ● JVM foundation : JVM에서 실행되기 때문에 JDK를 설치해야 함    ● Conveti..

합성곱(Convolution): 입력 데이터에 유용한 특성만 드러나게 하는 것으로 비유 가능 ○ 밀집층의 경우밀집층에는 뉴런마다 입력 개수만큼의 가중치가 존재(= 모든 입력에 가중치를 곱함)처음에 가중치 w1 ~ w10과 절변 b를 랜덤하게 초기화 후 에포크를 반복하면서 경사 하강법 알고리즘을 사용하여 손실이 낮아지도록 최적의 가중치와 절편을 찾음(= 모델 훈련)만약 밀집층에 뉴런이 3개라면 출력은 3개 (입력 개수와 상관없음) ○ 합성곱의 경우(밀집층의 계산과 조금 다름): 입력 데이터 일부에 가중치를 곱함    ● 만약 모델이 가중치를 3개 가진다고 가정(가중치는 선정 가능)        - 가중치 w1~ w3이 입력의 처음 3개의 특성과 곱해져 1개의 출력을 만듦        - 가중치 w1 ~ w..

활성화 함수 사용 이유: 딥러닝 모델의 표현력을 항상 시켜주기 때문  이렇게 표현력을 다양화해주는다는 것을 '모델의 representation capacity 또는 expressivity 를 향상 시킨다' 라고 한다.○ 딥러닝 모델의 parameter(w, b) = 입력값 x와 선형 관계○ xw+b의 식 :입력값 x에 대하여 곱하고 더하는 연산만하기 때문에 연산 결과 값이 다음 레이어 입력으로 들어가고 출력으로 다시 나오고, 반복적으로 layer 층을 지나도 선형관계가 됨   (즉 layer층을 여러개 겹쳐도 선형관계 )○ 많고 복잡한 특징 가진 이미지(비선형)를 표현하기 위해서는 선형성이 아닌 비선형성을 지니고 있어야 함○ 활성화 함수 : 선형에서 비선형으로 바꿔주는 역할    (layer 사이 사이에..

인공지능(Artificial Intelligence): 사람의 지능을 만들기 위한 시스템이나 프로그램(딥러닝은 머신러닝에 포함되는 기술)인공신경망○ Node(노드) : 뉴런을 모방하는 기초단위                         각각의 신경 단위에서 많은 입력을 조합해 하나의 출력값으로 배출                         비선형 변환(활성 함수)을 통해 다음 노드에 전달○ 피드 포워드(Feed-forwrad) 신경망 : 입력에서 출력으로 이어지는 과정에서 순환이 없는 신경망○ 인공 뉴런(퍼셉트론)    * w : 가중치, b : 편향, h() : Activation Function [이전에 책으로 공부하였던 내용 with keras]2024.09.02 - [Networks/데이터 분석..

Tensor Flow구글에서 만든 딥러닝 프로그램을 쉽게 구현할 수 있도록 기능을 제공하는 라이브러리모델 구축과 서비스에 필요한 다양한 도구를 제공, 신경망 모델을 빠르게 구성 가능한 Keras를 핵심 API로 채택 - 가능한 요소 : 필기 숫자 판별, 이미지 인식, 단어 임베딩, 반복 신경망, 시퀀스 투 시퀀스 모델 자연어 처리, 신경망 학습 - Colab에서 딥러닝 라이브러리를 사용할 때는 그래픽 처리 장치인 GPU를 사용하여 인공 신경망 훈련하기 - GPU : 벡터와 행렬 연산에 매우 최적화되어 있기에, 덧셈과 곱셈이 많이 수행되는 인공 신경망에 큰 도움이 됨 인공 신경망(ANN; Artificial Neural Network): 기존 머신러닝 알고리즘으로 다루기 어려웠던 이미지, 음성, 텍스트 분..

이번 한 주를 보내며 이번 주 수업은 딥러닝 모델의 평가지표와 분류 모델 등 지도학습에 관하여 배웠습니다. 수요일은 지금까지 진행했던 토이 프로젝트를 발표하는 시간을 가지면서 다른 팀들이 진행해온 과정을 보고 더 분발해야겠다고 느꼈습니다. 사실 수요일까지는 어느 정도 공부했던 내용이라 토이 프로젝트를 한다고 시간을 보냈습니다... 하지만 강사님께서 열어주신 Kaggle 경진대회에서 부족한 점을 알았고, 다시 스스로 공부를 해야겠다는 다짐을 했습니다. 이번 교육에서 받은 책이 혼자 공부했던 혼자 공부하는 머신러닝 + 딥러닝 이었는데, 저번 국비 지원 교육 때 혼자 공부하였던 책이랑 같았습니다. 그래서 더 느슨해지는 경향이 있었는데 옆에서 관련된 내용을 물어봤는데 제대로 답변을 못해준 경우가 발생하여 더 공..

비지도 학습(Unsupervised Learning): 타깃이 없을 때 사용하는 머신러닝 알고리즘  사진을 분석 할 때는 높은 값으로 설정(밝은 색) why? 픽셀값이 높으면 출력값도 커지기 때문plt.imshow(fruits[0], cmap ='gray')plt.show()  색을 반전하고 싶다면?plt.imshow(fruits[0], cmap ='gray_r')plt.show() ○ 군집(clustering) 분석 : 비슷한 샘플끼리 하나의 그룹으로 모으는 대표적인 비지도 학습    ● 평균 값 찾기 : k-평균(= 클러스터 중심 | 센트로이드)       - 작동 방식          1. 무작위로 k개의 클러스터 중심 선정              * 클러스터 : 군집 알고리즘으로 모은 샘플 그룹 ..